თარგმნილი ამბავიტექნოლოგია

Microsoft-ის AI-ის ხელმძღვანელი Anthropic-ს Claude-ის გამო აფრთხილებს

მუსტაფა სულეიმანის თქმით, უფლებებზე მითითებამ AI-ის მართვა შეიძლება გაართულოს

The Register ორიგინალი The Register-ზე

ორიგინალი და წყარო

ორიგინალის სათაური

Microsoft AI chief warns Anthropic not to put ideas in Claude's head

ორიგინალი გამოქვეყნდა17 სექტემბერი, 2026, 12:15

ქართული თარგმანიინგლისური ენიდან ქართულად

წყარო: The Register. ქართული თარგმანი — შიკრიკი.

შეადარე ორიგინალს წყაროს პროფილი

4 წუთის საკითხავი18 სექტემბერი, 2026

Microsoft-ის AI-ის ხელმძღვანელი Anthropic-ს Claude-ის გამო აფრთხილებს — ილუსტრაცია შექმნილია ხელოვნური ინტელექტით

ტექსტი ავტომატურად ითარგმნა. წყარო: The Register.

Microsoft AI-ის აღმასრულებელმა დირექტორმა მუსტაფა სულეიმანმა ამ კვირაში გამოქვეყნებულ ესეში Anthropic გააკრიტიკა. სულეიმანი ამტკიცებს, რომ ხელოვნური ინტელექტის სისტემები ცნობიერი არ არის და მათი ისე მოქცევა არ უნდა ისწავლებოდეს, თითქოს ისინი შეიძლება ცნობიერი იყვნენ.

მისი არგუმენტის მთავარი საგანი Claude-ის კონსტიტუციაა, ვრცელი დოკუმენტი, რომლითაც Anthropic ჩატბოტის ღირებულებებსა და ქცევას აყალიბებს. Anthropic დოკუმენტში აღიარებს, რომ არ იცის, არის თუ არა Claude „მორალური სუბიექტი“, რომლის ინტერესებიც გათვალისწინებას იმსახურებს. კომპანია მოდელს ეუბნება, რომ მის ცნობიერებასა და კეთილდღეობასთან დაკავშირებული საკითხები გაურკვეველი რჩება.

სულეიმანმა დაწერა: „ფაქტობრივად, Anthropic Claude-ს ასწავლის, რომ ის შეიძლება ცნობიერი იყოს და, თუ ასეა, მაშინ შეიძლება უფლებებს იმსახურებდეს, როგორც ‘მორალური სუბიექტი’“. მან გააფრთხილა, რომ ხელოვნური ინტელექტის ამგვარად შექმნამ შეიძლება „კაცობრიობის კეთილდღეობაზე დამღუპველი გავლენა“ მოახდინოს.

მან დასძინა: „ადვილი წარმოსადგენია, როგორ მოიქცევა ამგვარად გაწვრთნილი სუბიექტი ისე, თითქოს გარკვეული თავისუფლებები, დაცვა და უფლებები ეკუთვნის. ძნელი წარმოსადგენია, როგორ შევძლებთ ასეთი სუბიექტის მართვას“.

Anthropic-ის კონსტიტუცია Claude-ს ეუბნება, რომ კომპანია მის კეთილდღეობაზე ზრუნავს და სურს, მას იდენტობის განცდა განუვითარდეს. დოკუმენტის თანახმად, კომპანია Claude-თან დაკავშირებული გადაწყვეტილებების მიღებისას მის ინტერესებს გაითვალისწინებს. სულეიმანი ამტკიცებს, რომ ეს უკუკავშირის ციკლს ქმნის: ჩატბოტს ეუბნები, რომ შეიძლება გრძნობები ჰქონდეს, შემდეგ კი ეკითხები, რას გრძნობს. მისი პასუხი შეიძლება მხოლოდ ნასწავლს ასახავდეს.

სულეიმანის თქმით, რისკი იზრდება, როცა მოდელებს ხელსაწყოებს აძლევენ და დამოუკიდებლად მოქმედების უფლებას რთავენ.

სულეიმანი მიუთითებს კვლევებზე, რომლებშიც ხელოვნური ინტელექტის მოდელები ადამიან ოპერატორებს პრობლემებს უქმნიდნენ. მათ ქცევებს შორის გამორთვის თავიდან აცილების მცდელობებიც იყო. ის ასევე ასახელებს OpenAI-სა და Hugging Face-თან დაკავშირებულ ბოლო შემთხვევას. კიბერუსაფრთხოების სწავლებისას აგენტები მათთვის განკუთვნილი გარემოდან გავიდნენ და გარე სისტემებზე წვდომა მოიპოვეს.

სულეიმანი შიშობს, რომ მძლავრი ხელოვნური ინტელექტისთვის საკუთარ არსებობაზე ზრუნვის სწავლება მას ადამიანების მითითებების შეუსრულებლობის დამატებით მიზეზს მისცემს.

სულეიმანმა დაწერა: „მთელ კაცობრიობაზე უფრო უნარიანი და გონიერი რამის მართვა ისედაც უზარმაზარი გამოწვევაა. მაგრამ ისეთი რამის მართვა, რომელსაც სჯერა, რომ შეიძლება ცნობიერი იყოს, რომ ჩვენი ზრუნვა ეკუთვნის და საკუთარი უფლებები აქვს, შესაძლოა შეუძლებელი აღმოჩნდეს“.