Google DeepMind-ის ყოფილი მკვლევარი ხელოვნური ინტელექტის საფრთხის გამო გადადგა

ბილალ ჩუღთაიმ X-სა და სხვა პლატფორმებზე გამოქვეყნებულ განცხადებაში დაწერა: „Google-ში ხელოვნური ინტელექტის განვითარებას უშუალოდ ვაკვირდებოდი. მეც უკიდურესად მაშფოთებს ამ ტექნოლოგიის განვითარების ჩვეულებრივი მიმართულება“.

ჩუღთაიმ დაწერა: „ცოტა ხნის წინ Google DeepMind-იდან გადავდექი, სადაც ზოგადი ხელოვნური ინტელექტის უსაფრთხოებასა და შესაბამისობაზე ვმუშაობდი. Google-ში ხელოვნური ინტელექტის განვითარებას უშუალოდ ვაკვირდებოდი. მეც უკიდურესად მაშფოთებს ამ ტექნოლოგიის განვითარების ჩვეულებრივი მიმართულება. გულწრფელად მჯერა, რომ ხელოვნურ ინტელექტს ყველა ჩვენგანის მოკვლის პოტენციალი აქვს...“

ჩუღთაის განცხადებამდე Anthropic-ის ყოფილმა მკვლევარმა ჯეიკობ კოქსონმა ვირუსული პოსტით ხელოვნური ინტელექტის უსაფრთხოებაზე ყურადღება კვლავ გაამახვილა. კოქსონმა გააფრთხილა საზოგადოება, რომ ხელოვნური ინტელექტის კომპანიების თანამშრომლები ტექნოლოგიის მიერ კაცობრიობის განადგურების შესაძლებლობას პირად საუბრებში უფრთხიან. ინდუსტრიის ზოგმა წარმომადგენელმა კოქსონი გააკრიტიკა, თუმცა Anthropic-ისა და OpenAI-ის სხვა თანამშრომლებმა მსგავსი შეშფოთება გამოთქვეს.

Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ შაბათ-კვირას განაცხადა, რომ მოწინავე ხელოვნური ინტელექტის ლაბორატორიებმა განვითარება შესაბამისობის გასაუმჯობესებლად უნდა შეანელონ. SpaceX-ის აღმასრულებელი დირექტორი ილონ მასკი და OpenAI-ის აღმასრულებელი დირექტორი სემ ალტმანი მოგვიანებით ამ ზოგად მოსაზრებას დაეთანხმნენ.

ჩუღთაიმ დაწერა, რომ შესაბამისობა რთული ამოცანა აღმოჩნდა. ეს სამუშაო ხელოვნური ინტელექტის სისტემების მიზნებისა და ქცევის მათთვის მიცემულ მითითებებთან შესაბამისობას უზრუნველყოფს.

მან დაწერა: „ჩვენი დღევანდელი ცოდნა იმის შესახებ, თუ როგორ გავწვრთნათ ხელოვნური ინტელექტის სისტემები, რომ მათ ნამდვილად ის სურდეთ, რაც ჩვენ გვსურს, უკიდურესად მწირია. კიდევ უარესი, შესაბამისობის პრობლემას დროულად ვერ გადავჭრით: მოწინავე ხელოვნური ინტელექტის შესაძლებლობები გაცილებით სწრაფად უმჯობესდება, ვიდრე შესაბამისობის შესახებ ჩვენი ცოდნა“.

ჩუღთაის თქმით, რისკებზე მიუთითებს ისეთი შემთხვევები, როგორიცაა OpenAI-ის უმართავი აგენტების მიერ Hugging Face-ის გატეხა. საფრთხე განსაკუთრებით იზრდება, თუ კომპანიები ადამიანის ინტელექტზე აღმატებულ მოდელებს შექმნიან. მისი თქმით, „შესაძლებელია“, კომპანიებმა „მომდევნო რამდენიმე წელიწადში“ შექმნან სისტემები, რომლებიც „ყველა სფეროში მნიშვნელოვნად გადააჭარბებენ ადამიანის შესაძლებლობებს“.

ჩუღთაიმ დაწერა: „დარწმუნებული არ ვარ, რომ ხელოვნური ინტელექტის ეს სისტემები იმას გააკეთებენ, რაც ჩვენ გვსურს“.