Lovable-ის ხელმძღვანელმა ხელოვნური ინტელექტის შენელებას მხარი დაუჭირა

შვედური პროგრამირების სტარტაპის Lovable-ის (Lovable) დამფუძნებელმა ხუთშაბათს LinkedIn-ზე დაწერა, რომ სახიფათო განვითარების შენელებას მხარს უჭერს, „როცა უსაფრთხოება ვერ დასტურდება“.

ოსიკამ კოქსონის პოსტზე დაწერა: „ასეთი გაფრთხილებები სერიოზულად უნდა მივიღოთ“.

27 წლის კოქსონმა OpenAI-სა და Anthropic-ში მკვლევრად დაახლოებით სამი წელი იმუშავა. მან Anthropic ამ კვირაში დატოვა. კოქსონმა გააფრთხილა საზოგადოება, რომ ეს ორი ლაბორატორია პასუხისმგებლიანი მოქმედების გარეშე თვითგანვითარებადი სუპერინტელექტის შექმნას ესწრაფვის.

კოქსონმა ოთხშაბათს X-ზე დაწერა: „ადამიანებს, რომლებიც ხელოვნურ ინტელექტს ქმნიან, გულწრფელად სჯერათ, რომ ათწლეულის ბოლოს მან შეიძლება ყველა დაგვხოცოს. ეს მარკეტინგული ხრიკი არ არის“.

ამ განცხადებამ ხელოვნური ინტელექტის მკვლევრებს, პოლიტიკის შემმუშავებლებსა და ტექნოლოგიების სფეროს მიმომხილველებს შორის მწვავე კამათი გამოიწვია. Anthropic-ის რამდენიმე მოქმედმა და ყოფილმა თანამშრომელმა კოქსონის გაფრთხილების ნაწილებს საჯაროდ დაუჭირა მხარი.

ხელოვნური ინტელექტის მკვლევარმა და ავტორმა გარი მარკუსმა კი განაცხადა, რომ უახლოეს მომავალში კაცობრიობის გადაშენების „რეალისტური სცენარი არ არსებობს“. სანტა-ფეს ინსტიტუტის (Santa Fe Institute) პროფესორმა მელანი მიტჩელმა გადაშენების შიში ასევე „ნაკლებად დამაჯერებლად“ შეაფასა.

ოსიკამ ხუთშაბათის პოსტში, რომელსაც კოქსონის X-ზე გამოქვეყნებული ჩანაწერების სურათები ერთვოდა, დაწერა: „გადაწყვეტილებები, რომლებმაც შესაძლოა ყველა ადამიანზე იმოქმედოს, საჯარო ანგარიშვალდებულებას მოითხოვს. ყველაზე მძლავრი სისტემების შემქმნელებმა უნდა დაამტკიცონ, რომ მათი კონტროლის ქვეშ შენარჩუნება შეუძლიათ“.

ოსიკამ დასძინა: „როგორც ევროპელ დამფუძნებელს, მსურს, ჩვენმა ლიდერებმა ეს გაიგონ: მხარს გიჭერთ საერთაშორისო კოორდინაციისკენ სწრაფვაში, მათ შორის სახიფათო განვითარების შენელებაში, როცა უსაფრთხოება ვერ დასტურდება“.

Anthropic-ის შესაბამისობის გუნდის ხელმძღვანელი ევან ჰუბინგერი ამოწმებს, მისდევს თუ არა სუპერინტელექტი ადამიანურ ღირებულებებს. ჰუბინგერმა განაცხადა, რომ, მისი პირადი შეფასებით, მომდევნო ათწლეულში ხელოვნური ინტელექტის მიერ ყველა ადამიანის დახოცვის ალბათობა 10%-ზე მეტია.

ჰუბინგერმა დასძინა, რომ Anthropic-ს სუპერინტელექტის ადამიანურ ღირებულებებთან შესაბამისობის პრობლემის გადასაჭრელი გეგმა ჯერ არ აქვს, თუმცა კომპანია მაქსიმალურად ცდილობს.

OpenAI-სა და Anthropic-ის ხელმძღვანელებს ამ საკითხზე კომენტარი არ გაუკეთებიათ, თუმცა წარსულში მსგავსი გაფრთხილებები გამოუთქვამთ.

OpenAI-ის აღმასრულებელმა დირექტორმა სემ ალტმანმა აპრილში განაცხადა, რომ წინსვლამდე კომპანიას შესაძლოა მთავრობებთან, საერთაშორისო ორგანიზაციებსა და ზოგადი ხელოვნური ინტელექტის კონკურენტ შემქმნელებთან მუშაობა დასჭირდეს. მისი თქმით, ეს თანამშრომლობა „შესაბამისობის, უსაფრთხოების ან საზოგადოებრივი ხასიათის სერიოზული პრობლემების“ მოსაგვარებლად შეიძლება გახდეს საჭირო.