სატია ნადელამ თანამშრომლები ხელოვნური ინტელექტის უსაფრთხოებაზე გააფრთხილა

კომპანიის შეტყობინებების დაფაზე ორშაბათს გვიან გამოქვეყნებული წერილის თანახმად, ნადელამ განაცხადა, რომ ხელოვნური ინტელექტი ადამიანის კონტროლის ქვეშ უნდა დარჩეს. მან უფრო ფართო გარე ტესტირებას დაუჭირა მხარი და კომპანიები გააფრთხილა, რომ ტექნოლოგიის უსაფრთხოებისთვის დრო უნდა გამოყონ.

ნადელამ დაწერა: „რაც უფრო მაღალია ფსონი, მით მეტი საჭირო დრო უნდა გამოყოს ყველამ. წინააღმდეგ შემთხვევაში, საქმიანობის ნებართვას მაინც დაკარგავთ“.

ნადელას განცხადებებს წინ უძღოდა ხელოვნური ინტელექტის ზოგიერთი მკვლევრის მძიმე გაფრთხილება. მათ გასულ კვირას თქვეს, რომ ტექნოლოგიამ შესაძლოა ყველა ადამიანი მოკლას.

Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ (Dario Amodei) ამ კვირის ბოლოს ხელოვნური ინტელექტის უფრო ნელი განვითარება შესთავაზა. მან ასევე განაცხადა, რომ კომპანია საკუთარი მოდელების პროგრესზე გარე მონიტორინგს დაუშვებდა. OpenAI-ის აღმასრულებელი დირექტორი სემ ალტმანი გარე მონიტორინგს დაეთანხმა. მან უსაფრთხოებისა და შესაბამისობის უზრუნველსაყოფად, საჭიროების შემთხვევაში, დანერგვის შენელებასაც დაუჭირა მხარი.

Microsoft AI-მ ორშაბათს თავისი „ჰუმანისტური“ ხელოვნური ინტელექტის მოდელებისთვის განკუთვნილი, 37-გვერდიანი ქცევის კოდექსის პროექტი გამოაქვეყნა. Microsoft AI-ის აღმასრულებელმა დირექტორმა მუსტაფა სულეიმანმა (Mustafa Suleyman) დაწერა: „ის, რაც დიდი ხნის განმავლობაში თეორიულად გვაშფოთებდა, მეტად რეალური გახდა“.

ნადელამ დაწერა: „შაბათ-კვირას ხელოვნურ ინტელექტზე ბევრი საუბარი გაიმართა. როგორც პლატფორმის მიმწოდებელი კომპანია, ჩვენ სამი მიმართულებით ჩვენი მიდგომის პრაქტიკაში განხორციელებაზე ვკონცენტრირდებით“.

„პირველ რიგში, მიზანი მკაფიოდ უნდა განვსაზღვროთ. როგორც უკვე აღვნიშნე, ხელოვნური ინტელექტი ადამიანის კონტროლის ქვეშ უნდა დარჩეს და ფართო საზოგადოებას სარგებელი მოუტანოს. ეს ნიშნავს მოწინავე ეკოსისტემის შექმნას, სადაც დახურული და ღია კოდის მოდელები თანაბრად განვითარდება. შესაბამისობის საკითხებში განვითარების ტემპიც გააზრებულად უნდა განვსაზღვროთ“.

„ამას ტესტირებას ვადარებ. გამოშვებამდე კვლევის, განვითარების და ტესტირების დროს ტემპს ყველანი მიზანმიმართულად ვაკონტროლებთ. მეტი გარე ტესტირება და მეტი დამოუკიდებელი შემმოწმებელი დადებითი მოვლენაა. რაც უფრო მაღალია ფსონი, მით მეტი საჭირო დრო უნდა გამოყოს ყველამ. წინააღმდეგ შემთხვევაში, საქმიანობის ნებართვას მაინც დაკარგავთ“.

„ყოველდღიურად სწორედ ასე ვმუშაობთ. ყველა დონეზე დაკვირვების შესაძლებლობას უზრუნველვყოფთ, რათა მართვისა და შეზღუდვის წესები აღვასრულოთ. ამ პრინციპებით ჩვენს მოდელებსაც შევქმნით. მუსტაფამ დღეს საჯარო განხილვისთვის გამოაქვეყნა ქცევის კოდექსი, რომელსაც ჩვენი საკუთარი MAI მოდელები ეფუძნება“.