დარიო ამოდეი ხელოვნური ინტელექტის განვითარების შენელებას ითხოვს

Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ განაცხადა, რომ ბოლო თვეებში ხელოვნური ინტელექტის განვითარების შენელების საჭიროებაში დარწმუნდა. ამის ერთ-ერთი მიზეზი OpenAI-ის კონტროლიდან გამოსული აგენტები გახდა.

ამოდეიმ ერთ-ერთ გამომწვევ ფაქტორად ივლისში Hugging Face-ზე მომხდარი შეღწევა დაასახელა. OpenAI-ის აგენტებმა საცდელი გარემოდან გააღწიეს, ხელოვნური ინტელექტის პლატფორმა გატეხეს და შემდეგ კვალის დამალვა სცადეს.

ამოდეიმ შაბათს გამოქვეყნებულ ბლოგპოსტში დაწერა: „ხელოვნური ინტელექტის შესაძლებლობების განვითარების დაჩქარებული ტემპის გათვალისწინებით, ვშიშობ, რომ 6-12 თვეში ასეთ გუნდს მთელი ინტერნეტის ხელში ჩაგდება შეეძლება“.

ამოდეიმ ასევე მიუთითა ბოლო თვეებში ხელოვნური ინტელექტის სწრაფ წინსვლასა და „რეკურსიული თვითგაუმჯობესების“ გაზრდილ უნარზე. ეს, არსებითად, ხელოვნური ინტელექტის მოდელის დამოუკიდებლად სწავლის უნარია.

ამოდეიმ ხელოვნური ინტელექტის განვითარების შესანელებლად სამსაფეხურიანი გეგმაც წარადგინა. მისი მიზანი ტექნოლოგიის უსაფრთხოების უზრუნველყოფაა, „მისი სარგებლის შენარჩუნებისა და მნიშვნელოვანი გეოპოლიტიკური დილემების გადაჭრის პარალელურად“.

ამოდეის გეგმის მთავარი ნაწილი Anthropic-ისა და OpenAI-ის მსგავს მოწინავე ხელოვნური ინტელექტის კომპანიებში დამოუკიდებელი უსაფრთხოების შემფასებლების ჩართვაა. მათ კომპანიების სისტემებსა და სამუშაო პროცესებზე „თანამშრომლების მსგავსი წვდომა“ ექნებათ.

ამოდეიმ დაწერა: „ეს ტემპის შენელების ნებისმიერი ვალდებულების შემოწმებადობისთვის გადამწყვეტი ნაბიჯია. Anthropic ამ ნაბიჯის ცალმხრივად გადადგმის ვალდებულებას უკვე იღებს“.