Anthropic-ის CEO ხელოვნური სუპერინტელექტისკენ რბოლის შენელებას ითხოვს

Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ უსაფრთხოების ახალი ზომა გამოაცხადა. კომპანია დამოუკიდებელ შემფასებლებს მუდმივ, თანამშრომლის დონის შიდა წვდომას მისცემს. ეს ხელოვნური ინტელექტის განვითარების ტემპის შენელებისკენ მიმართული ძალისხმევის ნაწილია.

ამოდეიმ შაბათს გამოქვეყნებულ ესეში გეგმა წარმოადგინა, რომლის მიზანიც „მოწინავე სფეროში ტემპის შენელება“, ანუ ხელოვნური ინტელექტის განვითარების შენელებაა.

ამოდეიმ დაწერა: „ჩვენ უნდა შევანელოთ ტემპი, რომლითაც ხელოვნური ინტელექტის მოდელების შესაძლებლობებს ვაუმჯობესებთ. წინსვლა კვლავ სწრაფი გამოჩნდება და მიღებული დრო გონივრულად უნდა გამოვიყენოთ“.

სამსაფეხურიანი გეგმის ფარგლებში, ამოდეიმ ყველა მოწინავე ხელოვნური ინტელექტის კომპანიას დამოუკიდებელი შემფასებლებისთვის მუდმივი, თანამშრომლის დონის წვდომის მინიჭებისკენ მოუწოდა. მათ უსაფრთხოების პრაქტიკის შემოწმებისა და ინციდენტების გასაჯაროების შესაძლებლობა ექნებათ. მეორე ნაბიჯად მან დემოკრატიულ ქვეყნებში მოქმედ კომპანიებს საერთო უსაფრთხოების სტანდარტებზე შეთანხმებისკენ მოუწოდა. ამ სტანდარტებმა უკონტროლო წინსვლის ტემპი უნდა შეზღუდოს. მესამე ნაბიჯად, დემოკრატიულმა მთავრობებმა ავტორიტარულ სახელმწიფოებთან კოორდინაცია უნდა სცადონ. თანამშრომლობა ყველასთვის სასარგებლო შეთანხმებებით უნდა დაიწყოს, მათ შორის, ბიოლოგიური იარაღის შესაქმნელად ხელოვნური ინტელექტის გამოყენების აკრძალვით.

ამოდეი ხელოვნური ინტელექტის განვითარების ტემპთან დაკავშირებით დიდი ხანია აფრთხილებს საზოგადოებას. თუმცა, მისი თქმით, ორმა ბოლოდროინდელმა ცვლილებამ ტექნოლოგიის სასწრაფოდ დასაცავად ზომების მიღების აუცილებლობა გაზარდა. ამოდეიმ აღნიშნა, რომ მოდელებს საკუთარი შემცვლელების შექმნა სულ უფრო მეტად შეუძლიათ, რაც წინსვლას კიდევ უფრო აჩქარებს. მან დასძინა, რომ ინდუსტრიაში, მათ შორის, თავად Anthropic-ში, უსაფრთხოებასთან დაკავშირებული ინციდენტები გახშირდა. ამოდეიმ დაწერა, რომ მოდელების განვითარების თუნდაც რამდენიმე წლით შენელება მკვლევრებს გაუთვალისწინებელი შედეგების რისკის შესამცირებლად დროს მისცემდა. მან ინდუსტრიას ამის დაუყოვნებლივ გაკეთებისკენ მოუწოდა.

Anthropic პირველ ნაბიჯს ცალმხრივად და დაუყოვნებლივ გადადგამს. ამოდეის თქმით, დამოუკიდებელი შემფასებლები კომპანიაში მუდმივად იმუშავებენ. მათ ისეთივე წვდომა ექნებათ, როგორიც კომპანიის რისკების შეფასების გუნდებს აქვთ. შემფასებლებს დასკვნების გამოქვეყნება Anthropic-ის სარედაქციო კონტროლის გარეშე შეეძლებათ.

Anthropic ამ კვირაში მედიის ყურადღების ცენტრში მოექცა. მკვლევარმა ჯეიკობ კოქსონმა ლაბორატორია საჯაროდ დატოვა და გააფრთხილა, რომ ხელოვნური ინტელექტის კომპანიები ადამიანების სიცოცხლეს რისკის ქვეშ აყენებდნენ. კოქსონი OpenAI-სა და Anthropic-ში მოდელების წინასწარი წვრთნის კვლევებზე სამი წლის განმავლობაში მუშაობდა. მან X-ზე გადადგომის შესახებ დაწერა: „არცერთი კომპანია პასუხისმგებლობით არ მოქმედებს. ისინი პირდაპირ თვითგაუმჯობესებადი სუპერინტელექტისკენ მიექანებიან და ჩვენს სიცოცხლეს რისკის ქვეშ აყენებენ“. კოქსონმა დასძინა: „მალე ეს იქნება ზეადამიანური სისტემები, რომლებიც შეძლებენ ყველაფრის გატეხვას, ნებისმიერი სფეროს ერთ ღამეში გარდაქმნას და რეალური ძალაუფლებისა და რესურსების მოპოვებას“.