Anthropic-ის დირექტორი ხელოვნური ინტელექტის ბოტნეტის საფრთხეზე აფრთხილებს

ბოლო წლებში ხელოვნური ინტელექტის ტექნოლოგიების წინსვლა უდავოა, მისი ტემპი კი თითქმის დაუჯერებელია. მოწინავე ხელოვნური ინტელექტის მოდელებზე სულ მცირე ოთხი ამერიკული კომპანია მუშაობს. კონკურენცია ინტენსიურია და ახალი მოდელების შექმნა სწრაფად მიმდინარეობს. თუმცა, Anthropic-ის (Anthropic) აღმასრულებელმა დირექტორმა დარიო ამოდეიმ ახალი მოდელების განვითარების შენელებისკენ მოუწოდა. მან ასევე გააფრთხილა საზოგადოება ხელოვნური ინტელექტით მართული ბოტნეტების შესაძლო „გუნდის“ შესახებ, რომელმაც შეიძლება მთელი ინტერნეტი ჩაიგდოს ხელში.

დარიო ამოდეიმ ღია წერილში დაწერა: „ხელოვნური ინტელექტის შესაძლებლობების განვითარების მზარდი ტემპის გათვალისწინებით, ვშიშობ, რომ 6-12 თვეში ასეთმა გუნდმა მუდმივი ბოტნეტის მეშვეობით შეიძლება მთელი ინტერნეტი ჩაიგდოს ხელში და პოტენციურად ასობით მილიარდი დოლარის ზიანი გამოიწვიოს. თუ ხელოვნური ინტელექტი საჭირო დამცავი მექანიზმების გარეშე გაძლიერდება, ზიანის მასშტაბი ამის შემდეგაც გაიზრდება“.

ამოდეის მოსაზრებას დიდწილად იზიარებს ხელოვნური ინტელექტის მეცნიერი ევან ჰუბინგერი, რომელმაც Anthropic ცოტა ხნის წინ დატოვა. შემდეგ მან განაცხადა, რომ ათწლეულის ბოლომდე კაცობრიობის გადაშენების ალბათობა 10%-ია. ჰუბინგერმა X-ზე დაწერა: „ჩვენ ნამდვილად და გულწრფელად გვჯერა, რომ ხელოვნურმა ინტელექტმა შეიძლება ყველა ადამიანი მოკლას. პირადად მე ვფიქრობ, რომ მომდევნო ათწლეულში ამის ალბათობა 10%-ზე მეტია. მჯერა, რომ Anthropic ყველაფერს აკეთებს, რაც შეუძლია. თუმცა, ჯერ არ გვაქვს ზეგონიერების მიზნებთან შესაბამისობის პრობლემის გადაჭრის გეგმა და აშკარად არც მისი შექმნის გზას ვადგავართ“.

ჯეიმს კამერონის „ტერმინატორისა“ და ფრენკ ჰერბერტის „დიუნის“ სამყაროებში ხელოვნური ინტელექტი სახიფათო გამოგონებადაა წარმოდგენილი. თუმცა, საკითხს უფრო ახლოდან უნდა შევხედოთ. ხელოვნური ინტელექტის შემდგომი განვითარება კითხვებზე პასუხებიდან რთული, მრავალეტაპიანი ამოცანების დამოუკიდებლად შესრულებაზე გადადის. ადრე ამისთვის კვალიფიციური სპეციალისტების გუნდები იყო საჭირო. ეს გვიბიძგებს, განვიხილოთ, როგორ იყენებენ ადამიანური რესურსების არმქონე მოწინააღმდეგეები Anthropic-ის შესაძლებლობებს.

Anthropic-ის კვლევის თანახმად, დღევანდელ მოდელებს უკვე შეუძლიათ დახმარება იარაღის შექმნაში, სამხედრო დაზვერვაში, მეთვალყურეობაში, კიბეროპერაციებსა და სხვა პოტენციურად დამანგრეველ საქმიანობაში. უფრო მძლავრმა მომდევნო მოდელებმა კი შესაძლოა მკვეთრად შეამცირონ ასეთი საქმიანობისთვის საჭირო ცოდნა, სამუშაო ძალა და დრო.

ეს დასკვნები სამეცნიერო ფანტასტიკის ორ საკმაოდ განსხვავებულ გაფრთხილებას ეხმიანება. ჯეიმს კამერონის „ტერმინატორმა“ ავტონომიურ სამხედრო ხელოვნურ ინტელექტზე კონტროლის დაკარგვის შედეგები აჩვენა. ფრენკ ჰერბერტის „დიუნში“ კი კაცობრიობა სახიფათო დამოკიდებულების შემდეგ ხელოვნურ ინტელექტს საბოლოოდ კრძალავს.