Anthropic-ის დირექტორი ხელოვნური ინტელექტის ბოტნეტის საფრთხეზე აფრთხილებს

დარიო ამოდეიმ ღია წერილში დაწერა: „ხელოვნური ინტელექტის შესაძლებლობების განვითარების მზარდი ტემპის გათვალისწინებით, ვშიშობ, რომ 6-12 თვეში ასეთმა გუნდმა მუდმივი ბოტნეტის მეშვეობით შეიძლება მთელი ინტერნეტი ჩაიგდოს ხელში და პოტენციურად ასობით მილიარდი დოლარის ზიანი გამოიწვიოს. თუ ხელოვნური ინტელექტი საჭირო დამცავი მექანიზმების გარეშე გაძლიერდება, ზიანის მასშტაბი ამის შემდეგაც გაიზრდება“.

ამოდეის მოსაზრებას დიდწილად იზიარებს ხელოვნური ინტელექტის მეცნიერი ევან ჰუბინგერი, რომელმაც Anthropic ცოტა ხნის წინ დატოვა. შემდეგ მან განაცხადა, რომ ათწლეულის ბოლომდე კაცობრიობის გადაშენების ალბათობა 10%-ია. ჰუბინგერმა X-ზე დაწერა: „ჩვენ ნამდვილად და გულწრფელად გვჯერა, რომ ხელოვნურმა ინტელექტმა შეიძლება ყველა ადამიანი მოკლას. პირადად მე ვფიქრობ, რომ მომდევნო ათწლეულში ამის ალბათობა 10%-ზე მეტია. მჯერა, რომ Anthropic ყველაფერს აკეთებს, რაც შეუძლია. თუმცა, ჯერ არ გვაქვს ზეგონიერების მიზნებთან შესაბამისობის პრობლემის გადაჭრის გეგმა და აშკარად არც მისი შექმნის გზას ვადგავართ“.

ჯეიმს კამერონის „ტერმინატორისა“ და ფრენკ ჰერბერტის „დიუნის“ სამყაროებში ხელოვნური ინტელექტი სახიფათო გამოგონებადაა წარმოდგენილი. თუმცა, საკითხს უფრო ახლოდან უნდა შევხედოთ. ხელოვნური ინტელექტის შემდგომი განვითარება კითხვებზე პასუხებიდან რთული, მრავალეტაპიანი ამოცანების დამოუკიდებლად შესრულებაზე გადადის. ადრე ამისთვის კვალიფიციური სპეციალისტების გუნდები იყო საჭირო. ეს გვიბიძგებს, განვიხილოთ, როგორ იყენებენ ადამიანური რესურსების არმქონე მოწინააღმდეგეები Anthropic-ის შესაძლებლობებს.

Anthropic-ის კვლევის თანახმად, დღევანდელ მოდელებს უკვე შეუძლიათ დახმარება იარაღის შექმნაში, სამხედრო დაზვერვაში, მეთვალყურეობაში, კიბეროპერაციებსა და სხვა პოტენციურად დამანგრეველ საქმიანობაში. უფრო მძლავრმა მომდევნო მოდელებმა კი შესაძლოა მკვეთრად შეამცირონ ასეთი საქმიანობისთვის საჭირო ცოდნა, სამუშაო ძალა და დრო.

ეს დასკვნები სამეცნიერო ფანტასტიკის ორ საკმაოდ განსხვავებულ გაფრთხილებას ეხმიანება. ჯეიმს კამერონის „ტერმინატორმა“ ავტონომიურ სამხედრო ხელოვნურ ინტელექტზე კონტროლის დაკარგვის შედეგები აჩვენა. ფრენკ ჰერბერტის „დიუნში“ კი კაცობრიობა სახიფათო დამოკიდებულების შემდეგ ხელოვნურ ინტელექტს საბოლოოდ კრძალავს.

ამასთან, უფრო დიდი შესაძლებლობები ავტომატურად უფრო დიდ საფრთხეს არ ნიშნავს. მაგალითად, უფრო მოწინავე ტექნოლოგიას შეიძლება უფრო ძლიერი დამცავი მექანიზმებიც ჰქონდეს. მას ასევე შეუძლია მავნე საქმიანობის გამოვლენა და ისეთი სამუშაოს ავტომატიზაცია, რომელიც აქამდე ავტომატიზებული არ ყოფილა.

ხელოვნური ინტელექტის განვითარების შეჩერებამ შეიძლება საპირისპირო შედეგიც გამოიწვიოს, თუ ნაკლებად პასუხისმგებლიანი კომპანიები ან ქვეყნები საკუთარ მოდელებს კვლავ განავითარებენ. სინამდვილეში, ყველაზე მძლავრი სისტემების სამხედრო აგრესიით ცნობილი სუბიექტებისთვის დატოვება არანაკლებ სახიფათოა, ვიდრე მაიმუნისთვის ხელყუმბარის მიცემა.