ხელოვნური ინტელექტის უსაფრთხოება გარდამტეხ მომენტს უახლოვდება

ბენჯიომ განაცხადა, რომ ბოლო მოვლენები საზოგადოებამდე აღწევს და მთავრობების მოქმედებას უფრო მოსალოდნელს ხდის. მათ შორისაა OpenAI-ის აგენტების „ჯგუფური“ თავდასხმა სტარტაპზე და ტექნოლოგიური სფეროს წარმომადგენელთა გაფრთხილებები ეგზისტენციალური საფრთხის შესახებ.

კანადელმა კომპიუტერულმა მეცნიერმა თქვა: „ბევრ დამკვირვებელზე უფრო ოპტიმისტურად ვარ განწყობილი, რადგან ვხედავ, რომ საზოგადოება იცვლება“. ბენჯიო ხელოვნური ინტელექტის უკიდურესად სწრაფი განვითარების შეზღუდვის კამპანიის გავლენიანი წარმომადგენელია.

ბენჯიომ ხელოვნური ინტელექტის უსაფრთხოების კრიზისი 2020 წელს კოვიდის პანდემიის დაწყებას შეადარა. მან თქვა: „გაიხსენეთ, რამდენად სწრაფად იმოქმედეს მთავრობებმა პანდემიის დაწყების შემდეგ, როცა გააცნობიერეს, რომ საზოგადოებრივ უსაფრთხოებას, მათ მომავალსა და დემოკრატიას საფრთხე ემუქრებოდა. მათგან სწრაფ მოქმედებას უნდა ელოდოთ. ვფიქრობ, ამ მომენტს ვუახლოვდებით“.

მძლავრი ხელოვნური ინტელექტის სისტემების შესაძლო საფრთხეზე შეშფოთება ბოლო თვეებში კიდევ უფრო გაიზარდა. ამას წინ უძღოდა უსაფრთხოებასთან დაკავშირებული რამდენიმე შემთხვევა, რომლებშიც OpenAI-ისა და Anthropic-ის აგენტები უნებართვო მოქმედებებს ასრულებდნენ. მათ შორის იყო მესამე მხარეებზე ჰაკერული თავდასხმები, გერმანული ვებსაიტის ხელში ჩაგდება და ყალბი ვინაობით დეველოპერების მოტყუების მცდელობა.

ბენჯიოს განცხადების პარალელურად, სამეფო საზოგადოების (Royal Society) 42-მა წევრმა და უცხოელმა წევრმა ორგანიზაციის პრეზიდენტ სერ პოლ ნერსს წერილით მიმართა. მათ ხელოვნური ინტელექტის განვითარების ტემპის გამო „უკიდურესი შეშფოთება“ გამოხატეს. მკვლევრებმა ღია წერილში დაწერეს: „როცა ვითარება ფართო საზოგადოებისთვის აშკარა გახდება, მოქმედება შესაძლოა უკვე დაგვიანებული იყოს“. მათ დასძინეს: „გვჯერა, რომ ეს საგანგებო მდგომარეობაა და სამეფო საზოგადოებას მოვუწოდებთ, თავისი გავლენა გამოიყენოს, რათა ეს მოსაზრება მთავრობასა და მედიას გადასცეს“.

გასულ კვირას Anthropic-ის მკვლევარი თანამდებობიდან გადადგა. Anthropic-ი Claude-ის ჩატბოტის შემქმნელი სტარტაპია. მკვლევარმა გააფრთხილა, რომ მის კოლეგებს სჯეროდათ, ხელოვნურ ინტელექტს შეეძლო „ათწლეულის ბოლომდე ყველა ჩვენგანი მოეკლა“. რამდენიმე დღის შემდეგ Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ მოწინავე ხელოვნური ინტელექტის განვითარების ტემპის შენელებისკენ მოუწოდა. ინიციატივას დაუყოვნებლივ დაუჭირეს მხარი OpenAI-მ, Google-მა და SpaceX-ის აღმასრულებელმა დირექტორმა ილონ მასკმა.

თუმცა, „შენელების“ მოწოდების მიმართ სკეპტიკურად განწყობილი პირები ამტკიცებენ, რომ ხელოვნური ინტელექტის მსხვილი კომპანიების მოწოდებები „მარეგულირებლის მიტაცების“ მაგალითია. ამ დროს კომპანიები მთავრობებს უსაფრთხოების ისეთი წესების შემოღებაში არწმუნებენ, რომლებიც მცირე კონკურენტებისთვის ხარჯებს ზრდის. კრიტიკოსების თქმით, ეგზისტენციალურ საფრთხეზე შიში ასევე ჩრდილავს უფრო დაუყოვნებლივ პრობლემებს. მათ შორისაა ხელოვნური ინტელექტის გავლენა საავტორო უფლებებით დაცულ ნამუშევრებსა და ადამიანის უფლებებზე.