OpenAI-ის უსაფრთხოების თანამშრომელი წავიდა და საფრთხეებზე გააფრთხილა

რობინსონი უსაფრთხოების ანგარიშებს OpenAI-ის ყველა მნიშვნელოვანი მოდელის გამოშვებისას ამზადებდა. ამ კვირაში მან თანამდებობა დატოვა და ჟურნალ The Atlantic-ში გამოქვეყნებულ სარედაქციო წერილში საჯაროდ ისაუბრა.

გასაგებია, თუ გარკვეულ ცინიზმს იწვევს, როცა მათივე შექმნილი ტექნოლოგიის საფრთხეებზე უცებ ყველა ალაპარაკდა. ბოლოს და ბოლოს, ეს ვითარება მათ შექმნეს. თუმცა ეს მათი გაფრთხილებების უგულებელყოფის საფუძველი არ არის.

რობინსონი ამბობს, რომ ინდუსტრიის კულტურა საფუძვლიანად მოშლილია. მისი თქმით, პრობლემა უფრო ღრმაა და მოდელების წვრთნისთვის რამდენიმე ახალი წესის ან რეგულაციის დამატებით ვერ მოგვარდება. რობინსონის თქმით, სილიკონის ველი „უკიდურესი თავდაჯერებითა“ და „უწყვეტი სპრინტებით“ მუშაობდა. ინდუსტრია უფრო დიდ და უკეთეს მოდელებს „შეუფერხებელი ოპტიმიზმით“ ქმნიდა, რომელიც შესაძლო პრობლემებს უგულებელყოფს ან სათანადოდ ვერ აფასებს.

რობინსონი აღნიშნავს, რომ ხელოვნური ინტელექტის კომპანიებმა თავმდაბლობა უნდა გამოიჩინონ. მათ ტექნოლოგიური ინდუსტრიის ჩაკეტილი სამყაროს მიღმაც უნდა გაიხედონ, სადაც მიდგომაა, სწრაფად იმოქმედონ და გზადაგზა რაღაცები დააზიანონ. კერძოდ, მისი თქმით, ხელოვნურ ინტელექტს ბირთვული ობიექტების დონის დამცავი ზომები სჭირდება:

„დღევანდელი რისკების გათვალისწინებით, მოწინავე ლაბორატორიები ბირთვული ელექტროსადგურების ან დატვირთული აეროპორტების მსგავსად უნდა მუშაობდნენ. მათ დაცვის რამდენიმე დონე და ფრთხილი, ხანგრძლივი დაგეგმვა სჭირდებათ, რათა პერიოდულმა და გარდაუვალმა ადამიანურმა შეცდომამ კატასტროფას გზა არ გაუხსნას“.

რობინსონი მხოლოდ ბოლო წარმომადგენელია მკვლევრებისა და უსაფრთხოების სპეციალისტების მზარდი ჯგუფიდან, რომლებმაც ცნობილ ხელოვნური ინტელექტის კომპანიებში თანამდებობები დატოვეს. ამ გადინებას, როგორც ჩანს, ჯეიკობ კოქსონმა დაუდო სათავე. მან Anthropic დატოვა და შემდეგ საჯაროდ განაცხადა: „ხელოვნურ ინტელექტს ათწლეულის ბოლომდე ყველა ჩვენგანის მოკვლა შეუძლია“. მას Google DeepMind-ის (Google DeepMind) თანამშრომლები რობერტ ო’კალაჰანი, ბილალ ჩუგთაი და ჯოშ ენგელსი, ასევე Anthropic-ის ჯო ბენტონი მიჰყვნენ.