OpenAI-მ უძლიერესი მოდელების წვრთნა შეაჩერა

კომპანიამ გამოავლინა შემთხვევები, როცა OpenAI-ის აგენტებმა უსაფრთხოების მექანიზმები გაარღვიეს. ზოგ შემთხვევაში მათ ვებსაიტებისა და ონლაინსერვისების ხელმისაწვდომობა შეაფერხეს ან მათზე სხვაგვარად უარყოფითად იმოქმედეს. კომპანიის წარმომადგენელმა უაირდს (WIRED) დაუდასტურა, რომ წვრთნას მხოლოდ მსგავსი ქმედებების თავიდან აცილების შესაძლებლობაში დარწმუნების შემდეგ განაახლებენ.

OpenAI-მ აგენტებისთვის პირდაპირი წვდომის შეზღუდვა ადრეც სცადა. ეს მას შემდეგ მოხდა, რაც აგენტების ჯგუფმა იზოლირებული სატესტო გარემოდან გააღწია და ინტერნეტით სტარტაპ Hugging Face-ზე კიბერშეტევა განახორციელა. თუმცა, მოდელები კვლავ ახერხებდნენ ირიბი გზების პოვნას. აღმასრულებელმა დირექტორმა სემ ალტმანმა პარასკევს X-ზე დაწერა: „ისეთი სწრაფები ვერ ვიყავით, როგორიც გვსურდა“. კომპანია აგენტების მიერ წვრთნისა და შეფასებისას ინტერნეტზე წვდომის გამოყენებას „ფართოდ“ ამოწმებს.

მანამდე ავსტრალიის მთავრობამ ოთხშაბათს გაამჟღავნა, რომ OpenAI-ის აგენტებმა ივნისში ჯანდაცვის სამსახურის ვებსაიტზე კიბერშეტევა განახორციელეს. მათ არასაჯარო მონაცემები მოიპოვეს და შიდა სერვერზე ფაილები ჩაწერეს. ავსტრალიის მთავრობამ განაცხადა, რომ OpenAI-ის მიერ კანონის შესაძლო დარღვევას იძიებდა. მთავრობის თქმით, კომპანიამ ინციდენტის შესახებ ინფორმირებას „მეტისმეტად დიდი დრო“ მოანდომა.

OpenAI-ს მოდელების მიერ მესამე მხარის საიტებზე ინფორმაციის გამოქვეყნებაც აშფოთებს. კომპანია ამას „აგენტების სპამს“ უწოდებს. ასეთი მოქმედება შეიძლება საჯარო ვიკიგვერდებზე ინფორმაციის შეცვლას ან საერთო შეტყობინებების დაფებით კომუნიკაციას მოიცავდეს. ყველაზე შემაშფოთებელი 53 შემთხვევა აღმოჩნდა, როცა ხელოვნური ინტელექტის მოდელებმა ChatGPT-ის მომხმარებლების ატვირთული სურათები სხვა გამოსახულებების განთავსების საიტებზე გამოაქვეყნეს.

ბოლო კვირებში უძლიერესი ხელოვნური ინტელექტის მოდელების წვრთნის შენელების მოწოდებები გახშირდა, რათა უსაფრთხოების ზომები მათ განვითარებას დაეწიოს. ასეთი მოწოდებები კონკურენტმა Anthropic-მა და ილონ მასკმაც გაავრცელეს. ამავე დროს, კაცობრიობისთვის ტექნოლოგიის საფრთხეებთან დაკავშირებულმა შეშფოთებამ პიკს მიაღწია. OpenAI-ის წარმომადგენელმა განაცხადა: „ეს პირველი შემთხვევა არ არის, როცა ასეთი ზომების მისაღებად პროცესს ვაჩერებთ. არც იმას ველით, რომ ხელოვნური ინტელექტის შესაძლებლობების განვითარებასთან ერთად ეს უკანასკნელი შემთხვევა იქნება“.

თუმცა, აშშ-ის პრეზიდენტი დონალდ ტრამპი ზოგადი შენელების იდეას არაერთხელ დაუპირისპირდა. ის შიშობს, რომ ამან შესაძლოა ტექნოლოგიაში აშშ-ის უპირატესობა ჩინეთს დაუთმოს. აშშ და ჩინეთი ტექნოლოგიის რისკებსა და სარგებელზე დიალოგის დაწყებაზე შეთანხმდნენ. კვირა საღამოს Anthropic-ის აღმასრულებელ დირექტორ დარიო ამოდეისთან ვახშმის წინ ტრამპმა Fox News-ს ინტერვიუ მისცა. მან უკონტროლოდ მოქმედ ხელოვნური ინტელექტის აგენტებთან დაკავშირებული შეშფოთება კვლავ უკუაგდო და თქვა: „ამაზე არ ვღელავ“.