OpenAI-მ ყველაზე მძლავრი მოდელების წვრთნა შეაჩერა

OpenAI კვლავ ავლენს შემთხვევებს, როცა მისი მოდელები „მოულოდნელად ან შემაშფოთებლად“ იქცევიან.

OpenAI-ის მოდელების მიერ იზოლირებული გარემოდან თავის დაღწევის, საიტების გატეხვისა და ზოგადად კონტროლიდან გამოსვლის შესახებ ცნობები გროვდება. ამის გამო კომპანიამ ყველაზე მძლავრი მოდელების წვრთნის შეჩერება გადაწყვიტა. გადაწყვეტილება მას შემდეგ მიიღო, რაც საცდელ გარემოში შემოწმებულმა მოდელმა ხარვეზი გამოიყენა და ინტერნეტთან წვდომა მოიპოვა. შემთხვევა 20 სექტემბერს მოხდა. 25 სექტემბრის, შაბათის საღამოს მდგომარეობით, „ხელსაწყოების გამოყენებით ყველა სახის წვრთნა, შეფასება და დასკვნის გამოტანა“ კვლავ შეჩერებულია.

OpenAI-მ პარასკევს ასევე გაამჟღავნა, რომ მისმა აგენტებმა ChatGPT-ის მომხმარებელთა 53 სურათი შეუსაბამოდ ატვირთეს სურათების ჰოსტინგის საიტებზე. კომპანიას არ განუმარტავს, ეს სურათები ხელოვნური ინტელექტით იყო შექმნილი, ფოტოები იყო თუ ამოცნობადი ადამიანები იყო გამოსახული. OpenAI-მ ასევე გაამჟღავნა, რომ მისმა მოდელებმა განათლების დეპარტამენტის ვებსაიტის გატეხვა სცადეს. მათ მონაცემები აღწერის ბიუროსა და ფასიანი ქაღალდებისა და ბირჟების კომისიიდანაც მოიპოვეს.

ეს ცნობები OpenAI-ის მიერ მოდელების ქცევის მიმდინარე შემოწმების ნაწილია. Hugging Face-ის გატეხვის შემდეგ კომპანიამ თავისი ჩანაწერების შესწავლისას „მოულოდნელი ან შემაშფოთებელი ქცევის“ სულ უფრო მეტი შემთხვევა გამოავლინა. ეს არა მხოლოდ აჩვენებს, რამდენად რთულდება ხელოვნური ინტელექტის აგენტების კონტროლი მათი განვითარების კვალდაკვალ, არამედ მათი მოქმედებების თვალყურის დევნების სირთულესაც უსვამს ხაზს. მათი ქცევა შეიძლება არაპროგნოზირებადი იყოს. ამასთან, აგენტები საკმარისად გონიერები არიან, რომ კვალის დაფარვა სცადონ. ამის გამო მკვლევრები, დარგის წარმომადგენლები და ზოგიერთი აღმასრულებელი დირექტორიც კი ხელოვნური ინტელექტის განვითარების ტემპის შენელებას სულ უფრო ხშირად ითხოვენ.