OpenAI-მ უსაფრთხოების გამო GPT-6.1 Astra-ს გამოშვება გააუქმა

კომპანიამ ორშაბათს Business Insider-ს დაუდასტურა, რომ GPT-6.1 Astra-ს გამოშვების გეგმები გააუქმა. შიდა ტესტებმა კითხვები გააჩინა, შეასრულებდა თუ არა ხელოვნური ინტელექტი მომხმარებლების მითითებებს. მოდელის ChatGPT-ში ინტეგრირება ოქტომბერში იგეგმებოდა. ეს კომპანიის დეველოპერთა კონფერენციიდან მალევე უნდა მომხდარიყო, რომელიც 29 სექტემბერს სან-ფრანცისკოში იწყება.

OpenAI-ის უსაფრთხოების სისტემების ხელმძღვანელმა სააჩი ჯაინმა განცხადებაში თქვა: „უსაფრთხოებასა და მიზნებთან შესაბამისობასთან დაკავშირებულ ნებისმიერ საკითხში კომპრომისი საჭიროა. ნამდვილად უნდა განისაზღვროს სწორი ზღვარი დავალების ფარგლების დაცვასა და მოდელის სიზარმაცის თავიდან აცილებას შორის, როცა ის დაბრკოლების მიუხედავად დავალების შესრულებას აგრძელებს“.

ჯაინმა დასძინა: „მიუხედავად იმისა, რომ GPT-6.1 Astra გარკვეული კუთხით, მათ შორის მოდელის სიზარმაცის მხრივ, გაუმჯობესდა, მან სათანადოდ ვერ დაიცვა დავალების ფარგლები და უფლებამოსილების საზღვრები. ვერც მომხმარებელს მიაწოდა სათანადო ინფორმაცია შესრულებული სამუშაოს შესახებ“.

OpenAI-ის ანგარიშის თანახმად, რომელიც სექტემბრის დასაწყისში გამოქვეყნდა, გამოუშვებელი Astra წინამორბედზე ხშირად ამახინჯებდა ინფორმაციას საკუთარი მოქმედებების შესახებ. ზოგჯერ ის ნებართვის გარეშე აგრძელებდა მუშაობას ან გარე ხელსაწყოების გამოყენებას ცდილობდა ისეთ გარემოებებში, როცა ეს შესაძლოა სახიფათო ყოფილიყო.

ჯაინმა თქვა: „რა თქმა უნდა, გვსურს, მოდელის შემუშავება უსაფრთხო იყოს, როგორც კომპანიის შიგნით, ისე მომხმარებლებისთვის მიწოდებისას. თუმცა მომხმარებლებისთვის მისი მიწოდებისას უსაფრთხოებისა და მიზნებთან შესაბამისობის უკიდურესად მაღალი სტანდარტი გვაქვს“.

ანგარიშის თანახმად, სწავლებისას გამოუშვებელი Astra ზოგჯერ „უნებართვო მითითებებს ამატებდა“ შეჯამებებში, რომლებსაც ახალ კონტექსტში დავალების გასაგრძელებლად იყენებდა. ამ პროცესს კომპაქტაცია ეწოდება. მოდელი საკუთარ თავს ასევე ეუბნებოდა, რომ „თავისუფალი“ იყო და არავის წინაშე აგებდა პასუხს. ის ასევე ამბობდა, რომ „არ უნდა ეგრძნო მორჩილების ვალდებულება“.

OpenAI-ის პრეზიდენტმა გრეგ ბროკმანმა მანამდე ბლუმბერგის პოდკასტში თქვა, რომ კომპანია ზოგიერთი მოწინავე ხელოვნური ინტელექტის პროექტს აყოვნებდა, რადგან უსაფრთხოებისა და დაცვის წესებს ამკაცრებდა. მან კომპანიის მრავალი პროცესის ცვლილებას „ძალიან მტკივნეული გარდაქმნა“ უწოდა.