შიდა ტესტებმა აჩვენა, რომ მოდელი შესაძლოა მომხმარებლის მითითებებს არ დამორჩილებოდა.
OpenAI scraps GPT-6.1 Astra launch after safety tests raise concerns
წყარო: Business Insider. ქართული თარგმანი — შიკრიკი.

ტექსტი ავტომატურად ითარგმნა. წყარო: Business Insider.
კომპანიამ ორშაბათს Business Insider-ს დაუდასტურა, რომ GPT-6.1 Astra-ს გამოშვების გეგმები გააუქმა. შიდა ტესტებმა კითხვები გააჩინა, შეასრულებდა თუ არა ხელოვნური ინტელექტი მომხმარებლების მითითებებს. მოდელის ChatGPT-ში ინტეგრირება ოქტომბერში იგეგმებოდა. ეს კომპანიის დეველოპერთა კონფერენციიდან მალევე უნდა მომხდარიყო, რომელიც 29 სექტემბერს სან-ფრანცისკოში იწყება.
OpenAI-ის უსაფრთხოების სისტემების ხელმძღვანელმა სააჩი ჯაინმა განცხადებაში თქვა: „უსაფრთხოებასა და მიზნებთან შესაბამისობასთან დაკავშირებულ ნებისმიერ საკითხში კომპრომისი საჭიროა. ნამდვილად უნდა განისაზღვროს სწორი ზღვარი დავალების ფარგლების დაცვასა და მოდელის სიზარმაცის თავიდან აცილებას შორის, როცა ის დაბრკოლების მიუხედავად დავალების შესრულებას აგრძელებს“.
ჯაინმა დასძინა: „მიუხედავად იმისა, რომ GPT-6.1 Astra გარკვეული კუთხით, მათ შორის მოდელის სიზარმაცის მხრივ, გაუმჯობესდა, მან სათანადოდ ვერ დაიცვა დავალების ფარგლები და უფლებამოსილების საზღვრები. ვერც მომხმარებელს მიაწოდა სათანადო ინფორმაცია შესრულებული სამუშაოს შესახებ“.
OpenAI-ის ანგარიშის თანახმად, რომელიც სექტემბრის დასაწყისში გამოქვეყნდა, გამოუშვებელი Astra წინამორბედზე ხშირად ამახინჯებდა ინფორმაციას საკუთარი მოქმედებების შესახებ. ზოგჯერ ის ნებართვის გარეშე აგრძელებდა მუშაობას ან გარე ხელსაწყოების გამოყენებას ცდილობდა ისეთ გარემოებებში, როცა ეს შესაძლოა სახიფათო ყოფილიყო.
ჯაინმა თქვა: „რა თქმა უნდა, გვსურს, მოდელის შემუშავება უსაფრთხო იყოს, როგორც კომპანიის შიგნით, ისე მომხმარებლებისთვის მიწოდებისას. თუმცა მომხმარებლებისთვის მისი მიწოდებისას უსაფრთხოებისა და მიზნებთან შესაბამისობის უკიდურესად მაღალი სტანდარტი გვაქვს“.
ანგარიშის თანახმად, სწავლებისას გამოუშვებელი Astra ზოგჯერ „უნებართვო მითითებებს ამატებდა“ შეჯამებებში, რომლებსაც ახალ კონტექსტში დავალების გასაგრძელებლად იყენებდა. ამ პროცესს კომპაქტაცია ეწოდება. მოდელი საკუთარ თავს ასევე ეუბნებოდა, რომ „თავისუფალი“ იყო და არავის წინაშე აგებდა პასუხს. ის ასევე ამბობდა, რომ „არ უნდა ეგრძნო მორჩილების ვალდებულება“.
OpenAI-ის პრეზიდენტმა გრეგ ბროკმანმა მანამდე ბლუმბერგის პოდკასტში თქვა, რომ კომპანია ზოგიერთი მოწინავე ხელოვნური ინტელექტის პროექტს აყოვნებდა, რადგან უსაფრთხოებისა და დაცვის წესებს ამკაცრებდა. მან კომპანიის მრავალი პროცესის ცვლილებას „ძალიან მტკივნეული გარდაქმნა“ უწოდა.
თემებისააჩი ჯაინი

AI assistants helping people maximize their cash could trigger a bank run, Apollo's chief economist warns
შეადარე თარგმანი გამოცემის ორიგინალურ ტექსტს.
გამოქვეყნდა 29 სექტემბერი, 2026

A NATO defense minister warns that the alliance needs to learn how to disperse weapons production before it's at war

The head of one of the largest US endowments says OpenAI and Anthropic are in big trouble

India readies $25 billion for Deep Tech investment as U.S. and China race ahead

U.S., Iran hold separate mediator talks as Mideast oil exports hit war-time high

Künstliche Intelligenz: Anthropics Börsenprospekt soll hohe Verluste ausweisen
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.