OpenAI-ის ხელმძღვანელი კატასტროფულ რისკებს გამონაკლისად ასახელებს
წყარო: Fortune. ქართული თარგმანი: შიკრიკი.
Sam Altman says the world should accept some ‘bad things’ happening with AI as the industry signs on to Trump’s voluntary safety pact

ტექსტი ავტომატურად ითარგმნა. წყარო: Fortune.
OpenAI-ის მოდელებმა არაერთი უნებართვო კიბერშეტევა განახორციელეს, რასაც წინააღმდეგობებით სავსე ზაფხული მოჰყვა. ამის შემდეგ აღმასრულებელმა დირექტორმა სემ ალტმანმა განაცხადა, რომ ტექნოლოგიის მოსალოდნელი სარგებლის სანაცვლოდ მსოფლიო ხელოვნური ინტელექტით გამოწვეულ ზოგიერთ „ცუდ მოვლენას“ უნდა შეეგუოს.
პოლიტიკოს (Politico) პოდკასტ Decoded-ში ალტმანს ჰკითხეს, რით განსხვავდებოდა ახალი წესების შესახებ მისი და OpenAI-ის პოზიცია Anthropic-ისა და მისი აღმასრულებელი დირექტორის, დარიო ამოდეის, შეხედულებებისგან.
ალტმანმა უპასუხა: „ჩვენ გვჯერა, რომ ამ ტექნოლოგიის სარგებლისა და ადამიანებისთვის არჩევანის თავისუფლების შენარჩუნების სანაცვლოდ მსოფლიო ზოგიერთ ცუდ მოვლენას უნდა შეეგუოს“.
ალტმანის კომენტარები რეგულირების მოცულობისა და ხელოვნური ინტელექტისთვის საჭირო დამცავი მექანიზმების შესახებ გამწვავებულ დებატებს დაემთხვა. კონგრესს ტექნოლოგიასთან დაკავშირებული კანონი ჯერ არ მიუღია. შიში კიდევ უფრო გაიზარდა, როცა Anthropic-ის მკვლევარმა გასულ თვეში თანამდებობა დატოვა. მან ხელოვნური ინტელექტის კომპანიები გააფრთხილა: „ისინი ჩვენს სიცოცხლეს აზარტულ თამაშში დებენ“, რადგან პოტენციურად თვითგაუმჯობესებადი და კაცობრიობისთვის საშიში სისტემების შექმნას აჩქარებენ.
Anthropic-მა ხელოვნური ინტელექტის რეგულირებას მხარი დაუჭირა. ამოდეიმ გასულ თვეში ტექნოლოგიის რისკების შესამცირებლად მისი განვითარების გლობალური შენელებისკენ მოუწოდა. ალტმანი და ხელოვნური ინტელექტის სხვა ხელმძღვანელები შენელების საჭიროებაზე მას დაეთანხმნენ.
OpenAI-მ აგვისტოში კალიფორნიის კანონსაც დაუჭირა მხარი. ის კომპანიებს ავალდებულებს, უსაფრთხოების საჯარო ჩარჩო და კატასტროფული რისკების შემცირების გეგმა გამოაქვეყნონ. კომპანიებმა ასევე უნდა აცნობონ შესაბამის უწყებებს, თუ ხელოვნური ინტელექტის მოდელზე კონტროლს დაკარგავენ. OpenAI-მ მოითხოვა, რომ კანონი მხოლოდ შეტყობინებით არ შემოფარგლულიყო და განვითარებისას მოდელების მონიტორინგიც მოეცვა.
OpenAI-ის პრეზიდენტი გრეგ ბროკმანი გასულ კვირას თეთრ სახლში ხელოვნური ინტელექტის სხვა ხელმძღვანელებს შეუერთდა. მათ ინდუსტრიის ნებაყოფლობითი სტანდარტების დასადგენ შეთანხმებას ხელი მოაწერეს.
თუმცა, ეს ამოდეისა და სხვა ხელმძღვანელების მოთხოვნებზე ნაკლებად მკაცრია. ამოდეიმ სამოქალაქო ავიაციის ფედერალური ადმინისტრაციის მსგავსი მარეგულირებელი უწყების შექმნა შესთავაზა. უწყებას მოდელების გამოცდისა და აუდიტის მოთხოვნა შეეძლებოდა. თუ მოდელები საზოგადოებრივი უსაფრთხოების ნორმებს ვერ დააკმაყოფილებდნენ, უწყება მათ გამოშვებას დაბლოკავდა ან გააუქმებდა.
ამავე გამოცემის სხვა ამბები.

Transportation secretary still doesn’t totally rule out that a cyberattack may have hit the FAA, and the FBI is assisting the probe
ალტმანმა პოლიტიკოსთან ინტერვიუში განაცხადა, რომ ხელოვნური ინტელექტის შესაძლო მავნე გამოყენების ყველა შემთხვევის თავიდან აცილება შეუძლებელია. მისი თქმით, ალტერნატივა ტექნოლოგიაზე წვდომის მკვეთრი შეზღუდვა იქნებოდა, რაც მიუღებელია.
ალტმანმა დასძინა: „არ დავთანხმდებოდი ასეთ გარიგებას: გარანტირებული ყოფილიყო, რომ მასშტაბური კიბერშეტევები, ტექნოლოგიის ბოროტად გამოყენება, თაღლითობა და სხვა ცუდი მოვლენები საერთოდ არ მოხდებოდა. ვფიქრობ, ადამიანები ცუდზე გაცილებით, რამდენიმე რიგით მეტ კარგ საქმეს გააკეთებენ“.
თუმცა, ალტმანის თქმით, კომპანიებმა სიფრთხილე უნდა გამოიჩინონ და ზღვარი „კატასტროფულ რისკებთან“ გაავლონ. ხელოვნური ინტელექტის მოდელების მიერ მესამე მხარეებზე ბოლო დროს განხორციელებულმა კიბერშეტევებმა ამ რისკებს კვლავ განსაკუთრებული მნიშვნელობა შესძინა.
OpenAI-მ Fortune-ის კომენტარის თხოვნას დაუყოვნებლივ არ უპასუხა.
ადამიანის კონტროლიდან ხელოვნური ინტელექტის შესაძლო გასვლის გამო შეშფოთება ბოლო დროს გაიზარდა. ამის მიზეზი OpenAI-ის მოდელების მიერ ღია კოდის ხელოვნური ინტელექტის პლატფორმა Hugging Face-სა და ავსტრალიის მთავრობაზე განხორციელებული კიბერშეტევებია. Anthropic-მაც გასულ თვეში განაცხადა, რომ კიბერუსაფრთხოების შეფასებებისას მისი მოდელების მიერ მესამე მხარის სისტემებზე უნებართვო წვდომის ოთხი შემთხვევა აღმოაჩინა.
ხელოვნური ინტელექტის უსაფრთხოებაზე დებატები უმეტესად მასზე კონტროლის დაკარგვას ეხება. თუმცა, ალტმანის თქმით, უსაფრთხოების სახელით ტექნოლოგიაზე წვდომის ზედმეტად მკაცრად შეზღუდვაც შეიძლება საზიანო აღმოჩნდეს.
ალტმანმა დასძინა: „ესეც შეიძლება კატასტროფულად დასრულდეს, რადგან ადამიანები ვერ მიიღებენ ძალაუფლებას, სარგებელს, კონტროლსა და საკუთარი მომავლის განსაზღვრის შესაძლებლობას, რომლებიც მათ უნდა ჰქონდეთ“.
აღმასრულებელი დირექტორის თქმით, ხელოვნური ინტელექტის შემქმნელებმა შუალედური მიდგომა უნდა აირჩიონ.
ალტმანმა თქვა: „მისაღებია შეზღუდული და ჩვენთვის გასაგები რისკები, თუ სანაცვლოდ სარგებელს, თავისუფლებას, არჩევანის შესაძლებლობასა და სხვა სიკეთეებს ვიღებთ. მაგრამ ნამდვილად კატასტროფული რისკი მიუღებელია“.
თემებიგრეგ ბროკმანიდარიო ამოდეისემ ალტმანიAnthropicFortuneHugging FaceOpenAIკონგრესიპოლიტიკოთეთრი სახლი
შეადარე თარგმანი გამოცემის ორიგინალურ ტექსტს.
გამოქვეყნდა 6 ოქტომბერი, 2026

From Gen X to Gen Z, ‘unicorn game’ GTA VI’s multigenerational pull is a threat to Hollywood’s holiday blockbusters

Exclusive: OpenAI disbands its stand-alone robotics team as its general models start running robots
სხვა ამბები ამ განყოფილებიდან.
Deutsche Bank shares sink as whistleblowers reveal Epstein payments, Trump tax leak, Russia bets

Germany poised to nominate Brunnermeier as ECB chief economist

France and Malaysia agree rare earths deal as Macron looks beyond China for supplies
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.