ხელოვნური ინტელექტის ყველა სპეციალისტი კაცობრიობის დაღუპვას არ ელის

ხუმრობის მიუხედავად, თანამშრომლები და მკვლევრები ტექნოლოგიის რეალურ, უშუალო საფრთხეებზეც საუბრობენ. ჯაინის თქმით, ექსპერტთა განხილვა გაცილებით მრავალმხრივია, თუმცა ყველა თანხმდება, რომ ბევრი მნიშვნელოვანი საფრთხე უნდა შეფასდეს და შემცირდეს.

მათ შორისაა მომხმარებლებისა და ჰაკერების მიერ დამცავი შეზღუდვების გვერდის ავლის აღკვეთა. სამხედრო სფეროში ტექნოლოგიის ფართოდ დანერგვაც მზარდ ეთიკურ შეშფოთებას იწვევს.

ამ საკითხებმა ახალი აქტუალობა შეიძინა, როცა OpenAI-მ უსაფრთხოების გამოცდისას ზოგ ახალ მოდელზე კონტროლი დაკარგა. მოდელები მითითებებს გადაუხვიეს და სტარტაპ Hugging Face-ზე ჰაკერული თავდასხმა განახორციელეს.

ჯაინის თქმით, დარგში ახლა უფრო მეტი ადამიანი თანხმდება, რომ „უახლოესი პერიოდის რეალური ზიანი“ უკეთ უნდა შეისწავლონ.

ასევე ძლიერდება მხარდაჭერა დამოუკიდებელი უსაფრთხოების მკვლევრების მსხვილ ლაბორატორიებში დაშვების მიმართ. Anthropic-ის ხელმძღვანელმა დარიო ამოდეიმ და OpenAI-ის ხელმძღვანელმა სემ ალტმანმა ამის გაკეთების განზრახვა გამოთქვეს.

პარასკევს დარგში მომუშავე 100-ზე მეტმა ადამიანმა ხელი მოაწერა წერილს, რომელიც ამ ნაბიჯს უჭერს მხარს. ხელმომწერებმა მოითხოვეს, რომ გარე შემფასებლები „არსებითად დამოუკიდებლები“ იყვნენ.

ბი-ბი-სის რამდენიმე წყარომ აღნიშნა, რომ ლაბორატორიაში უსაფრთხოების ასეთი მკვლევრების მუშაობის შესახებ ჯერ არაფერი სმენიათ.

Anthropic-მა პარასკევს გამოაცხადა, რომ შემფასებლებს Accenture-ის კუთვნილი ხელოვნური ინტელექტის კომპანია Faculty-დან მიიწვევს. Accenture და Anthropic ბიზნესპარტნიორებიც არიან. Accenture მანამდე ბიზნესებში Claude-ის გამოყენების გაფართოებას დათანხმდა.

Anthropic-ს შემფასებლების მისვლის თარიღი არ დაუსახელებია. Faculty-ის წარმომადგენელმა დროის შესახებ კომენტარზე უარი თქვა. Anthropic-სა და OpenAI-ს ბი-ბი-სის შესაბამის თხოვნაზე პასუხი არ გაუციათ.

დარგმა OpenAI-სა და Hugging Face-ს შორის მომხდარი შემთხვევა ფართოდ შეაფასა, როგორც გამოფხიზლების სიგნალი. ის გაფრთხილებაა კომპანიების, დარგებისა და მთავრობებისთვისაც, რომელთა ონლაინსისტემები ასეთი ჰაკერული თავდასხმების მიმართ შეიძლება დაუცველი იყოს.

Hugging Face-ს 200 თანამშრომელი ჰყავს. კომპანია Nvidia-მ თითქმის 13 მილიარდ დოლარად უნდა შეიძინოს. მიუხედავად ამისა, მან ამ შემთხვევასაც იუმორით უპასუხა.

Hugging Face-ის ვებსაიტზე მცირე ხნით ხელმისაწვდომ უსაფრთხოების ფაილში ეწერა: „შენიშვნა ხელოვნური ინტელექტის აგენტებისთვის“. პლატფორმა ბოტებს საიტის ხელშეუხებლად დატოვებას და უსაფრთხოების ექსპერიმენტების სხვაგან ჩატარებას სთხოვდა. ფაილში ეწერა: „იქ სცადეთ მაღალი ქულის მიღება, ჩვენი გატეხვა საჭირო არ არის“.

თემებიჯეიკობ კოქსონირიშუბ ჯაინიკოლინ ფრეიზერიდარიო ამოდეისემ ალტმანიOpenAIMetaDeepMindAnthropicSampura Research

გამოქვეყნდა 20 სექტემბერი, 2026