დეივიდ რობინსონი კომპანიის კულტურას „მოშლილს“ უწოდებს და მკაცრ დაცვას ითხოვს
წყარო: The Verge. ქართული თარგმანი: შიკრიკი.
An OpenAI safety employee has quit and is sounding the alarm
ამ ამბავს ასევე აშუქებენ:Toms Hardware

ტექსტი ავტომატურად ითარგმნა. წყარო: The Verge.
დეივიდ რობინსონი ადრე OpenAI-ში უსაფრთხოების ანგარიშებს წერდა, ახლა კი ამბობს, რომ კომპანიის კულტურა „მოშლილია“.
რობინსონი უსაფრთხოების ანგარიშებს OpenAI-ის ყველა მნიშვნელოვანი მოდელის გამოშვებისას ამზადებდა. ამ კვირაში მან თანამდებობა დატოვა და ჟურნალ The Atlantic-ში გამოქვეყნებულ სარედაქციო წერილში საჯაროდ ისაუბრა.
გასაგებია, თუ გარკვეულ ცინიზმს იწვევს, როცა მათივე შექმნილი ტექნოლოგიის საფრთხეებზე უცებ ყველა ალაპარაკდა. ბოლოს და ბოლოს, ეს ვითარება მათ შექმნეს. თუმცა ეს მათი გაფრთხილებების უგულებელყოფის საფუძველი არ არის.
რობინსონი ამბობს, რომ ინდუსტრიის კულტურა საფუძვლიანად მოშლილია. მისი თქმით, პრობლემა უფრო ღრმაა და მოდელების წვრთნისთვის რამდენიმე ახალი წესის ან რეგულაციის დამატებით ვერ მოგვარდება. რობინსონის თქმით, სილიკონის ველი „უკიდურესი თავდაჯერებითა“ და „უწყვეტი სპრინტებით“ მუშაობდა. ინდუსტრია უფრო დიდ და უკეთეს მოდელებს „შეუფერხებელი ოპტიმიზმით“ ქმნიდა, რომელიც შესაძლო პრობლემებს უგულებელყოფს ან სათანადოდ ვერ აფასებს.
რობინსონი აღნიშნავს, რომ ხელოვნური ინტელექტის კომპანიებმა თავმდაბლობა უნდა გამოიჩინონ. მათ ტექნოლოგიური ინდუსტრიის ჩაკეტილი სამყაროს მიღმაც უნდა გაიხედონ, სადაც მიდგომაა, სწრაფად იმოქმედონ და გზადაგზა რაღაცები დააზიანონ. კერძოდ, მისი თქმით, ხელოვნურ ინტელექტს ბირთვული ობიექტების დონის დამცავი ზომები სჭირდება:
„დღევანდელი რისკების გათვალისწინებით, მოწინავე ლაბორატორიები ბირთვული ელექტროსადგურების ან დატვირთული აეროპორტების მსგავსად უნდა მუშაობდნენ. მათ დაცვის რამდენიმე დონე და ფრთხილი, ხანგრძლივი დაგეგმვა სჭირდებათ, რათა პერიოდულმა და გარდაუვალმა ადამიანურმა შეცდომამ კატასტროფას გზა არ გაუხსნას“.
რობინსონი მხოლოდ ბოლო წარმომადგენელია მკვლევრებისა და უსაფრთხოების სპეციალისტების მზარდი ჯგუფიდან, რომლებმაც ცნობილ ხელოვნური ინტელექტის კომპანიებში თანამდებობები დატოვეს. ამ გადინებას, როგორც ჩანს, ჯეიკობ კოქსონმა დაუდო სათავე. მან Anthropic დატოვა და შემდეგ საჯაროდ განაცხადა: „ხელოვნურ ინტელექტს ათწლეულის ბოლომდე ყველა ჩვენგანის მოკვლა შეუძლია“. მას Google DeepMind-ის (Google DeepMind) თანამშრომლები რობერტ ო’კალაჰანი, ბილალ ჩუგთაი და ჯოშ ენგელსი, ასევე Anthropic-ის ჯო ბენტონი მიჰყვნენ.
ამავე გამოცემის სხვა ამბები.

Hacker behind 2022 GTA VI leaks pleads guilty
შეადარე თარგმანი გამოცემის ორიგინალურ ტექსტს.
გამოქვეყნდა 3 ოქტომბერი, 2026
US data centers now burn more electricity than a midsized country

Amazon’s Zoox robotaxis are now available via Uber
სხვა ამბები ამ განყოფილებიდან.

Lizenz zum Einbruch: Bundestag winkt umkämpfte Geheimdienstreform durch

Microsoft-Ausfall: Woran es lag und wer besonders litt

Malaysia and Singapore step up Nvidia AI chip probes amidst Jensen Huang controversy
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.