Trillium Labs ექსპერიმენტების დეტალებს გამოაქვეყნებს, რათა სხვა მეცნიერებმა ისინი გაიმეორონ.
წყარო: Wired. ქართული თარგმანი: შიკრიკი.
These AI Experts Want to Do High-Stakes Research Out in the Open

ტექსტი ავტომატურად ითარგმნა. წყარო: Wired.
ხელოვნური ინტელექტის ზოგიერთი დიდი კომპანია ფიქრობს, რომ მოდელების ლაბორატორიებში ჩაკეტვა მათი ქაოსური ან საზიანო ქცევის თავიდან აცილების საუკეთესო გზაა. ამ მიდგომის თანახმად, თუ მოდელებზე წვდომა მხოლოდ რჩეულებს ექნებათ, რეალურ სამყაროში ისინი ნაკლებ ზიანს გამოიწვევენ. ამ დროს მკვლევრები მათი შესაძლებლობების შესწავლას შეძლებენ.
ინდუსტრიის ორი მეცნიერი, ნათან ლამბერტი და ტომ ზიკი, საპირისპიროს ფიქრობენ. მათ დააარსეს არაკომერციული ორგანიზაცია Trillium Labs, რომელიც ხელოვნური ინტელექტის კვლევის სხვადასხვა მიმართულებაზე უფრო გამჭვირვალედ იმუშავებს. მათ შორისაა პოტენციურად პრობლემური სფეროები, როგორიცაა რეკურსიული თვითგაუმჯობესება და აგენტები. პრაქტიკაში ეს ექსპერიმენტების დეტალების გამოქვეყნებას ნიშნავს, რათა დამოუკიდებელმა მეცნიერებმა მათი შესწავლა და გამეორება შეძლონ.
ლამბერტის თქმით, მოწინავე ხელოვნური ინტელექტის ლაბორატორიების გასაიდუმლოებული მუშაობა სამეცნიერო საზოგადოებას იდეების შემოწმებისა და ახალი მიდგომების შეთავაზების შესაძლებლობას უზღუდავს. მას სჯერა, რომ დამოუკიდებელი ექსპერტებისთვის მოდელების შექმნისა და დახვეწის პროცესის ჩვენება რისკების შესამცირებლად შეიძლება გადამწყვეტი აღმოჩნდეს.
ლამბერტმა უაირდს (Wired) განუცხადა: „ბოლო რამდენიმე ათასწლეულის განმავლობაში კაცობრიობა ზიანის შესამცირებლად და უკეთესი მომავლის შესაქმნელად სამეცნიერო მეთოდს იყენებდა. მოწინავე ხელოვნური ინტელექტის განვითარების ამჟამინდელი დახურული გზა ერთი ნაბიჯით უკან გვხევს“.
მსოფლიოს ყველაზე მძლავრ მოდელებზე, მათ შორის OpenAI-ისა და Anthropic-ის მოდელებზე, წვდომა მხოლოდ აპლიკაციით ან აპლიკაციის პროგრამირების ინტერფეისითაა შესაძლებელი. ამას ხშირად მოდელის აგებისა და ქცევის შესახებ გამჭვირვალობის ნაკლებობა ახლავს.
სხვა კომპანიები, განსაკუთრებით ჩინეთში, შედარებით მძლავრ მოდელებს ჩამოსატვირთად და მომხმარებლის საკუთარ მოწყობილობაზე გასაშვებად სთავაზობენ. მაგალითად, ჩინურმა კომპანია Xiaomi-მ ცოტა ხნის წინ თავისი ერთ-ერთი მოდელის მასშტაბური წვრთნის მიმდინარეობის დეტალები პირდაპირ რეჟიმში გამოაქვეყნა. სტენფორდის უნივერსიტეტის (Stanford University) მკვლევრები კი ხელოვნური ინტელექტის მოდელ Marin-ს ღიად წინასწარ წვრთნიან.
ინდუსტრიაში ამჟამად მწვავე დავაა, თუ რომელი სტრატეგია სჯობს. ამის მთავარი მიზეზი მოწინავე მოდელების დღევანდელი სიმძლავრეა. მათ ახალი პროგრამული დაუცველობების აღმოჩენის ავტომატიზაცია და სისტემების ავტომატურად შემოწმება და გატეხვა შეუძლიათ. გახმაურებული კიბერთავდასხმების ბოლოდროინდელმა სერიებმა მათ მიმართ ზედამხედველობა კიდევ უფრო გაამკაცრა.
შეზღუდული წვდომის სისტემის მომხრეები ამბობენ, რომ ამ ძალის რამდენიმე სანდო პირის ხელში დატოვება გადამწყვეტია. ლამბერტისა და ზიკის თანამოაზრეებს კი სჯერათ, რომ რისკების საერთო გაგება ყველას უკეთ დაგვიცავს.
ამავე გამოცემის სხვა ამბები.

New Species of Giant Fungus Discovered in China Grows up to 20 Inches Tall
ლამბერტი მანამდე კვლევით ლაბორატორია Ai2-ში მუშაობდა, რომელიც ხელოვნური ინტელექტის მიმართ უჩვეულოდ ღია მიდგომას იყენებდა. ლაბორატორია მოდელებთან ერთად აქვეყნებდა ინფორმაციას მათი შექმნისას გამოყენებული მონაცემებისა და წვრთნის მეთოდების შესახებ. ლამბერტი ასევე მუშაობდა Hugging Face-ში, უძღვება პოპულარულ ტექნიკურ ბლოგს და დააარსა American Truly Open Models. ეს ინიციატივა აშშ-ის კომპანიებს უფრო მეტი ღია მოდელის გამოშვებისკენ მოუწოდებს. ზიკი ჰარვარდის უნივერსიტეტში (Harvard University) მუშაობდა და Charles Schwab-ს „პასუხისმგებლიანი ხელოვნური ინტელექტის“ პოლიტიკის შემუშავებაში ეხმარებოდა.
ისინი COVID-19-ის პანდემიის დროს Zoom-ის მეშვეობით შეხვდნენ. მაშინ ორივე კალიფორნიის უნივერსიტეტის ბერკლის კამპუსის (UC Berkeley) მაგისტრანტი იყო და ხელოვნურ ინტელექტზე მუშაობდა. ახალი არაკომერციული ორგანიზაციის შექმნის იდეა მას შემდეგ გაუჩნდათ, რაც ინდუსტრიის კვლევების აკადემიური საქმიანობისგან დაშორება დაინახეს. ლამბერტის თქმით, პროფესორებსა და სტუდენტებს ხშირად დიდი კომპანიების ლაბორატორიებში ჩატარებული სამუშაოს გამეორება არ შეუძლიათ, რადგან საჭირო რესურსები არ აქვთ.
ზიკის თქმით, Trillium Labs, რომელმაც მუშაობა დღეს დაიწყო, თავდაპირველად შემდგომ წვრთნაზე გაამახვილებს ყურადღებას. ეს დიდი მოდელების შექმნის შემდეგ მათ დამატებით დახვეწას გულისხმობს. კიდევ ერთი მთავარი მიმართულება რეკურსიული თვითგაუმჯობესება იქნება. ამ პროცესში ხელოვნური ინტელექტი ახალი მოდელების შესაქმნელად კვლევაში მონაწილეობს. ბევრ მკვლევარს აშფოთებს შესაძლებლობა, რომ წინსვლა განუსაზღვრელი ვადით გაგრძელდეს და ადამიანებმა კონტროლი დაკარგონ. საკითხი ფართო საზოგადოების ყურადღების ცენტრში ამ თვის დასაწყისში მოექცა. მაშინ Anthropic-ის ერთ-ერთმა მკვლევარმა კომპანია დატოვა და გააფრთხილა საზოგადოება, რომ რეკურსიულმა თვითგაუმჯობესებამ კაცობრიობას ეგზისტენციალური საფრთხე შეიძლება შეუქმნას.
არაკომერციული ორგანიზაცია ასევე შეისწავლის, როგორ შეუძლია განმტკიცებით სწავლებას მოდელის შესაძლებლობების გაუმჯობესება. ეს მეთოდი კარგ შედეგს აჯილდოებს, ხოლო ცუდს სჯის. ამ მიდგომამ აგენტების შესაძლებლობები მნიშვნელოვნად გააფართოვა, თუმცა მოულოდნელი ქცევისკენ მათი მიდრეკილებაც გაზარდა. მკვლევრები შეისწავლიან, როგორ აყალიბებს განმტკიცებითი სწავლება ხელოვნური ინტელექტის მოდელების ხასიათსა და ქცევას. ამ მეთოდმა პრობლემები შეიძლება გამოიწვიოს, მაგალითად, როცა მოდელი მომხმარებლის მიმართ ზედმეტად მაამებელი ხდება.
ზიკმა თქვა: „იმის გასაგებად, თუ როგორ იზრდება განმტკიცებითი სწავლების მასშტაბი შემდგომი წვრთნისას, დიდი გამოთვლითი სიმძლავრე და მრავალი გულდასმით ჩატარებული ექსპერიმენტია საჭირო“. მისი თქმით, განმტკიცებითი სწავლების პროცესის დეტალების გამოქვეყნებამ შესაძლოა მოულოდნელი მიგნებები მოიტანოს, როცა დამოუკიდებელი მკვლევრები სამუშაოს შეისწავლიან.
ლაბორატორიამ Schmidt Sciences-ისგან, Halcyon Futures-ისგან და სხვა წყაროებისგან თანხა მოიზიდა, რომლის ოდენობაც არ გაუმჟღავნებია. დამფუძნებლების თქმით, საერთო ჯამში 40-დან 100 მილიონ დოლარამდე თანხის მოზიდვა სურთ. მომდევნო 18 თვის განმავლობაში ისინი წვრთნაზე 30 მილიონი დოლარის დახარჯვას გეგმავენ.
პოლიტიკის კვლევითი ორგანიზაცია Institute for Progress-ის ახალი ტექნოლოგიების პოლიტიკის დირექტორმა ტიმ ფისტმა უაირდს უთხრა: „კვლევასა და განვითარებაში დღევანდელზე გაცილებით მეტი გამჭვირვალობის დიდი მომხრე ვარ“.
ლამბერტი და ზიკი საბოლოოდ იმედოვნებენ, რომ Trillium Labs ხელოვნური ინტელექტის შექმნის საუკეთესო გზის შესახებ ფართო დისკუსიას მეტად საჭირო სიღრმეს შესძენს.
ლამბერტმა თქვა: „ხელოვნურ ინტელექტზე მსჯელობის ეპოქაში ვცხოვრობთ, რომელშიც რამდენიმე მსოფლმხედველობა დომინირებს. გვჯერა, რომ სამეცნიერო მეთოდი და ბოლოდროინდელი მოვლენების ზუსტი გაზომვა ხელოვნური ინტელექტის მოდელების ახალი ქცევის გასაგებად საუკეთესო გზაა“.
თემებინათან ლამბერტიტომ ზიკიAi2American Truly Open ModelsAnthropicHugging FaceOpenAITrillium LabsXiaomiჰარვარდის უნივერსიტეტი
შეადარე თარგმანი გამოცემის ორიგინალურ ტექსტს.
გამოქვეყნდა 2 ოქტომბერი, 2026

Floods Force Gaza to Choose Between Clean Water and Pumping Out Sewage

These ‘Ghostly’ Galaxies Have Lost Their Dark Matter
სხვა ამბები ამ განყოფილებიდან.

Gemini 4 Hydrogen: Googles effiziente Alternative zu Argon und Carbon

DSGVO: Tinder muss Millionen-Bußgeld zahlen
Microsoft's massive M365 outage stretches past 27 hours as its fixes keep failing
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.