AI-ის ექსპერტები მაღალი რისკის კვლევების ღიად ჩატარებას გეგმავენ

ისინი COVID-19-ის პანდემიის დროს Zoom-ის მეშვეობით შეხვდნენ. მაშინ ორივე კალიფორნიის უნივერსიტეტის ბერკლის კამპუსის (UC Berkeley) მაგისტრანტი იყო და ხელოვნურ ინტელექტზე მუშაობდა. ახალი არაკომერციული ორგანიზაციის შექმნის იდეა მას შემდეგ გაუჩნდათ, რაც ინდუსტრიის კვლევების აკადემიური საქმიანობისგან დაშორება დაინახეს. ლამბერტის თქმით, პროფესორებსა და სტუდენტებს ხშირად დიდი კომპანიების ლაბორატორიებში ჩატარებული სამუშაოს გამეორება არ შეუძლიათ, რადგან საჭირო რესურსები არ აქვთ.

ზიკის თქმით, Trillium Labs, რომელმაც მუშაობა დღეს დაიწყო, თავდაპირველად შემდგომ წვრთნაზე გაამახვილებს ყურადღებას. ეს დიდი მოდელების შექმნის შემდეგ მათ დამატებით დახვეწას გულისხმობს. კიდევ ერთი მთავარი მიმართულება რეკურსიული თვითგაუმჯობესება იქნება. ამ პროცესში ხელოვნური ინტელექტი ახალი მოდელების შესაქმნელად კვლევაში მონაწილეობს. ბევრ მკვლევარს აშფოთებს შესაძლებლობა, რომ წინსვლა განუსაზღვრელი ვადით გაგრძელდეს და ადამიანებმა კონტროლი დაკარგონ. საკითხი ფართო საზოგადოების ყურადღების ცენტრში ამ თვის დასაწყისში მოექცა. მაშინ Anthropic-ის ერთ-ერთმა მკვლევარმა კომპანია დატოვა და გააფრთხილა საზოგადოება, რომ რეკურსიულმა თვითგაუმჯობესებამ კაცობრიობას ეგზისტენციალური საფრთხე შეიძლება შეუქმნას.

არაკომერციული ორგანიზაცია ასევე შეისწავლის, როგორ შეუძლია განმტკიცებით სწავლებას მოდელის შესაძლებლობების გაუმჯობესება. ეს მეთოდი კარგ შედეგს აჯილდოებს, ხოლო ცუდს სჯის. ამ მიდგომამ აგენტების შესაძლებლობები მნიშვნელოვნად გააფართოვა, თუმცა მოულოდნელი ქცევისკენ მათი მიდრეკილებაც გაზარდა. მკვლევრები შეისწავლიან, როგორ აყალიბებს განმტკიცებითი სწავლება ხელოვნური ინტელექტის მოდელების ხასიათსა და ქცევას. ამ მეთოდმა პრობლემები შეიძლება გამოიწვიოს, მაგალითად, როცა მოდელი მომხმარებლის მიმართ ზედმეტად მაამებელი ხდება.

ზიკმა თქვა: „იმის გასაგებად, თუ როგორ იზრდება განმტკიცებითი სწავლების მასშტაბი შემდგომი წვრთნისას, დიდი გამოთვლითი სიმძლავრე და მრავალი გულდასმით ჩატარებული ექსპერიმენტია საჭირო“. მისი თქმით, განმტკიცებითი სწავლების პროცესის დეტალების გამოქვეყნებამ შესაძლოა მოულოდნელი მიგნებები მოიტანოს, როცა დამოუკიდებელი მკვლევრები სამუშაოს შეისწავლიან.

ლაბორატორიამ Schmidt Sciences-ისგან, Halcyon Futures-ისგან და სხვა წყაროებისგან თანხა მოიზიდა, რომლის ოდენობაც არ გაუმჟღავნებია. დამფუძნებლების თქმით, საერთო ჯამში 40-დან 100 მილიონ დოლარამდე თანხის მოზიდვა სურთ. მომდევნო 18 თვის განმავლობაში ისინი წვრთნაზე 30 მილიონი დოლარის დახარჯვას გეგმავენ.

პოლიტიკის კვლევითი ორგანიზაცია Institute for Progress-ის ახალი ტექნოლოგიების პოლიტიკის დირექტორმა ტიმ ფისტმა უაირდს უთხრა: „კვლევასა და განვითარებაში დღევანდელზე გაცილებით მეტი გამჭვირვალობის დიდი მომხრე ვარ“.

ლამბერტი და ზიკი საბოლოოდ იმედოვნებენ, რომ Trillium Labs ხელოვნური ინტელექტის შექმნის საუკეთესო გზის შესახებ ფართო დისკუსიას მეტად საჭირო სიღრმეს შესძენს.

ლამბერტმა თქვა: „ხელოვნურ ინტელექტზე მსჯელობის ეპოქაში ვცხოვრობთ, რომელშიც რამდენიმე მსოფლმხედველობა დომინირებს. გვჯერა, რომ სამეცნიერო მეთოდი და ბოლოდროინდელი მოვლენების ზუსტი გაზომვა ხელოვნური ინტელექტის მოდელების ახალი ქცევის გასაგებად საუკეთესო გზაა“.

თემებინათან ლამბერტიტომ ზიკიTrillium LabsOpenAIAnthropicXiaomiAi2Hugging FaceAmerican Truly Open Modelsჰარვარდის უნივერსიტეტი

გამოქვეყნდა 2 ოქტომბერი, 2026