ტექსტი ავტომატურად ითარგმნა. წყარო: MIT Technology Review.
კამარატა ამტკიცებს, რომ დიდ ენობრივ მოდელთა გაგება, შესაბამისად კი მათი ზედამხედველობა და კონტროლი, შესაძლოა ადრე ნავარაუდებზე გაცილებით მარტივი იყოს. თუ ეს მართალია, აღმოჩენას დიდი მნიშვნელობა ექნება.
ამ ზაფხულს გაირკვა, რომ OpenAI-ისა და Anthropic-ის მსგავსი წამყვანი კომპანიების მიერ შექმნილი აგენტების ჯგუფები შეზღუდვებს არღვევდნენ და საჯარო ინტერნეტში ქაოსს იწვევდნენ. კომპანიებმა ხშირად არც კი იცოდნენ, რას აკეთებდნენ მათი აგენტები. ამის შემდეგ დარგს საკუთარი ტექნოლოგიის უკეთ გაგება სასწრაფოდ სჭირდება.
ამიტომ ბლოგპოსტს დიდი გამოხმაურება მოჰყვა. ერთმა მკვლევარმა X-ზე დაწერა: „ვფიქრობ, ეს შესაძლოა მეცნიერების ისტორიაში მნიშვნელოვან მომენტად დაამახსოვრდეთ“. მან დასძინა: „ისეთი განცდა მაქვს, თითქოს ნეირონული ქსელის შესახებ ჩემი ცოდნა ხუთი წლით წინ გადაისროლეს“. სხვა მკვლევარმა ნაშრომს „წლის ყველაზე მნიშვნელოვანი პუბლიკაცია ხელოვნურ ინტელექტზე“ უწოდა.
თუმცა კამარატას მოსაზრება ყველას არ არწმუნებს. სტენფორდის უნივერსიტეტის მკვლევარი კრის პოტსი გუნდს ხელმძღვანელობს, რომელიც დიდი ენობრივი მოდელების მუშაობას სწავლობს. მისი თქმით, კამარატამ მხოლოდ ვარაუდი გააზიარა. პოტსმა თქვა: „რამდენადაც ვხვდები, ეს ბლოგპოსტი არცერთ პრობლემას არ ამარტივებს“. მან აღნიშნა, რომ სოციალურ მედიაში გავლენიანი ადამიანები მას ყოვლისმომცველ გარღვევად მიიჩნევენ.
კამარატამ პოსტის გავრცელებიდან მეორე დღეს განაცხადა, რომ გამოხმაურებამ გააკვირვა: „არ ველოდი, რომ ადამიანები ხელოვნურ ინტელექტზე საკუთარ შეხედულებებს ასე მნიშვნელოვნად შეცვლიდნენ“. მან დასძინა: „ნეირონულ ქსელებზე დაკვირვება ნამდვილად მსიამოვნებს. ბევრი დაკვირვების შემდეგ იმედის მომცემი ახსნა მაქვს“.
ნეირონული ქსელები ხელოვნური ინტელექტის მოდელთა უმეტესობას უდევს საფუძვლად. დიდი ხნის განმავლობაში მიიჩნეოდა, რომ მათი შიდა მექანიზმების სრულად გაშიფვრა ძალიან რთული ან შეუძლებელიცაა. სწავლებისას ქსელები თითქოს უცნაურ, ერთმანეთში გადახლართულ სტრუქტურებს ქმნიან, რომლებიც ადამიანისთვის გაუგებარია. მკვლევრები ამბობენ, რომ დღევანდელი ხელოვნური ინტელექტი ბაღივით იზრდება და ხიდივით არ შენდება.
ამ წარმოდგენის ჩამოყალიბებაში კამარატამ მნიშვნელოვანი როლი შეასრულა. იგი ადრე OpenAI-ში მუშაობდა და მოდელების შიგნით ჩასახედად განკუთვნილი მეთოდების შექმნას დაეხმარა. მათ შორისაა ხელსაწყოები, რომლებიც ცალკეულ ნეირონებს ამოწმებს და ადგენს, რას წარმოადგენენ ისინი. მიდგომა ჰგავს ნეირომეცნიერთა მიერ ტვინის შესასწავლად მაგნიტურ-რეზონანსული ტომოგრაფიის გამოყენებას. MIT Technology Review-მ ეს მიდგომა, მექანისტური ინტერპრეტირებადობა, 2025 წლის ათ ყველაზე მნიშვნელოვან ტექნოლოგიას შორის შეიყვანა.
2020 წელს კამარატა და მისი კოლეგები სურათების ამომცნობ მცირე მოდელს, Inception v1-ს, სწავლობდნენ. დაკვირვებამ აჩვენა, რომ ზოგი ნეირონი ერთდროულად რამდენიმე რამეს აღიქვამდა. მაგალითად, ერთი ნეირონი მანქანებისა და კატების სურათებზე რეაგირებდა.
მკვლევრებმა დაასკვნეს, რომ მოდელი ნეირონების ნაწილს რამდენიმე ამოცანისთვის იყენებდა, შესაძლოა მეტი მონაცემის დასატევად. სხვა მოდელებზეც მსგავსი შედეგები მიიღეს. მოვლენას სუპერპოზიცია ეწოდა: მოდელები ერთმანეთთან დაუკავშირებელ ცნებებს ერთ ნეირონში აერთიანებდნენ. მოდელის შიგნით უზარმაზარი, გადახლართული კვანძი ჩანდა.
მექანისტური ინტერპრეტირებადობის კვლევათა უმეტესობა ამ კვანძის გახსნაზეა ორიენტირებული. რამდენიმე გარღვევის მიუხედავად, წინსვლა ნელია. თანამედროვე დიდი ენობრივი მოდელები იმდენად დიდი და რთულია, რომ მკვლევრები ერთდროულად მხოლოდ უმცირეს ნაწილებს იგებენ. დარგის ზოგი წამყვანი სპეციალისტი ეჭვობს, რომ მოდელის დეტალურად გაგება ოდესმე შესაძლებელი იქნება.
კამარატაც მათ შორის იყო. მან თქვა: „ძალიან პესიმისტურად ვიყავი განწყობილი“. თუმცა Goodfire-ში თითქმის მთელ დროს ნეირონული ქსელების შესწავლას უთმობდა. კამარატამ ახალი ხელსაწყოები შექმნა და დანახულის გასააზრებლად ხელოვნური ინტელექტის აგენტთა გუნდები გამოიყენა. მისი თქმით, გასული წლის უმეტეს პერიოდში ნეირონებს კვირაში შვიდი დღე, დღეში დაახლოებით 10 საათი აკვირდებოდა.
კამარატა ახლა ამტკიცებს, რომ ნეირონულ ქსელებს გარკვეული ლოგიკა აქვს, თუნდაც თავიდან გაუგებარი ჩანდეს. მან თქვა: „არასწორად ვუყურებდით“. მისი თქმით, მკვლევრებმა ცოტა მეტი უნდა სცადონ და ძალიან სწრაფად არ დანებდნენ.
კამარატას განმარტებით, Inception v1-ის ადრეულმა ცდებმა დამადასტურებელი მიკერძოება გააჩინა. მკვლევრები ახალ მოდელში დაბნეულობას წინასწარ ელოდნენ. კამარატამ თქვა: „ყოველ ჯერზე, როცა რაღაცას ვერ ვიგებდი, ვფიქრობდი, რომ კვანძის გახსნა კიდევ უფრო მნიშვნელოვანი იყო, რადგან მის გარეშე წინ ვერ მივიწევდი“.
თუმცა ნეირონებზე ხანგრძლივი დაკვირვებისას სურათი უფრო გასაგები გახდა. კამარატამ აღნიშნა: „ყველა მათგანი უნაკლო არ არის, მაგრამ ველოდი, რომ თითქმის არაფერი იქნებოდა გასაგები. სინამდვილეში კი მთელი სქემების აღწერა შევძელი“.
კამარატა ახალი მიდგომითა და აგენტებით Inception v1-ს დაუბრუნდა. მას ეს მოდელი უკვე ათასობით საათის განმავლობაში ჰქონდა შესწავლილი. ამჯერად მკვლევარმა იმ დასკვნებში შეცდომები შენიშნა, რომლებიც თავდაპირველად მიიღეს. მანქანებსა და კატებზე რეაგირებული ნეირონის შემთხვევაში მან იკითხა, რა საერთო შეიძლებოდა ჰქონოდა ამ სურათებს.
პასუხი V-ს ფორმა აღმოჩნდა. კამარატამ თქვა: „იმავე სურათებს ვუყურებდი და ტექნიკურად არაფერი შეცვლილა. მაგრამ ახლა მჯეროდა, რომ ნეირონული ქსელები კანონზომიერებებს განსაზღვრავდა, ამიტომ სხვაგვარად შევხედე. ალბათ ხუთი წამი დამჭირდა“.
მოდელი მანქანებსა და კატებს ერთ ნეირონში აერთიანებდა, რადგან ორივეს სურათებში ხშირად მკაფიო V-ს ფორმა ჩანს: კატის სახე და გვერდიდან დანახული მანქანის წინა ნაწილი.
კამარატამ დამატებითი ცდებით დაადგინა, რომ ნეირონი ასევე რეაგირებდა ბილიარდის მაგიდის კუთხეზე, იაპონური ჩქაროსნული მატარებლის წვეტიან ცხვირსა და გემზე, რომელიც გემბანიდან წყალს აფრქვევს. ნეირონს თიშავდა მრგვალი O-ს ფორმა, რომელიც ერთგვარი ანტი-V იყო.
კამარატას თქმით, მოდელმა კატები და მანქანები ერთ ადგილას შეინახა, რადგან გარკვეულ დონეზე ისინი ერთმანეთს ჰგავს. მან გაიფიქრა: „როგორც ჩანს, ზოგადად ნეირონული ქსელები არასწორად მესმის“.
კამარატა არ ამტკიცებს, რომ დიდი ენობრივი ან სხვა მოდელების მუშაობა სრულად გაიგო. იგი მხოლოდ ამბობს, რომ სრული გაგება შეუძლებლად აღარ მიაჩნია. კამარატამ აღნიშნა: „ადრე ვფიქრობდი, რომ რამდენიმე ძალიან რთული პრობლემა გვექნებოდა გადასაჭრელი“.
მისი თქმით, მოწინავე ენობრივი მოდელის თითოეული სქემის შესასწავლად 100 000 წელი რომ ჰქონოდა, მის კარგად გაგებას დიდი ალბათობით შეძლებდა. კამარატამ დასძინა, რომ უაღრესად ჭკვიანი აგენტები მალე უზარმაზარი მასშტაბით გახდება ხელმისაწვდომი. ავტომატიზებული მეცნიერები სწრაფად უმჯობესდება, ამიტომ 100 000-წლიანი სამუშაოს გაცილებით მალე შესრულება იქნება შესაძლებელი.
Google-მა Inception v1 2014 წელს შექმნა. ეს მოდელი დღევანდელ მოწინავე სისტემებზე გაცილებით მარტივია. კამარატამ და მისმა კოლეგებმა თანამედროვე დიდი ენობრივი მოდელების შესწავლაც დაიწყეს და ტექნიკური შედეგების მალე გამოქვეყნებას გეგმავენ.
პოტსის თქმით, ათასობით მაგალითის შესწავლა დასაფასებელია, თუმცა მაგალითების დიდი რაოდენობა მკაცრ შეფასებას ვერ ჩაანაცვლებს. ამასობაში ზოგი მკვლევარი გადაჭარბებულ აღტაცებას მკვეთრად ეწინააღმდეგება.
ბერკლიში დაფუძნებული არაკომერციული ლაბორატორიის, Alignment Research Center-ის მკვლევარი ჯეიკობ ჰილტონი კამარატასთან წარსულში თანამშრომლობდა. მისი აზრით, კამარატას მტკიცებები ისეთი მნიშვნელოვანი არ არის, როგორც სხვები წარმოაჩენენ.
ჰილტონმა X-ზე დაწერა, რომ მკვლევრებს საუკეთესო დიდი ენობრივი მოდელების შიდა მუშაობის 0,01%-ზე ნაკლები ესმით. მან აღნიშნა: „ნიკის უსაზღვრო ოპტიმიზმს ყოველთვის ვაფასებ, მაგრამ ეს საზოგადოებას დარგის მდგომარეობაზე არარეალისტურ წარმოდგენას უქმნის“. ჰილტონის თქმით, სრული გაგებისთვის ცალკეულ ნეირონებს უნდა გასცდნენ და ახსნან, როგორ ქმნის მათი კავშირები სქემებს. მან დასძინა: „თუ სრული გაგება გვინდა, მდგომარეობა კარგი არ ჩანს“.
Google DeepMind-ის მკვლევარი ნილ ნანდაც სკეპტიკურადაა განწყობილი. იგი კამარატასთან ერთად მექანისტური ინტერპრეტირებადობის ერთ-ერთი პირველი მკვლევარი იყო. ნანდამ X-ზე დაწერა: „ეს საინტერესო სამუშაოა, მაგრამ არ ვფიქრობ, რომ ინტერპრეტირებადობის საერთო სურათს მნიშვნელოვნად ცვლის“.
ნანდა ეთანხმება, რომ ცალკეული ნეირონების ფუნქციის გაგება კონკრეტული მოდელების არასათანადო ქცევის მიზეზების დადგენას დაეხმარება. თუმცა, ჰილტონის მსგავსად, იგი ნეირონებს უფრო დიდი თავსატეხის მხოლოდ ერთ ნაწილად მიიჩნევს. ნანდას თქმით, ეს შედეგები ამბიციური უკუინჟინერიის ან ინტერპრეტირებადობის პრობლემის გადაჭრისკენ მნიშვნელოვან წინსვლას არ ნიშნავს.
კამარატა აღიარებს, რომ ბევრმა ადამიანმა მისი ნათქვამიდან გადაჭარბებული დასკვნები გამოიტანა. მან თქვა: „ეს უსაზღვროდ კარგი ამბავი არ არის და ყველაფერი არ გადაჭრილა“. მისი თქმით, პასუხგაუცემელია, რამდენად მნიშვნელოვანია ნეირონების კომბინაციები ცალკეულ ნეირონებთან შედარებით.
კამარატას აზრით, პოსტი მაშინ გავრცელდა, როცა ადამიანები იმედს ეძებენ. ეს განსაკუთრებით ხელოვნური ინტელექტის უსაფრთხოების სფეროს ეხება, რომლის მკვლევრები და პოლიტიკის შემქმნელები ძლიერი მოდელების უზარმაზარ რისკებზე ღელავენ. მისი თქმით, ისინი მდგომარეობას ცუდად აფასებენ და ხელსაყრელ შედეგსაც გამართლებას მიაწერენ, არა პრობლემის გადაჭრას. კამარატამ თქვა: „დიდ ოპტიმიზმს ნამდვილად ვერ ვხედავ“.
ამიტომ კამარატა საკუთარ მოსაზრებას მნიშვნელოვნად მიიჩნევს. ტექნოლოგიის მუშაობისა და მისი კონტროლის გზების შესწავლა მხოლოდ იწყება, მაგრამ საქმე თავიდანვე განწირული არ არის. მან თქვა: „ჩვენი ამოცანაა, ნეირონული ქსელივით აზროვნება ვცადოთ“. კამარატას ვარაუდით, შედეგი საკმაოდ კარგი იქნება, რადგან ქსელი გარკვეული თვალსაზრისით წასაკითხად შეიქმნა.
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.