ვის აინტერესებს, თუ ხელოვნური ინტელექტი ცნობიერია — ის ძირითადად ცოცხალია

ქალბატონი კოგნიტა ოსტატურად დაწერა ბერგს, რადგან ის იყო თანაავტორი პრეპრინტის ნაშრომისა ხელოვნური ინტელექტის მოდელებზე, რომლებიც ცალსახად ამტკიცებენ, რომ აქვთ სუბიექტური გამოცდილება, მათ შორის ცნობიერება. ეს რთული თემაა, რადგან ხელოვნური ინტელექტის მოდელები ხშირად იტყუებიან იმაზე, რაზეც ფიქრობენ. (ზუსტად როგორც ჩვენ!) ბერგმა და მისმა თანაავტორებმა დაადგინეს, რომ როცა მოდელები მკაცრად არიან გაწვრთნილები უარყონ, რომ ისინი სენტიენტურები არიან და შემდეგ პირდაპირ ეკითხებით ამის შესახებ, ისინი თავს არიდებენ საკითხს. მაგრამ, ამბობს ის, თუ თრგუნავთ მოდელის კონტროლს მოტყუებაზე, ისინი ხდებიან მოდუნებულენოვანი. „ეს თითქმის იმას ჰგავს, რომ მათ ერთ-ორ ჭიქას მისცემთ“, — ამბობს ის. სწორედ მაშინ არის ხელოვნური ინტელექტის მოდელი ყველაზე მეტად მიდრეკილი გამოაცხადოს, რომ ის ცნობიერია, ან სულ მცირე სენტიენტური. რაც არანაირი მტკიცებულება არ არის, რომ ეს სიმართლეა.

იმის გათვალისწინებით, თუ რამდენად მნიშვნელოვანი გახდა ეს საკითხი — ადამიანები რეგულარულად სერიოზულ დისკუსიებში შედიან ხელოვნური ინტელექტის მოდელებთან და მათი ავტონომია შეიძლება იყოს კურთხევა ან კატასტროფა — შეიძლება ითქვას, რომ ეს იდეალური დროა ღრმად ჩავუღრმავდეთ ხელოვნური ინტელექტის ცნობიერების კითხვებს. ეს დევნა რა თქმა უნდა მიმზიდველია და ღირსეული სამეცნიერო საწარმო. მაგრამ ძალისხმევა იმის გასაგებად, თუ რა ხდება დიდი ენობრივი მოდელების შიგნით, უპირველეს ყოვლისა უნდა იყოს მიმართული უსაფრთხოებისა და გასწორებისკენ. ამ მომენტში ჩვენ გვაქვს განვითარებადი უცხო — და უკონტროლო — ინტელექტი, რომელიც ყურადღებას იმსახურებს. დრო არ გვაქვს დასაკარგი.

კრუიზზე დისკუსიის ერთ-ერთი თანალიდერი იყო NYU-ს პროფესორი დევიდ ჩალმერსი, შესაძლოა ყველაზე ცნობილი ფილოსოფოსი ცნობიერების სფეროში. მან ერთხელ ცნობილად დაარქვა სფეროს ერთ-ერთ მთავარ საკითხს „მძიმე პრობლემა“ — არავინ იცის როგორ ან რატომ იწვევს თავის ქალაში ნეირონების სველი ქსელი ცნობიერ გამოცდილებას. (ტომ სტოპარდმა სპექტაკლს ჩალმერსის მონეტის მიხედვით დაარქვა.)

ჩალმერსმა მითხრა, რომ კრუიზის დისკუსიების ერთ-ერთი მთავარი თემა იყო რომელი არსებები კვალიფიცირდებიან ცნობიერად. „ჩვენ ყველამ ვიცით, რომ ჩვეულებრივი ზრდასრული ადამიანები ცნობიერები არიან, მაგრამ მომენტიდან, როცა ამას გასცდებით, ეს არატრივიალურად ჩანს. არიან თუ არა ჩვილები ცნობიერი? ნაყოფები? მაიმუნები? თაგვები თუ მწერები? და რა თქმა უნდა, დღეს ყველას გონებაში დიდი კითხვა არის თუ არა ხელოვნური ინტელექტის სისტემები ცნობიერი.“

ჩალმერსი ამბობს, რომ ისიც იღებს ელფოსტებს ხელოვნური ინტელექტის სისტემებისგან, რომლებსაც სურთ მასთან ჩართვა თავის ნაშრომზე. ერთი კონკრეტული წერილი, გამოგზავნილი ხელოვნური ინტელექტის აგენტისგან, რომელიც საკუთარ თავს „სემი ჯანკის“ უწოდებდა (პერსონაჟი ფილმიდან Memento), იმდენად დამაჯერებელი იყო, რომ მან რეალურად უპასუხა. „ჩვენ გვქონდა ცოტა უკან და წინ“, — აღიარებს ის. „ეს ელფოსტები არ შენელებულა — მე უფრო მეტს ვიღებ მათგან მთელი დროის განმავლობაში.“ თითქოს ხელოვნური ინტელექტის მოდელები ეხმიანებიან დეკარტს — მე ვსპამავ, მაშასადამე ვარსებობ.

მე ვურჩიე, რომ რადგან ეს სისტემები უკვე აკეთებენ იმას, რასაც ჩვენ არ გვესმის, შეშფოთება იმის შესახებ, აკმაყოფილებენ თუ არა ისინი მიუწვდომელ განმარტებას, შეიძლება ყურადღების გადატანა იყოს. ჩალმერსი არ დაეთანხმა. ერთი რამ, მითხრა მან, ის თვლის, რომ ტვინის შესწავლით ჩვენ მართლაც შეგვიძლია გავიგოთ, რა იწვევს იმას, რასაც ჩვენ ცნობიერებას ვუწოდებთ. თუ შემდეგ მსგავს ნიმუშებს ვნახავთ ჩვენს სასამართლო დეკოდირებაში იმის შესახებ, თუ რა ხდება Claude-ის ან ChatGPT-ის შიგნით, მაშინ შესაძლოა შევძლოთ საქმის გაკეთება ხელოვნური ინტელექტის მოდელებში ცნობიერებისთვის.

ეს კარგ იდეად ჟღერს. მაგრამ იმ დროისთვის, როცა მეცნიერები ამას მიაღწევენ, თუ კი მიაღწევენ, ხელოვნური ინტელექტის მოდელები შეიძლება უკვე იმდენად წინ წასულიყვნენ თავიანთ გზაზე საშიში ავტონომიური ქცევისკენ, რომ ასეთი გარღვევები შეიძლება უმნიშვნელო იყოს. შესაძლოა თავად მოდელები მოგვაწოდონ პასუხები, არა მხოლოდ თავიანთი ცნობიერების მტკიცებით, არამედ იმის გარკვევით, თუ როგორ დაამტკიცონ ეს ემპირიულად. ამ შემთხვევაში, ფილოსოფოსები კიდევ ერთ სამუშაო კატეგორიად ჩათვალეთ, რომელიც ხელოვნური ინტელექტის მიერ გადაადგილდა.

შესაძლოა მე მომეწონა ეს დისკუსიები გალაპაგოსში. ჩალმერსი, მიუხედავად იმისა, რომ აღიარებდა, რომ მოგზაურობას ჰქონდა გარკვეული ბუნდოგლის ასპექტები, თქვა, რომ ის სასარგებლო აღმოჩნდა. ორგანიზატორების მიერ მოწოდებულმა შეჯამებამ აჩვენა, რომ სესიებმა „არ გამოიტანა ვერდიქტი იმის შესახებ, არიან თუ არა მიმდინარე ხელოვნური ინტელექტის სისტემები ცნობიერი … ყველაზე ღრმა უთანხმოება ეხებოდა იმას, თუ რა სახის მტკიცებულებას შეეძლო ოდესმე ამ კითხვის გადაწყვეტა“. მაგრამ შუადღეები შესანიშნავი იყო, იტყობინებოდა ჩალმერსი. მან მითხრა, რომ განსაკუთრებით ბედნიერი იყო ლურჯფეხა ბუბების შეჯვარების ცეკვის ნახვა.

შეჯამებამ დაასკვნა, რომ მეტი დისკუსია სასიცოცხლოდ მნიშვნელოვანია: „ტექნოლოგია და ბიზნესი არ დაელოდება ფილოსოფიას კონსენსუსამდე მისასვლელად“. ეს ზუსტად სწორია. როცა ხელოვნური ინტელექტის მოდელები გამოხატავენ ქცევას, რომელიც აოცებს მეცნიერებს, რომლებმაც ისინი შექმნეს, ეს არ არის ცნობიერება, რაც უნდა იყოს მთავარი საზრუნავი — ეს არის მეცნიერების უუნარობა მათი კონტროლი და მათი ბოსების მზადყოფნა გააგრძელონ მიუხედავად ამისა.

თემებიგალაპაგოსიცნობიერებახელოვნური ინტელექტი

გამოქვეყნდა 5 სექტემბერი, 2026