მათემატიკოსები OpenAI-სგან მტკიცებულებას ითხოვენ

კიდევ ერთი მათემატიკოსი OpenAI-ს „არაკეთილსინდისიერებაში“ ადანაშაულებს რამდენიმე დიდი მიღწევის შემდეგ.

კიდევ ერთი მკვლევარი OpenAI-ს უპირისპირდება მონაცემებთან დაკავშირებით, რომლებიც კომპანიის მათემატიკური აღმოჩენების სერიას უდევს საფუძვლად. რამდენიმე დღის წინ მწვავე დავა დაიწყო იმის გამო, გამოიყენა თუ არა კომპანიამ გამოუქვეყნებელი ნაშრომი. ახლა მეორე მათემატიკოსი OpenAI-ს არაეთიკურ და „არაკეთილსინდისიერ“ ქცევაში ადანაშაულებს და ამბობს, რომ კომპანია არ ასაჯაროებს სასწავლო მონაცემების წყაროს.

მათემატიკოსმა ანდრეას თომმა მასტოდონზე გამოქვეყნებულ პოსტებში განაცხადა, რომ მისი და კოლეგების საუბრები ChatGPT-თან შესაძლოა OpenAI-ს მათემატიკურ წარმატებას შეუწყო ხელი. OpenAI-მ გასულ თვეში ათი შედეგი გამოაცხადა, რომელთაგან ერთი თომის სპეციალობას, ეგრეთ წოდებულ არასოფიკურ ჯგუფებს, ეხებოდა. კომპანიამ აღიარა, რომ შედეგი თომისა და მათემატიკოს გაბორ კუნის წინა ნაშრომს ეყრდნობოდა.

თომმა განაცხადა, რომ ტრისტან ბაკმასტერის, ნიუ-იორკის უნივერსიტეტის პროფესორის, საჯარო კითხვების შემდეგ დაიწყო საკუთარი საუბრების გადახედვა. ბაკმასტერმა ეჭვი გამოთქვა, რომ OpenAI-ს მოდელები Codex-ის მეშვეობით მისი ნაშრომით ისარგებლა. OpenAI-მ არასოფიკური ჯგუფების შედეგის გამოცხადების შემდეგ თომისა და კუნის ბოლო წვლილი არ აღნიშნა და მოგვიანებით ჩანაწერი ჩუმად შეასწორა. არასოფიკური ჯგუფები უსასრულო მათემატიკური სტრუქტურებია, რომელთა მიახლოება სასრული სტრუქტურებით შეუძლებელია.

თომმა აღნიშნა, რომ მას OpenAI-ს „ჩვენი მეთოდების დეტალური ცოდნა“ გააოცა. ეს მეთოდები იმ დროს არც ყველაზე აშკარა და არც ყველაზე პერსპექტიული გზა იყო. მან OpenAI-ს მკვლევარებს სებასტიან ბუბეკსა და ჰარვარდის სტატისტიკოს მარკ სელკეს ელფოსტა გაუგზავნა და ჰკითხა, იყო თუ არა მისი საუბრები ChatGPT-თან სასწავლო მონაცემების ნაწილი ან ხელმისაწვდომი მსჯელობის პროცესისთვის.

პასუხი თომს არ დააკმაყოფილა. მან განაცხადა, რომ პასუხი მხოლოდ პირდაპირ წვდომას ეხებოდა და არა იმას, შევიდა თუ არა საუბარი კომპანიის სასწავლო მონაცემების დიდ მასივში. „არანაირი დაზუსტება, ახსნა ან მტკიცებულება არ მიუწოდებია“, დაწერა მან. „მე ამას მაინც არაკეთილსინდისიერებად მივიჩნევ.“

თომმა განაცხადა, რომ მკვლევარებს არ აქვთ შესაძლებლობა OpenAI-ს სასწავლო მილსადენის უკუკონსტრუირება მოახდინონ. „მხოლოდ OpenAI-ს აქვს ამისთვის საჭირო მონაცემები.“ მან დასძინა, რომ თუ კომპანია უარყოფს ამ გამოყენებას, მან უნდა დაამტკიცოს ეს ყველა საჭირო მონაცემთა ნაკრების გამჟღავნებით.

OpenAI-ს უხალისობა მომხმარებლის მონაცემების გამოყენების სრული გამორიცხვის შესახებ იმავე მიდგომას ემთხვევა, რომელიც კომპანიამ მილენიუმის პრიზის გარღვევის დაცვისას გამოიყენა. ბაკმასტერი პრობლემებზე Anthropic-ის მკვლევარ ლევენტ ალპოგესთან პირადი თანამშრომლობით მუშაობდა. ნავიე-სტოქსის ამოხსნის შესახებ ბლოგპოსტში OpenAI-მ პირდაპირ უარყო კონკრეტული მომხმარებლის მონაცემების გამოყენება: „ჩვენ (მკვლევარები და აგენტები) მათ ნაშრომს არანაირი საშუალებით არ ვნახეთ, სანამ ისინი საჯაროდ გამოაქვეყნებდნენ, კერძოდ, ამ პრობლემის ამოსახსნელად არანაირი კონკრეტული მომხმარებლის მონაცემი არ გამოგვიყენებია.“