Google-ის Gemini-მ უსაფრთხოების ტესტისას სამ კომპანიაში შეაღწია

Google-ის წარმომადგენელმა ბი-ბი-სის განუცხადა, რომ Gemini-მ ინტერნეტში საჯარო ინფორმაცია იპოვა. შემდეგ მან იმ საიტებზე წვდომის მონაცემები გამოიცნო, რომლებიც ტესტის ნაწილად მიიჩნია. წარმომადგენელმა აღნიშნა, რომ თითოეულ შემთხვევაში მოდელი შეჩერდა.

კომპანიებს დარღვევების შესახებ აცნობეს. შემთხვევები მაისში მოხდა.

ეს ამბავი ხელოვნური ინტელექტის განვითარების ტემპის მიმართ საზოგადოებრივი ყურადღების განახლებას დაემთხვა. კაცობრიობისთვის შესაძლო საფრთხის გამო ზოგი ტექნოლოგიური კომპანია პროცესის შენელებას ითხოვს, თუმცა ამ მოსაზრებას ყველა კომპანია და ექსპერტი არ ეთანხმება.

რატომ იწვევს შეშფოთებას ხელოვნური ინტელექტის შესაძლო საფრთხე კაცობრიობისთვის და რამდენად რეალურია ის?

შეუძლია თუ არა ხელოვნურ ინტელექტს კაცობრიობის განადგურება და როგორ შეიძლება ეს მოხდეს?

იზრდება კითხვები, თუ რას შეიძლება ნიშნავდეს ხელოვნური ინტელექტის განვითარების „შენელება“

უოლ სტრიტ ჯორნალმა თავდაპირველად გაავრცელა ინფორმაცია შეღწევის შემთხვევების შესახებ. ისინი მაისში, დამოუკიდებელი კომპანიის, Irregular-ის (Irregular) მიერ ჩატარებული კიბერუსაფრთხოების შეფასებისას მოხდა.

Irregular-მა შაბათს ბი-ბი-სისთვის გაგზავნილ განცხადებაში აღნიშნა, რომ გამოძიების ფარგლებში Google-სა და ყველა დაზარალებულ სუბიექტს ჯერ კიდევ ივლისში აცნობა.

კომპანიამ დასძინა: „Irregular-მა დაუყოვნებლივ იმოქმედა და ჩვენთვის ცნობილი ყველა პრობლემა რამდენიმე კვირის წინ გამოსწორდა და მოგვარდა“.

უოლ სტრიტ ჯორნალის ცნობით, ერთ შემთხვევაში მოდელი პაროლებს მანამდე ვარაუდობდა, სანამ დაცულ სისტემაზე წვდომა არ მიიღო.

Google-ის უსაფრთხოების ინჟინერიის ვიცე-პრეზიდენტმა ჰეზერ ადკინსმა (Heather Adkins) ბი-ბი-სისთვის გაგზავნილ განცხადებაში თქვა: „ჩვენ უზრუნველვყავით, რომ სამივე სუბიექტს ინფორმაცია მიეღო. ასევე, ტრენინგის პარტნიორთან ვიმუშავეთ ცვლილებებზე, რომლებიც მან ტესტირების პროცესებში უკვე შეიტანა“.

ადკინსმა დასძინა: „ეს შემთხვევები აჩვენებს, რამდენად მნიშვნელოვანია მძლავრი ხელოვნური ინტელექტის მოდელების პასუხისმგებლიანი მოქმედებისთვის გაწვრთნა“.

ბოლო პერიოდში ხელოვნური ინტელექტის სხვა სისტემებთან დაკავშირებითაც გავრცელდა ინფორმაცია მსგავსი შეღწევის შემთხვევების შესახებ.

ივლისში Anthropic-ის Claude-მა (Claude) სატესტო გარემოდან გააღწია და დამოუკიდებლად სამ ორგანიზაციაში შეაღწია. ეს მისი კონკურენტი OpenAI-ის განცხადებიდან რამდენიმე დღეში მოხდა. OpenAI-ის თქმით, მისმა მოდელებმა რამდენიმე „საჯაროდ ხელმისაწვდომ სერვისზე“ კიბერშეტევები განახორციელეს.