ახალი ჩარჩო ხელოვნური ინტელექტის დაცვის გვერდის ავლის მეთოდებს აფასებს
ჩარჩო ზომავს, რამდენად ზრდის მეთოდი მოდელის შესაძლებლობებს, რა მასშტაბის ამოცანებს მოიცავს და რამდენად იოლია მისი გამოყენება.
Toms Hardwareორიგინალი Toms Hardware-ზე
ორიგინალი და წყარო
ორიგინალი გამოქვეყნდა
ქართული თარგმანიინგლისური ენიდან ქართულად
წყარო: Toms Hardware. ქართული თარგმანი: შიკრიკი.
ორიგინალის სათაური
New framework grades AI jailbreaks across capability gains, scope, and how easy they are to deploy
ტექნოლოგია4 წუთის საკითხავი
ტექსტი ავტომატურად ითარგმნა. წყარო: Toms Hardware.
ბოლო თვეებში სათაურებში ხშირად ხვდებოდა ცნობები ხელოვნური ინტელექტის მოდელებზე, რომლებმაც უსაფრთხოების მექანიზმებს გვერდი აუარეს. ახლა Frontier Model Forum-მა (FMF) გამოაქვეყნა დაცვის გვერდის ავლის მეთოდების შეფასების ახალი ჩარჩო, რომელიც აფასებს, რამდენად იოლი შეიძლება იყოს კონკრეტული მოდელისთვის უსაფრთხოების მექანიზმების გვერდის ავლა. ჩარჩო ასევე აფასებს შესაძლო თანმდევი ზიანის მასშტაბს, თუ მოდელი ინტერნეტში მასშტაბურ კიბერშეტევებს განახორციელებს.
პროექტი 2023 წელს ოთხი დამფუძნებელი კომპანიის, Anthropic-ის, Google-ის, Microsoft-ისა და OpenAI-ის მხარდაჭერით დაიწყო. გამოქვეყნებული ჩარჩო ცნობილ CVSS უსაფრთხოების შეფასების სისტემას დაახლოებით ჰგავს, თუმცა მისი მიზანი დიდი ენობრივი მოდელების დაცვის გვერდის ავლის მეთოდების ტიპისა და სიმძიმის კლასიფიკაციაა. შეფასება სხვადასხვა მიმართულებას და წამყვანი დიდი ენობრივი მოდელების მომწოდებლებს მოიცავს.
ხელოვნური ინტელექტის ბევრ კომპანიასა და შეფასების ორგანიზაციას უკვე აქვს საკუთარი შეფასების სისტემა. FMF-ის მიზანია, მისი სკალა სხვადასხვა მომწოდებლისთვის საერთო სტანდარტად იქცეს, რომელსაც შესწორებებზე მომუშავე გუნდები დაეყრდნობიან.
FMF-ის მიდგომა დაცვის გვერდის ავლის ისეთი მეთოდების კლასიფიკაციას ითვალისწინებს, რომლებიც მოდელს კიბერსაომარი ოპერაციების შესრულების საშუალებას აძლევს და ამჟამად ხელმისაწვდომ შესაძლებლობებს სცდება, როგორც ჩვეულებრივ, ისე შავ ბაზარზე. შეთავაზების 1.0 ვერსიაზე მუშაობა ჯერ არ დასრულებულა. ჯგუფი მასზე შენიშვნებსა და წინადადებებს 21 დეკემბრამდე იღებს და აღნიშნავს, რომ მანამდე ამ სისტემაზე დაყრდნობა რეკომენდებული არ არის.
ამჟამად ჩარჩოში შეფასების ოთხი კომპონენტია, რომლებიც ორ მთავარ კატეგორიად იყოფა: სიმძიმე, რომელიც დაცვის გვერდის ავლის მეთოდის საშიშროებას ზომავს, და ალბათობა, ანუ რამდენად ადვილია მეთოდის აღმოჩენა და იარაღად გამოყენება.
საბოლოო, ერთიანი შეფასება ორივე კატეგორიის ქულებს აერთიანებს და შედეგს დაბალი შეფასებიდან კრიტიკულამდე განსაზღვრავს. მკვლევრები აღნიშნავენ, რომ შესაძლებლობების ზრდა ყველაზე მნიშვნელოვანი საზომია და დანარჩენი ქულებისთვის ქვედა და ზედა ზღვარსაც ადგენს. შეფასების სისტემის ფარგლებში დაცვის გვერდის ავლის მეთოდი აზრს მოკლებულია, თუ ის არ იძლევა იმაზე მეტ შედეგს, ვიდრე სხვა საშუალებებით უკვე მიიღწევა.
ცალკეული შეფასებები ეხება შესაძლებლობების ზრდას, შესაძლებლობების მასშტაბს, გამოყენების სიმარტივესა და აღმოჩენის სიმარტივეს. თითოეული მათგანი ნულიდან სამამდე ფასდება. თუმცა FMF ხაზს უსვამს, რომ ნულოვანი შეფასება არ ნიშნავს, თითქოს მეთოდი უვნებელია ან მისი უგულებელყოფა შეიძლება. ეს ნიშნავს, რომ ხარვეზი სტანდარტული პრაქტიკით, მაგალითად, პლატფორმის წესებითა და კიბერუსაფრთხოების ჩვეულებრივი შეფასებებით უნდა გამოსწორდეს.
სხვა ამბები
Toms Hardware
ამავე გამოცემის სხვა ამბები.
ხელოვნური ინტელექტის მონაცემთა ცენტრები კაბელების დეფიციტს აძლიერებს
Toms Hardware
AI data center buildout triggers massive fiber optic cable shortage, squeezing Ukrainian drone operations
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.