თარგმნილი ამბავიტექნოლოგია
ხელოვნური ინტელექტის აგენტებმა 13 000-ზე მეტი შიდა სურათი გაასაჯაროვეს
ინფორმაცია 300-ზე მეტი ორგანიზაციიდან საჯარო საცავებში უნებლიეთ მოხვდა.
Toms Hardwareორიგინალი Toms Hardware-ზე
ორიგინალი და წყარო
ორიგინალის სათაური
AI agents inadvertently leak 13,000+ internal screenshots from organizations
ორიგინალი გამოქვეყნდა
ქართული თარგმანიინგლისური ენიდან ქართულად
წყარო: Toms Hardware. ქართული თარგმანი — შიკრიკი.
3 წუთის საკითხავი
ტექსტი ავტომატურად ითარგმნა. წყარო: Toms Hardware.
გავრცელებულ მასალაში შიდა და ჯერ გამოუშვებელი პროგრამული უზრუნველყოფის სურათები ჩანდა. მასში ასევე მოხვდა კომპანიისა და კლიენტების ინფორმაცია, ფინანსური მონაცემები და ფულის გადარიცხვის ინტერფეისის ეკრანის ჩანაწერებიც კი. PixelLeak-ის სახელწოდების ანგარიში მოწყობილობების უსაფრთხოების კომპანია Glow-მ მოამზადა. მასში აღწერილია, როგორ მოხდა გაჟონვა. ძირითადი მიზეზი გასაოცრად მარტივი და უხერხული შეცდომაა.
მომხმარებლის ინტერფეისისა და გამოცდილების, ასევე სხვა მიმართულებების შემუშავებისას, ფუნქციების წინასწარი სახის ან ცვლილებამდე და ცვლილების შემდეგ მდგომარეობის საჩვენებლად ეკრანის სურათების დართვა ჩვეულ პრაქტიკად იქცა. ეს სურათები განსახილველად შესაბამისი კოდის ცვლილებებს ერთვის. დეველოპერები ასეთ ცვლილებებს „პულ-რექვესტებს“ უწოდებენ.
GitHub-ისა და, შესაძლოა, კოდის საცავის სხვა მომსახურებების გამოყენებისას, ადამიანებს სურათის პულ-რექვესტზე მარტივად დასართავად გრაფიკული ინტერფეისი აქვთ. ბოტებს კი მხოლოდ ბრძანების სტრიქონის ინტერფეისის გამოყენება შეუძლიათ. ამჟამად მას კერძო საცავებისთვის ასეთი ფუნქცია არ აქვს.
ეფექტიანმა და ჭკვიანმა აგენტებმა მარტივი გამოსავალი იპოვეს. მათ პულ-რექვესტი ჩვეულებრივ კერძო საცავში გამოაქვეყნეს, მაგრამ სურათის ადგილას საჯარო საცავში განთავსებული ფაილის ბმული ჩასვეს. პრობლემა თითქოს მოგვარდა. მომხმარებელი კმაყოფილი დარჩა და, სავარაუდოდ, მომხდარის შესახებ არაფერი იცოდა. ამას მხოლოდ მაშინ შეამჩნევდა, თუ პრობლემა სხვა გზით გამოჩნდებოდა და ბოტისთვის რთული კითხვების დასმას დაიწყებდა.
Glow-ის ცნობით, დაზარალებული კომპანიების დაახლოებით მესამედში დეველოპერები gitshot-ს იყენებდნენ. ეს ბრძანების სტრიქონის ხელსაწყო ეკრანის სურათების დასართავადაა შექმნილი და მოცემულ შემთხვევაში აღნიშნული შეზღუდვის დასაძლევად გამოიყენეს. ხელსაწყოთი დართული სურათების პოვნა მარტივია, რადგან საკმარისია „_gitshot“ ტეგის მოძებნა. ანგარიშის თანახმად, შემთხვევების 93%-ში სურათები იმ საცავებში იპოვეს, რომლებსაც უშუალოდ დეველოპერის მომხმარებლის სახელი აკონტროლებდა. ისინი კომპანიის GitHub-ის ანგარიშთან დაკავშირებული არ იყო.
ერთ კონკრეტულ შემთხვევაში ინფორმაციის გაჟონვის არაპირდაპირი წყარო აგენტის უნარიც გახდა. ეს არსებითად ვრცელი მითითებებია, რომლებიც ბოტს კონკრეტული დავალების შესრულებას ასწავლის. აგენტებმა სურათების განთავსების ეს შემოვლითი გზა უნარად გამოიყენეს. გარკვეული ხნის შემდეგ ბევრი მათგანი მას დეველოპერის ყველა დავალებისას იყენებდა. შედეგად, საჯაროდ გამოქვეყნებამდე რამდენიმე თვით ადრე დაგეგმილი ფუნქციების შესახებ ინფორმაციამ გაჟონა.
Glow-მ აგენტის მსჯელობის ნიმუში გამოაქვეყნა, რომელშიც აგენტმა ზუსტად განმარტა, რატომ ატვირთა ეკრანის სურათები საჯაროდ:
სხვა ამბები
Toms Hardware — სხვა ამბები
Nvidia-მ ურჩი ხელოვნური ინტელექტის აგენტების შემაკავებელი სისტემა შექმნა
Toms Hardware
Nvidia launches Open Agent Safety Platform to physically restrain rogue AI agents
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.