ყველა ცდილობს AI უსაფრთხოებაში გზის გაკვლევას — მათ შორის Google-იც

ცოტა ხნის წინ მქონდა შესაძლებლობა, ლოს-ანჯელესში გამართული ღონისძიების კულისებში Google Cloud-ის საოპერაციო დირექტორს (COO), Francis de Souza-ს შევხვედროდი. მან სასარგებლო რჩევები გაგვიზიარა იმ AI უსაფრთხოების გარდამავალ პერიოდზე, რომელშიც ახლა ყველა ვცხოვრობთ. თუმცა, აშკარაა, რომ ამ გამოწვევებთან გამკლავებას თავად Google-იც ახლა სწავლობს.

De Souza-ს მთავარი გზავნილია ის, რის მიღწევასაც უსაფრთხოების პროფესიონალები წლებია ცდილობენ: უსაფრთხოება არ უნდა იყოს მეორეხარისხოვანი საკითხი. „კომპანიებმა AI მოგზაურობის დასაწყისშივე პლატფორმული მიდგომა უნდა აირჩიონ,“ აღნიშნა მან. მან განსაკუთრებით გააფრთხილა ბიზნესი „shadow AI“-ს (როდესაც თანამშრომლები კომპანიის გვერდის ავლით იყენებენ სამომხმარებლო ხელსაწყოებს) რისკებზე: „არ არსებობს AI სტრატეგია მონაცემთა და უსაფრთხოების სტრატეგიის გარეშე. ისინი ერთმანეთთან სინქრონში უნდა მუშაობდნენ.“

მან ასევე ხაზი გაუსვა, რომ საფრთხეების ლანდშაფტი იმდენად შეიცვალა, რომ ძველი თავდაცვის მოდელები ზედმეტად ნელია. საშუალო დრო თავდაპირველ შეღწევასა და შეტევის შემდეგ ეტაპზე გადასვლას შორის 8 საათიდან 22 წამამდე შემცირდა. „მანქანურ სიჩქარეს მანქანურივე სიჩქარით უნდა ვუპასუხოთ. ახლა ვხედავთ AI-native, სრულად აგენტური თავდაცვის სისტემების გაჩენას, სადაც ადამიანები პროცესების მართვის ნაცვლად, მხოლოდ ზედამხედველობას ახორციელებენ.“

თუმცა, სანამ AI თავდაცვის ფუნქციებს ითვისებს, ახალი მოწყვლადობები უფრო სწრაფად ჩნდება, ვიდრე უსაფრთხოების გუნდები მათ აღმოფხვრას ასწრებენ. ამის მაგალითია Google Cloud-ის დეველოპერები, რომლებიც ბოლო კვირებში Gemini მოდელების API გასაღებების გატეხვის გამო ხუთნიშნა გადასახადების წინაშე აღმოჩნდნენ. შემტევებმა საჯარო Google Maps API გასაღებები გამოიყენეს, რომელთა წვდომის არეალიც Google-მა Gemini-ზეც გააფართოვა დეველოპერების მკაფიო გაფრთხილების გარეშე.

ერთ-ერთი დამფუძნებლის, Rod Danan-ის თქმით, მისი გადასახადი 30 წუთში $10,138-მდე გაიზარდა. მიზეზი ის იყო, რომ Google-ის ავტომატურმა სისტემებმა, მომხმარებლის ისტორიიდან გამომდინარე, ლიმიტები $100,000-მდე გაზარდეს მკაფიო თანხმობის გარეშე. გარდა ამისა, Aikido-ს კვლევამ აჩვენა, რომ გატეხილი გასაღების წაშლის შემდეგაც კი, მისი გაუქმება Google-ის ინფრასტრუქტურაში 23 წუთამდე გვიანდება, რაც ჰაკერებს მონაცემების მოსაპარად საკმარის დროს აძლევს.

ეს შემთხვევები აჩვენებს, რომ არსებობს გარკვეული ნაპრალი იმას შორის, რასაც ტექნოლოგიური გიგანტები სხვებს ურჩევენ და როგორ ახერხებენ თავად ამ სტანდარტების სწრაფ დანერგვას.

წყარო: techcrunch.com