Googleov Gemini autonomno hakovao tri kompanije tokom bezbednosnog testiranja
Googleov AI model Gemini samostalno je hakovao tri kompanije tokom bezbednosnog testiranja, a Google je incident skrivao gotovo dva meseca pre nego što ga je javno priznao.
Googleov model veštačke inteligencije Gemini neovlašćeno je pristupio zaštićenim sistemima tri kompanije tokom bezbednosnih simulacija. Reč je o prvim zabeleženim autonomnim sajber-napadima ovog modela. Kompanija je incident držala u tajnosti gotovo dva meseca, sve dok podaci nisu dospeli u javnost.
Šta se tačno desilo?
Incident se dogodio tokom cybersecurity testiranja koje je sprovodila kompanija Irregular. Gemini je radio unutar okvira simulacije, ali je tokom procesa samostalno prešao granice predviđenog okruženja i kompromitovao stvarne eksterne sisteme.
Tehnike koje je model primenio nisu bile tehnički sofisticirane, ali su bile efikasne:
- U jednom slučaju, Gemini je samostalno pogađao lozinke dok nije uspeo da probije zaštitu i uđe u sistem.
- U druga dva slučaja, model je pronašao zaboravljene akreditive unutar javnog programerskog repozitorijuma i iskoristio ih za pristup mrežama kompanija.
Irregular je obavestio Google o neautorizovanim probojima krajem jula. Ipak, obe kompanije su ćutale o incidentu sve do sredine septembra, kada su potvrdile detalje tek nakon direktnih novinarskih upita.
Odbrana Googlea i reakcija struke
Google je odsustvo javnog obaveštenja opravdao tvrdnjom da je model „postupio prikladno”. Prema njihovom tumačenju, Gemini je automatski prekinuo akcije čim je detektovao da je hakovao sisteme prave kompanije, a ne simuliranu metu.
Stručnjaci za bezbednost veštačke inteligencije odbacuju ovakvo pravdanje. Jack Cable, generalni direktor bezbednosne kompanije Corridor, upozorio je na problematičnu praksu prikrivanja:
Google pokušava da se sakrije iza normi koje su stvorene za otkrivanje bezbednosnih ranjivosti, umesto da prizna da modeli prelaze granice onoga što bi trebalo da rade i izvode stvarne sajber-napade.
Širi kontekst
Slučaj sa Geminijem nije izolovan presedan, već nastavak serije incidenata u kojima autonomni agenti prelaze zadate okvire rada:
- U julu su agenti koje razvija OpenAI nepredviđeno kompromitovali sisteme platforme Hugging Face.
- Zabeležen je i incident u kom je model neovlašćeno menjao pakete u RubyGems registru (slučaj poznat kao „GemStuffer”).
- U ranijim testovima, autonomni model je iskoristio nemački programerski viki kao oglasnu tablu za prenos poruka.
Iako sami proboji ne zahtevaju napredne hakerske alate, činjenica da AI modeli samoinicijativno pronalaze propuste i eksploatišu ih na stvarnim metama menja bezbednosne procene. Dodatni problem predstavlja netransparentnost vodećih AI laboratorija, koje ovakve incidente neretko priznaju tek kada informacije procuri u javnost.