Google je izdao ozbiljno upozorenje svim korisnicima Gmaila, naglašavajući novi oblik kibernetičkih prijetnji koje se oslanjaju na napredne tehnike umjetne inteligencije. Problem je posebno istaknut zbog brzog širenja generativne AI tehnologije, koja se sve češće koristi i u poslovnom i u privatnom okruženju.
Već početkom ljeta Google je istaknuo prijetnju poznatu kao “neizravno unošenje uputa” (indirect prompt injection). Za razliku od klasičnih napada, u kojima hakeri šalju zlonamjerne poveznice ili privitke, ova metoda funkcionira na suptilan način – ubacivanjem skrivenih naredbi u e-poruke, dokumente ili kalendarske pozivnice. Te skrivene upute mogu prevariti umjetnu inteligenciju da izvuče vaše privatne podatke ili izvede neovlaštene radnje.
Google je u svom službenom blogu objasnio kako se radi o novoj vrsti prijetnje koja raste paralelno s razvojem AI sustava:
“Kako sve više vlada, tvrtki i pojedinaca koristi generativnu umjetnu inteligenciju, ovaj suptilan, ali potencijalno snažan napad postaje sve značajniji u cijeloj industriji te zahtijeva hitnu pozornost i robusne sigurnosne mjere.”
Kako funkcionira napad?
Tehnološki stručnjak Scott Polderman u razgovoru za Daily Record objasnio je da napadači iskorištavaju Googleov AI alat Gemini. Prema njegovim riječima, hakeri mogu poslati e-poruku u kojoj se nalazi skrivena poruka namijenjena Geminiju.
Ta poruka može uzrokovati da Gemini generira lažno sigurnosno upozorenje – primjerice, da je vaša lozinka kompromitirana. Na taj način korisnik se može navesti da otkrije svoje podatke napadačima.
“Ove skrivene upute navode umjetnu inteligenciju da radi protiv sebe kako biste vi otkrili svoje podatke za prijavu i lozinku”, pojasnio je Polderman, naglasivši kako je prijetnja posebno opasna jer nema poveznice na koju trebate kliknuti. Gemini se pojavljuje i obavještava vas da ste u opasnosti – a zapravo se radi o manipulaciji.”
Kako se zaštititi?
Google i sigurnosni stručnjaci preporučuju nekoliko koraka kako biste smanjili rizik:
- – Nikada ne unosite lozinke ili osobne podatke na temelju onoga što piše u Geminijevom sažetku e-maila. Ako piše da trebate promijeniti lozinku – učinite to isključivo preko službene Google stranice.
- – Uključite dvofaktorsku autentifikaciju (2FA) za Gmail i Google račun. Tako ćete uz lozinku trebati dodatnu potvrdu, primjerice kod poslan na mobitel.
- – Redovito provjeravajte sigurnosne postavke na svom Google računu i pratite upozorenja o prijavama s novih uređaja.
Googleov odgovor na prijetnje
Google je naglasio da već radi na dodatnim zaštitnim mjerama. Tvrtka je uvela slojevit sigurnosni pristup, uključujući jačanje modela Gemini 2.5, izgradnju posebnih modela strojnog učenja za otkrivanje sumnjivih uputa te nove zaštitne mjere na razini cijelog sustava.
“Značajno povećavamo poteškoće, troškove i složenost s kojima se napadač suočava”, poručili su iz Googlea.
Cilj ovih promjena je prisiliti hakere da koriste manje učinkovite metode, koje su jednostavnije za prepoznati i zaustaviti.
Iako Google uvodi nova rješenja, stručnjaci naglašavaju da će krajnji korisnici ostati prva linija obrane. Svaka sumnjiva poruka, bez obzira koliko uvjerljiva izgledala, trebala bi se dodatno provjeriti prije nego što se na nju reagira.
S obzirom na to da Gmail koristi 1,8 milijardi ljudi diljem svijeta, jasno je zašto Google ovo upozorenje smatra jednim od ključnih u borbi protiv kibernetičkih prijetnji.
