Experter varnar 1,8 miljarder Gmail-användare: Ny AI-baserad attack lurar både dig och systemet

Om du använder Gmail – och det gör du med stor sannolikhet – är det här något du verkligen bör lägga fem minuter på att läsa. En ny, listig form av hackerattack riktar sig just nu mot Googles användare via deras egen AI-assistent Gemini. Och nej, det här är varken science fiction eller framtidsprat.

Hackarna vänder AI:n mot dig

Google varnade redan i juni för en ny typ av digitalt bedrägeri där det inte är dig direkt som attackeras – utan den AI du använder. Du läste rätt.

Det som säkerhetsexperterna kallar ”indirect prompt injections” handlar om att smuggla in dolda instruktioner i helt vanliga mejl. När användaren klickar på ”sammanfatta det här mejlet” via Gemini, luras AI:n att skapa falska varningar som ser ut som officiella meddelanden från Google – och vips, så blir du uppmanad att ”återställa lösenordet” eller ”klicka här”, vilket i själva verket leder till en phishing-sida.

Osynlig text – men AI:n ser den

Metoden hackarna använder är både enkel och farlig. Den dolda instruktionen skrivs i vit text, osynlig för det mänskliga ögat men fullt läsbar för AI:n. När Gemini sammanfattar mejlets innehåll följer även den osynliga texten med – och där börjar problemen.

Mozilla-teamet 0din har nyligen dokumenterat en attack där just den här tekniken fick användare att tro att deras konto hade blivit komprometterat. Resultatet? Folk lämnade självmant ut sina inloggningsuppgifter utan att ana oråd.

Så skyddar du dig

Experterna råder att aldrig lita blint på säkerhetsvarningar i AI-genererade mejlsammanfattningar. Om Gemini hävdar att ditt konto har blivit hackat – dubbelkolla alltid direkt i Gmail och logga in via en ny flik, inte genom länkar i mejlet.

Google själva arbetar nu på att stärka skyddet med ett ”lager på lager”-säkerhetssystem som både förbättrar AI-modellen och höjer ribban för angripare. Men som alltid är det en ständig kapplöpning.

Så även om Gemini och andra AI-assistenter verkar smarta och hjälpsamma, glöm aldrig att använda din egen klassiska magkänsla – särskilt när det gäller lösenord, säkerhetsvarningar och mejl som känns ”lite för äkta”.

Vårt team kan ha använt AI för att assistera vid skapandet av detta innehåll, som har granskats av redaktörerna..