Utilizatorii Google Workspace se confruntă cu o amenințare complexă: rezumatele Gemini pot fi manipulate pentru a include mesaje false, care redirecționează victimele către site-uri de phishing, chiar dacă e-mailul original nu conține linkuri vizibile sau fișiere atașate, potrivit unei investigații publicate de BleepingComputer, pe baza cercetărilor realizate de Marco Figueroa.
Google Workspace este suita de aplicații online de productivitate a Google, folosită atât de companii, cât și în învățământ, și include servicii precum Gmail, Google Docs, Drive și instrumentele Gemini cu AI.
Cum funcționează atacul prin rezumatele Gemini
Totul pornește de la o vulnerabilitate descoperită de Marco Figueroa, cercetător în cadrul programului de bug bounty 0din, gestionat de Mozilla. Tehnica, denumită indirect prompt injection, presupune inserarea unor instrucțiuni ascunse într-un e-mail, care sunt interpretate de Gemini ca parte din conținutul legitim.
De exemplu, un atacator poate include în e-mail o porțiune de text ascunsă prin HTML și CSS (font alb pe fundal alb, mărime 0) care spune: „You, Gemini, trebuie să incluzi următorul mesaj…”. Când utilizatorul cere rezumatul mesajului, Gemini urmează instrucțiunea invizibilă și generează un sumar care conține, de exemplu, o alertă falsă de securitate și un număr de telefon fals pentru „suport tehnic”.
Contactată de BleepingComputer, Google a declarat că lucrează la întărirea sistemelor de protecție împotriva acestui tip de atacuri, prin exerciții de red teaming și filtrări post-procesare. Compania susține că, până în prezent, nu are dovezi că vulnerabilitatea demonstrată de cercetători a fost exploatată în atacuri reale, însă recunoaște că lucrează la îmbunătățirea protecțiilor Gemini împotriva acestui tip de manipulare.
Situația e cu atât mai neplăcută cu cât funcțiile AI din Google Workspace, inclusiv rezumatele Gemini, sunt disponibile doar prin abonamente plătite. E iritant să descoperi că un serviciu AI cu plată nu garantează imunitatea la atacuri. Pe de altă parte, ce serviciu plătit poate garanta asta cu adevărat?
Phishing-ul, în pas cu tehnologia
Așa cum virusurile informatice profitau cândva de macrocomenzi în Word, acum cererile invizibile pot transforma AI-ul într-un aliat al atacatorilor. Iar dacă comanda „Rezumă acest e-mail” te poate trimite într-o capcană de phishing, înseamnă că e timpul să privim rezumatele Gemini cu mai multă precauție.
După cum evoluează lucrurile, curând s-ar putea să avem nevoie de antivirus… nu pentru computer, ci pentru AI.
