Funcția AI image-generation lansată de Google pentru utilizatorii aplicației Google Earth a rezistat o singură zi, compania intervenind pentru retragerea instrumentului special conceput pentru a genera imagini prin satelit pornind de la solicitările trimise unui chatbot.
Detaliul esențial, care în mod misterios a scăpat celor de la Google, este că funcționalitatea putea fi deturnată cu ușurință pentru a genera scene false convingătoare, inclusiv dezastre, situri militare și incidente la frontieră, pe care utilizatorii „creativi” le puteau suprapune apoi peste hărțile reale cu imagistică prin satelit. Confruntat cu dovezile, Google a recunoscut că unele imagini pe care utilizatorii au apucat deja să le distribuie au încălcat politicile sale și a promis măsuri de siguranță mai stricte înainte de a restabili această funcționalitate.
„Am văzut profesioniști din domeniul geospațial care utilizează această funcție pentru o serie de scopuri utile”, a declarat Google. „Cu toate acestea, am văzut și persoane care distribuie capturi de ecran ale imaginilor generate care par să încalce politicile noastre. Așadar, renunțăm la această funcție în Google Earth în timp ce lucrăm la implementarea unor bariere de siguranță mai puternice.”
Fără să explice în ce fel au încălcat aceste imagini politicile sale, Google a precizat doar că acestea nu făceau parte din experiența principală Google Earth și erau marcate cu filigran digital, semnalând vizitatorilor Google Earth că scenele ilustrate au fost generate de inteligența artificială.
lansat în cursul zilei de joi și retras în ziua următoare, instrumentul AI image tool folosea Nano Banana, cel mai recent model pentru generare imagini de la Google și părea intenționat pentru folosirea în scop amuzant, pentru a arăta prietenilor slab informați scena unde au aterizat extratereștrii și alte cele. Doar că utilitatea găsită de utilizatorii cu intenții mai puțin inofensive era cu totul alta: falsificarea dezastrelor naturale, obiective militare, conflicte sau incidente la graniță care „pot fi văzute din spațiu”.
Potrivit descrierii atașate funcționalității între timp retrasă, AI image tool permite utilizatorilor să genereze imagini cu inteligență artificială pornind de la imagini prin satelit, aeriene și 3D de la Google Earth, folosind solicitări text. „Pur și simplu măriți un loc în Google Earth pe web, atingeți «creați imagine» și tastați ce doriți să vedeți”, a explicat compania.
Printre exemplele ilustrate de cercetătorul în domeniul informațiilor open-source Henk van Ess, avem un incident fictiv cu mii de refugiați surprinși în apropierea graniței cu Mexicul, bombardarea unei centrale nucleare din Iran, un accident de mașină mortal în Amsterdam și un crater de bombă lângă un spital din Gaza.
Evident, dacă Google nu intervenea la timp, atunci credibilitatea serviciului său de hărți prin satelit ar fi fost compromisă în moduri greu de cuantificat, atât pentru utilizatorii care accesează în mod direct platforma și se bazează că imaginile prin satelit sunt reale și de încredere, dar mai ales pentru publicul larg, imagistica prin satelit falsificată cu ajutorul Google oferind „combustibil” pentru știri false și dezinformări de tot felul.
Autor
