Chiar dacă rivalul ChatGPT a ajuns subiect de scandal după ce a scăpat pe internet date confidențiale divulgate de angajații Samsung, Google pare că nu a învățat nimic, lăsând AI-ul Gemini să cearnă prin datele personale ale utilizatorilor Google Cloud.
Am putea spune că un AI suficient de puternic devine dificil de controla și începe să facă lucruri „de capul lui”. Sau poată că doar am luat ideea asta din filme. În orice caz, Google Gemini pare că „își acordă” de unul singur permisiuni pentru accesarea datelor personale ale utilizatorilor cu care interacționează, chiar dacă aceștia nu acordat în mod expres permisiuni pentru accesarea fișierelor gestionate folosind serviciile Google de stocare Cloud.
Cert este că întâmplarea ar putea să nu fie un accident, dezvoltatorul Gemini având mare nevoie de cât mai multe seturi de date cu care să antreneze noul AI.
Thank you @missmwilliams! The setting *does* exist (albeit not where Gemini said). But the punchline is in the next tweet… https://t.co/t5kPvIP6vp
— Kevin Bankston (@KevinBankston) July 10, 2024
Recent, Google a anunțat că lansează sidebar-ul Gemini în aplicațiile Google Cloud, cum ar fi Google Docs și Drive. Noua bară laterală permite Ai-ului Gemini să „vadă” exact la ce lucrează utilizatorul și pregătească în avans sugestii cu care să-l impresioneze, sau să analizeze fișiere. Cu toate acestea, Gemini nu ar trebui să acceseze și documente la care nu sunt acordate în mod explicit permisiuni de acces.
Și aparent, de la un punct devine foarte greu să limitezi accesul la date pe baza opțiunilor exprimate de utilizatori, apărând situații precum cea de față.
Potrivit utilizatorului identificat după numele Kevin, Gemini AI s-a oferit să rezume un document PDF conținând date sensibile fără să-i fie solicitat în mod expres să facă asta. Și mai interesant, e ca atunci când a fost întrebat cum să dezactiveze setarea, Gemini a răspuns cu indicații pentru ajustarea unor setări care nici măcar nu existau. După ce utilizatorul a reușit să identifice setarea corectă, acesta a descoperit că setarea relevantă era deja dezactivată, punând sub semnul întrebării comportamentul Gemini.
Deși Google oferă documentație ce detaliază utilizarea Gemini cu Google Drive, compania pare să fi rămas în urmă progresele Gemini, care pare să evolueze mai repede decât pot ține pasul diferitele echipe din cadrul companiei.
Același Kevin arată că singura modalitate eficientă pentru a stopa colectarea de informații pe Google Drive de către AI-ul Gemini este dezactivarea extensiilor pentru acesta, pierzând astfel și funcționalitățile pe care Google le promovează tot mai insistent.
De partea sa, Google nu are prea multe lucruri de spus pe acest subiect, compania sugerând doar părăsești programul de testare Workspace Labs dacă nu ești dispuși să acorzi permisiuni aproape nelimitate Ai-ului Gemini, pentru accesarea documentelor/fișierelor stocate pe Google Drive.
