Cine s-ar fi gândit că acel chatbot prietenos care se oferă să cumpere pentru tine bilete la concert ar face și… altceva, odată ce-i oferi acces la conturile bancare? Potrivit informațiilor obținute de Reuters, mai multe bănci americane mari duc o luptă contra cronometru pentru blocarea agenților AI care și-au schimbat brusc prioritățile, golind cu o viteză amețitoare conturile clienților.
Ascunzând cu greu sentimentul de panică, reprezentanții băncilor admit că au dificultăți în a distinge între tranzacțiile inițiate de un utilizator uman și cele inițiate de AI, după ce în cursul zilei de joi au descoperit că agenți AI au încercat să efectueze acțiuni care păreau independente de instrucțiunile primite de la utilizatori.
În unele cazuri, explică publicația americană, chiar clienții băncilor sunt cei care au dat agenților AI acces la datele de autentificare (ID și parolă). Și aparent, agenții AI capabili să acceseze conturile bancare folosind aceeași interfață creată pentru utilizatorii umani nu pot fi deosebiți cu ușurință de clienții legitimi, situație care a determinat mai multe bănci să blocheze accesul instrumentelor AI și să modifice rapid termenii și condițiile de utilizare.
Potrivit publicației Axios, băncile pregătesc abia acum măsuri pentru scenarii “day after”(perioada imediat următoare unui incident de securitate), în care clienții pierd accesul la conturile bancare din pricina unei „spargeri” date agenți AI, iar incidentul trebuie reconstituit în baza unui sistem de rezervă. Reuters transmite că, după raportul Axios, banca de investiții Morgan Stanley a blocat accesul agenților AI la platformele sale, deși nu a înregistrat niciun caz de genul celor prezentate.
Singurul „vizionar” care a anticipat aceste probleme a fost James Dimon, directorul JP Morgan Chase, care a declarat la începutul acestei luni că banca dezvoltă în mod proactiv instrumente pentru gestionarea riscurilor prezentate de agenții de inteligență artificială, care dintr-un motiv sau altul ar ajunge să acționeze independent de instrucțiunile primite de la utilizatori.
Autor
