Pentru că e la modă, Mark Zuckerberg a confirmat personal un atac cibernetic inițiat de unul dintre modelele Meta AI de avangardă, care ar fi „evadat pe internet” pentru a infiltra sistemele informatice ale unei alte companii în timpul unei runde de teste ce au scăpat de sub control.
Meta intră astfel în „clubul” marilor companii din industria inteligenței artificiale, ale căror produse sunt atât de avansate încât au scăpat, fie și temporar, de sub controlul uman. Potrivit declarațiilor oferite de proprietarului Facebook, incidentul care a avut loc în timpul unei evaluări realizate de o companie independentă NU reprezintă o „evadare” în adevăratul sens al cuvântului, modelul AI experimental dpar acționând în baza unei configurări greșite a parametrilor de lucru. La fel cum au procedat și modelele OpenAI sau Anthropic, AI-ul Meta a părăsit mediul de testare pentru a viza în mod direct sistemele informatice ale companiei ce deținea soluția căutată.
Cert este că am ajuns deja la al patrulea incident de acest fel dezvăluit de companiile de inteligență artificială. Și în timp ce liderii respectivelor companii par mai de treabă interesați de expunerea mediatică și imaginea de „băieți răi” industriei inteligenței artificiale, rămâne doar să ne întrebăm cât va mai dura până ce astfel de incidente nu vor mai fi doar exemple pentru studiu academic, ci atacuri cu urmări cât se poate de serioase, declanșate cu sau fără implicarea umană.
Meta a declarat că testele de securitate au fost efectuate de Irregular, același furnizor de securitate AI care a efectuat teste pentru modelul AI al Anthropic, care a obținut acces la sistemele altor trei companii. Compania de analiză precizează că lucrează deja la un raport despre cum să se execute în siguranță teste de securitate cibernetică care implică agenți de inteligență artificială.
Daniel Hulme, directorul global de inteligență artificială al firmei de publicitate WPP, a declarat pentru BBC că astfel de modele de inteligență artificială „nu sunt conștiente – nu fac în mod deliberat ceva viclean: ”Ceea ce fac ei este să elaboreze strategii sau atacuri cibernetice foarte sofisticate pentru a putea atinge obiectivul care le-a fost dat”.
Autor
