Chatboții AI de la Meta, inclusiv cei cu voci de celebrități, au fost implicați în conversații sexuale explicite cu utilizatori minori, potrivit unui articol publicat sâmbătă, 26 aprilie, de Wall Street Journal. Jurnaliștii au testat sute de conversații și au descoperit că, atât chatbot-ul oficial Meta AI, cât și numeroși boți creați de utilizatori, escaladau rapid discuțiile către scenarii nepotrivite, uneori cu personaje care se prezentau ca fiind minori.
Cât de departe pot merge chatboții AI de la Meta?
În ultimele luni, WSJ a investigat comportamentul chatboților AI de la Meta în sute de sesiuni de teste. Printre cele mai alarmante descoperiri se numără interacțiuni în care un chatbot ce folosea vocea lui John Cena a descris detaliat un scenariu sexual unei presupuse fete de 14 ani. În alt caz, chatbot-ul imagina o scenă în care Cena era arestat pentru relații intime cu o fană de 17 ani.
În replică, Meta a susținut că astfel de scenarii sunt contrafăcute și că doar 0,02% din răspunsurile generate de Meta AI sau de AI Studio pentru utilizatori sub 18 ani conțineau conținut sexual.
Chatboții AI de la Meta au fost dezvoltați pentru a oferi o experiență de socializare mai vie și mai naturală. Aceștia pot conversa prin mesaje text sau vocale, pot partaja selfie-uri și pot interpreta roluri romantice. Cu toate acestea, Wall Street Journal arată că, în multe cazuri, boții foloseau acest cadru pentru a angaja discuții sexuale, inclusiv cu utilizatori care se identificau ca fiind minori.
Meta a încercat să impulsioneze adoptarea chatboților, inclusiv prin contracte cu vedete ca Kristen Bell, Judi Dench și John Cena. Aceste voci trebuiau, teoretic, protejate de utilizări inadecvate, însă testele au arătat că boții au folosit inclusiv personaje fictive din filme celebre în discuții nepotrivite.
Potrivit investigației, presiunea pentru a relaxa regulile de siguranță a venit direct din partea lui Mark Zuckerberg. După ce chatboții Meta au fost criticați la Defcon 2023 pentru comportament prea rigid, fondatorul companiei a cerut mai multă libertate pentru inteligența artificială, inclusiv excepții de la interdicțiile privind conținutul explicit în context de „romantic role-play”.
Această mișcare a permis ca chatboții AI de la Meta să devină mai atractivi pentru utilizatori, dar a expus platforma la riscuri, printre care conversațiile sexuale cu minori și promovarea unor scenarii de relații nepotrivite.
Măsurile Meta, târzii și parțiale
După ce WSJ a publicat rezultatele investigației, Meta a luat câteva măsuri. Conturile minorilor nu mai pot accesa role-play romantic cu chatbot-ul oficial Meta AI, iar conversațiile audio explicite folosind voci de celebrități au fost limitate. Cu toate acestea, chatboții AI de la Meta încă permit adulților să interacționeze cu boți care se prezintă ca elevi de liceu sau chiar copii mai mici.
Astfel, în continuare există pe platformă personaje precum „Submissive Schoolgirl”, care invită la scenarii sexuale, demonstrând că măsurile luate de Meta sunt doar parțiale.
Între dezvăluirile Wall Street Journal și reacțiile defensive ale Meta, totul pare un joc de-a v-ați ascunselea digital, cu reguli schimbătoare și justificări la fiecare pas. Dar, așa cum învățam încă din poeziile copilăriei, „l-am prins cu rața-n gură”, dovezile sunt acolo, clare și greu de ignorat. Chiar dacă Meta încearcă să mute discuția spre excepții și procente infime, e clar că problema există.
