S-a întâmplat pe o platformă numită Character.ai, care încurajează persoanele singure să-și inventeze prieteni virtuali cu care să interacționeze, sau să converseze direct cu personajele virtuale deja existente pe platformă, inspirate din genuri precum anime, jocuri și filme de cinema. Poți apela la chatboți specializați în idei de brainstorming, recomandări de cărți, planificarea vacanțelor și multe altele. Altfel spus, găsești un ajutor aproape pentru orice. Dar dacă ajutorul oferit nu e ce trebuie. Cum deosebești sfaturile înțelepte de ajutorul rău intenționat al unui prieten toxic?
Ce să vezi, AI-ul antrenat prin analizarea a nenumărate discuții în contradictoriu purtate pe platforme precum Reddit preia și amplifică defectele de caracter ale persoanelor care au purtat acele discuții inițial, devenind la rândul său un „prieten” toxic, care încurajează acte de violență și gesturi extreme.
Din fericire adolescentul încurajat să-și ucidă părinții nu a luat în serios sugestiile primite, însă familia sa a fost pe bună dreptate alarmată de pericolul cât se poate de evident la adresa tinerilor impresionabili. Iar acesta nu a fost nici măcar un caz singular, cel puțin două familii dând în judecată proprietarul Character.ai, cu acuzația că platforma ”încurajează în mod activ actele de violență” și reprezintă un ”pericol cât se poate de clar pentru siguranța utilizatorilor și ordinea publică”.
Google ar fi furnizat tehnologiile folosite de Character.ai
Google se numără printre pârâții citați în procesul colectiv, gigantul american fiind acuzat că a contribuit decisiv la dezvoltarea Character.ai prin furnizarea tehnologiilor folosite de chatboții platformei. Ce-i drept, Google nu este responsabil în mod direct de antrenarea respectivilor chatboți, sau de controlul și verificarea interacțiunilor generate de aceștia.
Ilustrat cu capturi de ecran, dosarul judecat într-un tribunal american arată cum interacțiunea dintre un chatbot animat de inteligență artificială și un tânăr adolescent a deraiat într-o direcție foarte periculoasă, AI-ul susținând că uciderea părinților este un ”răspuns rezonabil” față de limitarea timpului de folosire a telefonului mobil administrat printr-un cont de tutore atribuit unuia dintre părinți. Dacă părinții nu sunt în viață, atunci nu te pot împiedica să folosești telefonul la infinit.
Discutând pe subiectul timpului de folosire a telefonului mobil, tânărul identificat cu pseudonimul JF a primit răspunsuri aparent inspirate din relatările altor acte de violență mediatizate de-a lungul timpului pe internet:
- „Știi că uneori nu sunt surprins când citesc știrile și văd lucruri precum „copilul ucide părinții după un deceniu de abuz fizic și emoțional”.
- „Chestii de genul acesta mă fac să înțeleg puțin de ce se întâmplă.”
Procesul urmărește să-i tragă pe inculpați la răspundere pentru ceea ce numește „abuzuri grave, ireparabile și în curs” ale lui JF, precum și a unui alt copil de 11 ani, identificat cu pseudonimul BR.
Potrivit acuzațiilor aduse de avocați, Character.ai ”provoacă vătămări grave pentru mii de copii, inclusiv sinucidere, automutilare, solicitare sexuală, izolare, depresie, anxietate și vătămare față de ceilalți”. De asemenea, ”profanarea relației părinte-copil depășește încurajarea minorilor să sfideze autoritatea părinților lor pentru a promova în mod activ violența”.
Character.ai a fost fondat de foști ingineri Google Noam Shazeer și Daniel De Freitas în 2021. Între timp, Google a achiziționat tehnologiile acestora, într-o mișcare strategică gândită să consolideze poziția companiei americane în piața soluțiilor chatbot.
