Chat GPT pare că a înlocuit cu succes vechile rețele de informatori, care-și „turnau” vecinii de scară sau colegii de serviciu la cel mai mic semn că nu ar fi cetățeni model. Open AI admite că are legături strânse cu forțele de ordine din Statele Unite, raportând orice conversații sau interacțiuni ChatGPT pe care echipele de moderatori umani le determină ca fiind amenințătoare la adresa siguranței publice.
La începutul acestei săptămâni, în mijlocul unei lungi postări pe blog care aborda pericolul reprezentat de ChatGPT în ce privește vătămarea sănătății mintale a utilizatorilor, OpenAI a recunoscut că a făcut o rutină din scanarea conversațiilor purtate cu utilizatorii ChatGPT, raportând poliției orice interacțiuni suspecte:
”Când detectăm utilizatori care plănuiesc să facă rău altora, le direcționăm conversațiile spre canale specializate, unde sunt revizuite de o echipă mică, instruită în politicile noastre de utilizare și care este autorizată să ia măsuri, inclusiv să interzică conturi”, a scris acesta. „Dacă evaluatorii umani stabilesc că un anume caz prezintă o amenințare iminentă de vătămare fizică gravă asupra altora, îl putem trimite către forțele de ordine.”
Anunțul a ridicat imediat semne de întrebare. Oare judecata ad-hoc administrată de moderatorii umani nu subminează întreaga premisă a unui sistem de inteligență artificială despre care Open AI spune că poate rezolva probleme ample și complexe? Cum reușește OpenAI să descopere locațiile precise ale utilizatorilor pentru a le furniza echipelor de intervenție în caz de urgență? Cum protejează împotriva abuzurilor așa-numiților „swatters” , care s-ar putea preface a fi altcineva și apoi ar face amenințări violente la adresa ChatGPT pentru a-și face țintele să fie vizate de polițiști…?
Mărturisirea pare să contrazică și remarcile CEO-ului OpenAI, Sam Altman, care a promis utilizatorilor ChatGPT un nivel de confidențialitate similară cu cea a utilizatorilor care vorbesc cu un „terapeut, avocat sau doctor”.
”Acum doisprezece ani, Edward Snowden a dezvăluit că guvernul SUA nu doar spiona traficul nostru de internet, ci beneficia și de cooperarea activă a marilor companii de tehnologie precum Microsoft, Google, Apple etc.”, a scris dezvoltatorul de inteligență artificială și bloggerul Charles McGuinness. „Nu este paranoic să credem că ChatGPT transmite acum conținut «interesant» guvernului SUA.”
Ce-i drept, OpenAI pare că este prins la mijloc între dezideratul de a garanta confidențialitatea sesiunilor purtate cu ChatGPT și nevoia de a proteja utilizatorii de influența chatboților insuficient testați și impredictibili, predispuși să atragă utilizatorii în spirale de psihoză, autovătămare și chiar mai rău. Incapabil să-și controleze propriile tehnologii, OpenAI recurge la echipe de moderatori care interceptează conversațiile purtate de utilizatorii lăsați într-o falsă iluzie a confidențialității, transformând întregul sistem într-o uriașă mașinărie de supraveghere la scară largă, ce ar stârni invidia oricărui regim totalitar din trecut.
