Potrivit unui raport intern ajuns în posesia jurnaliștilor Bloomberg, TikTok a încercat un experiment cu urmări tragice dezactivând în mod intenționat mecanismul de siguranță care împiedica algoritmii platformei să servească utilizatorilor vulnerabili conținut potențial-dăunător.
Astfel până la 15 milioane de utilizatori TikTok au ajuns să vizioneze zi-de-zi selecții de clipuri „personalizate”, care le amplificau propriile temeri și preocupări suicidare, tulburări de alimentație și alte cele, amplificând probleme de comportament existent sau conducând la dezvoltarea unor afecțiuni psihice de care nu sufereau înainte. Și în mod inevitabil, unii dintre tinerii atrași fără știrea lor în acest experiment au reacționat ducând la îndeplinire sugestiile primite în sute de clipuri care îi motivau să-și facă rău.
Potrivit raportului obținut de jurnaliștii Bloomberg, când TikTok și-a actualizat algoritmul în 2021 pentru a împiedica utilizatorii să fie copleșiți de conținut dăunător, compania a oprit în mod intenționat aplicarea acestor filtre pentru milioane de utilizatori. Iar inițiativa a avut un scop „științific”, de a permite măsurarea/evaluarea modului în care noile funcții de siguranță ar putea influența fidelitatea utilizatorilor față conținutul aplicației. Altfel spus, nu era despre nevoia de a măsura câte bine sunt protejați utilizatorii de rând comparat eșantionului de testare, ci pur și simplu „câți bani/utilizatori pierdem dacă limităm conținutul dăunător”.
Raportat la numărul total al utilizatorilor din SUA, aproximativ 10% dintre aceștia (sau 15 milioane) au avut parte de o experiență TikTok fără niciun fel de protecție împotriva conținutului dăunător. Și de reținut, acest raport face referire strict la publicul din SUA. Așa ne putem doar imagina ce alte experimente a mai încercat ByteDance, compania care la acea vreme deținea și versiunea TikTok pentru SUA, cu utilizatorii platformei din alte regiuni ale lumii.
Știm doar că exemplul folosit pentru argumentarea procesului deschis la un tribunal din Statele Unite este cazul lui Chase Nasca, un tânăr de 16 ani care a fost bombardat cu peste 7.500 de videoclipuri axate pe depresie, singurătate și sinucidere. Iar acesta a recurs la un gest extrem în anul 2022. Iar ca el ar putea fi sute sau mii de alte cazuri nefericite, dar care dintr-un motiv sau altul nu au fost asociate direct impactului nociv avut de expunerea permanentă și necontrolată la conținutul distribuit pe rețelele de socializare.
Autor
