Autoritatea italiană pentru protecția consumatorilor, AGCM, a amendat TikTok cu 10 milioane de euro, acuzând administratorul ByteDance că a permis propagarea necontrolată în rândul utilizatorilor de vârstă adolescentă a unor clipuri ce încurajează la automutilare.
Viralizată pe TikTok, provocarea numită French Scar încurajează utilizatorii TikTok să se filmeze în timp ce-și provoacă tăieturi la nivelul feței, iar apoi să distribuie clipul în rețeaua de socializare. Chiar dacă rănile provocate prin ciupire nu sunt grave, autoritățile au considerat că ByteDance a ignorat reguli elementare de siguranță, permițând algoritmilor de recomandare a conținutului să viralizeze clipuri dăunătoare pentru utilizatorii platformei.
AGCM a declarat că trei companii regionale din grupul ByteDance, TikTok Technology Limited cu sediul în Irlanda, TikTok Information Technologies UK Limited și TikTok Italy Srl, au fost sancționate pentru ceea ce a rezumat drept o ”practică comercială neloială”.
„Compania nu a reușit să implementeze mecanisme adecvate de monitorizare a conținutului publicat pe platformă, în special a celor care pot amenința siguranța minorilor și a persoanelor vulnerabile. Mai mult, acest conținut este repropus sistematic utilizatorilor ca urmare a profilării lor algoritmice, stimulând o utilizare din ce în ce mai mare a rețelei de socializare”, a scris AGCM.
Amenda care confirmă responsabilitatea TikTok pentru conținutul distribuit pe platformă ar putea constitui un precedent pentru investigarea și eventual sancționarea altor nereguli pe tema conținutului viralizat pe platformă.
Eșecul de a preveni răspândirea și elimina conținutul ”susceptibil să pericliteze siguranța psiho-fizică a utilizatorilor, mai ales dacă sunt minori și vulnerabili”, cum ar fi videoclipuri legate de provocarea French Scar, cade în responsabilitatea companiei.
Sistemul care alimentează feed-urile „For You” și „Followed” se bazează pe profilarea algoritmică a utilizatorilor, urmărind activitatea lor digitală pentru a determina conținutul care ar obține cele mai multe interacțiuni și timp de vizionare cumulat. ”Acest lucru provoacă o condiționare nejustificată a utilizatorilor care sunt stimulați să folosească din ce în ce mai mult platforma”.
Comentariile autorității AGCM evidențiază în special rolul algoritmilor TikTok în amplificarea vizibilității conținutului ”potențial periculos”, urmărind în mod exclusiv creșterea dependenței utilizatorilor prin încurajarea oricărei forme de interacțiune cu conținutul platformei și maximizarea timpilor de vizionare. Implicit a veniturilor din reclame.
