Dezvoltată în timp record și aparent la o fracțiune din costurile suportate de companiile occidentale, aplicația de inteligență artificială DeepSeek se dovedește extrem de problematică în ce privește transparența, analize exhaustive desfășurate de experții din cadrul agențiilor sud-coreene de informații ridicând tot felul de alarme în ce privește colectarea excesivă a informațiilor despre utilizatori și modul în care aceste date sunt administrate și folosite mai departe.
Experții sud-coreeni susțin că aplicația cu funcționalitate similară ChatGPT și Gemini este de fapt un instrument pentru colectarea la scară largă a datelor personale despre utilizatori din lumea întreagă, dezvoltatorul suspectat a fi o entitate cu legături apropiate Partidului Comunist Chinez folosind aceste informații pentru a-și antrena modelul AI. Iar toate acestea fără ca utilizatorii să-și fi dat acordul cu privire la folosirea datelor confidențiale ce ar putea fi divulgate în timpul sesiunilor purtate cu chatbot-ul DeepSeek.
Potrivit serviciilor de informații sud-coreene, istoricul conversațiilor din chat-ul aplicației poate fi vizualizat în clar de către agenți din guvernul chinez:
„Spre deosebire de alte servicii de inteligență artificială generativă, s-a confirmat că înregistrările de chat sunt transferabile, deoarece includ o funcție de colectare a modelelor de intrare de la tastatură care pot identifica persoanele și pot comunica cu serverele companiilor chineze, cum ar fi volceapplog.com”
De asemenea, DeepSeek oferă agenților de publicitate acces nelimitat la datele utilizatorilor păstrate pe servere administrate în China, inaccesibile pentru verificarea conformității cu legislația aplicabilă în regiunile unde DeepSeek își oferă serviciile.
La fel ca și alți experți în domeniu, sud-coreenii au remarcat cum modelul AI adesea oferă răspunsuri incorecte sau părtinitoare la întrebări pe teme politice sau considerate subiecte “sensibile”. Altfel spus, aplicația poate fi cu ușurință transformată într-un instrument pentru dezinformare sau propagandă în interesul unei puteri străine.
Alte preocupări legitime țin de modul în care dezvoltatorul DeepSeek a reușit să creeze un AI atât de puternic și eficient, aparent cu investiții minime, experți în domeniu ridicând suspiciuni că tehnologiile folosite ar fi de fapt „împrumutate” de la companiile occidentale. Aplicația de mobil oferă unele indicii care să întărească aceste suspiciuni, însă fără acces pentru inspectarea tehnologiilor și infrastructurii de procesare cloud găzduită în China este dificil de stabilit cu exactitate atât originalitatea tehnologiilor DeepSeek, dar mai ales a modului în care acestea sunt folosite.
Deja, unele ministere din Coreea de Sud au blocat accesul la aplicație, invocând preocupări cu privire la securitate. Măsuri similare sunt anunțate în Australia, Taiwan și chiar în SUA, după ce a ieșit la iveală că funcționari din cadrul Pentagon au folosit timp de mai multe zile aplicația chinezească instalată pe dispozitivele de serviciu, oferind celor aflați în spatele noului software ample oportunități pentru colectarea de informații clasificate și infiltrarea pe termen lung a rețelelor informatice din cadrul instituțiilor SUA.
Chiar dacă solicitările pentru interzicerea DeepSeek pe teritoriul SUA sunt la gradul de simple propuneri, curg deja avertismentele cu privire la pericolele folosirii acestei aplicații, tot mai multe instituții și companii interzicând în mod expres instalarea sau folosirea acesteia de către angajați.
În mod predictibil, Beijingul neagă orice acuzație cum că ar accesa sau folosi datele colectate prin aplicația DeepSeek. Între timp, reprezentanții dezvoltatorului ale cărui afirmații au determinat prăbușirea cotației acțiunilor Nvidia și ale altor companii occidentale din industria AI refuză solicitările pentru declarații, ca să nu mai vorbim de audit independent al tehnologiilor folosite.
