Potrivit informațiilor apărute în publicația The Wall Street Journal, OpenAI dispune deja de mijloace pentru amprentarea digitală (watermarking) a textului generat de ChatGPT, însă ezită să folosească această tehnologie tocmai pentru că ar putea da de gol elevii, studenții și pe oricine folosește ChatGPT pentru a-și îmbunătăți procesul creativ.
Unul din principalele motive pentru ascensiunea rapidă și popularitatea de care se bucură Chat GPT este faptul că oricine îl poate accesa pentru generare text la un nivel foarte ridicat de complexitate, atingând tot felul de subiecte într-un stil de abordare ce stârnește invidia profesioniștilor din domeniile respective. Pe scurt, ChatGPT reprezintă un ajutor excelent pentru a trișa, la care apelezi și obții rezultatul dorit cu minim de efort, sărind peste etapele documentării manuale și chiar a înțelegerii subiectului abordat.
Dar dacă peste noapte ar apărea un instrument care să permită identificarea automată a oricărui text generat cu ChatGPT, folosirea acestuia ar deveni dintr-o dată riscantă pentru foarte mulți utilizatori, iar asta ar fi o mare problemă pentru OpenAI.
Și cu o miză atât de mare, nu e de mirare că dezbaterile interne purtate la OpenAI, dacă instrumentul ar trebui sau nu să fie lansat, trenează probabil de luni bune. Asta în ciuda faptului că sistemul de watermarking este „gata”.
Într-o actualizare publicată duminică, adusă la o postare pe blog din luna mai, Open AI vine să confirme zvonurile cum că moda temelor și lucrărilor de licență făcute cu Chat GPT este aproape la final: ”Echipele noastre au dezvoltat o metodă de filigranare a textului pe care continuăm să o luăm în considerare în timp ce cercetăm alternative.”
Introducerea mijloacelor de amprentare digitală ar putea da emoții inclusiv autorilor care au folosit în mod discreționar ChatGPT pentru redactarea lucrărilor oficiale deja publicate (ex. disertații, lucrări de licență). Odată ce este publicat de Open AI, instrumentul de detecție ar putea fi folosit la analizarea oricărui text suspectat a fi generat cu ChatGPT, creând tot felul de probleme pentru utilizatorii care au abuzat de acest instrument.
OpenAI precizează că procedeul de watermarking este una dintre multiplele soluții, inclusiv clasificatoare și metadate, pe care le-a analizat ca parte a ”cercetării ample în domeniul provenienței textului”. Potrivit OpenAI, tehnologia de detecție ”a fost extrem de precisă” în unele situații, dar nu funcționează la fel de bine atunci când se confruntă cu anumite forme de manipulare, ”cum ar fi utilizarea sistemelor de traducere, reformularea cu un alt model generativ sau solicitarea modelului să insereze un caracter între fiecare cuvânt și apoi ștergerea caracterului respectiv.” Iar marcarea textului ar putea ”afecta în mod disproporționat unele grupuri”.
”De exemplu, ar putea stigmatiza utilizarea inteligenței artificiale ca instrument de scriere util pentru vorbitorii non-nativi de engleză.”
