Falimentate mai întâi de Google prin deturnarea afișărilor către funcționalitatea AI Overviews, site-urile defuncte sunt cumpărate la grămadă împreună cu alte domenii web abandonate și expirate, devenind site-uri de spam pentru „otrăvirea” ChatGPT, Gemini și alte servicii chatbot cu informații false, ușor asimilate de AI pe baza autorității site-urilor cândva reputabile.
În timp ce site-urile legitime de conținut se prăbușesc și dispar, în urma lor apare o veritabilă armată de site-uri fantomă, cimitirul de site-uri scoase la vânzare și domenii expirate fiind acaparat de operațiuni specializate în criminalitate online. Iar dacă persoanele reale care ar mai fi ajuns cumva pe respectivele site-uri contrafăcute nu s-ar lăsa prea ușor păcălite, altfel se pune problema cu algoritmii ChatGPT, modelați pentru a „aspira” în mod automat orice sursă de informație public disponibilă pe internet.
Problema cu ChatGPT este că răspunsurile generate sunt de fiecare dată prezentate cu formule de exprimare elaborate și foarte convingătoare, făcând aproape imposibilă deosebirea informațiilor procurate din surse legitime de cele extrase de pe site-urile de spam sus-amintite. Da, există acel „ghiveci” cu logo-uri care servesc la enunțarea surselor respectivelor informații, dar prea puțini cititori mai depun de fapt efortul pentru a investiga mai departe sursa informațiilor, accesând în mod voluntar site-urile respective. Așa că rezumatele din categoria AI Overviews și răspunsurile generate de ChatGPT rămân ca și înlocuitori pentru sursele de informare legitime, oferind paravanul perfect pentru propagarea dezinformarilor, scheme de înșelătorie și SPAM la modul general.
Fenomenul a fost documentat în ultimele luni de către James Brockbank, CEO și fondator la Digitaloft, evidențiind tot felul de exemple în care ChatGPT citează conținut de pe site-uri care au fost în mod clar manipulate.
Luăm exemplul site-ului web al unui cabinet de avocatură funcțional, administrat de o avocată pe nume Veronica T. Barton, folosit însă pentru a recomanda cazinouri din Marea Britanie. „Site-ul semi-abandonat a fost spart, adăugând pagina de promovare clandestină”.
Într-un alt caz, un site afiliat cândva unei coaliții de tineret a Națiunilor Unite a fost transformat într-o platformă care promovează cazinouri online, iar șirul de exemple poate continua aproape la nesfârșit, fiind observat același trend în care domenii web cândva legitime sunt deturnate/reutilizate pentru alte scopuri. Iar spam-ul astfel propagat este asimilat de ChatGPT și alte servicii chatbot ca și informații legitime, degradând în mod accelerat acuratețea și calitatea răspunsurilor furnizate utilizatorilor.
Exploatând punctele slabe ale modului în care ChatGPT selectează și citează sursele de informații, autorii de spam au găsit o modalitate la îndemână și foarte eficientă pentru creșterea profiturilor, profitând de faptul că spre deosebire de motoarele de căutare tradiționale, modelul AI nu dispune de mecanisme eficiente pentru verificarea legitimității informațiilor sau a intenției editoriale a unui site.
Prin urmare, conținutul injectat pe site-urile web compromise poate apărea foarte ușor în răspunsurile generate pe ChatGPT, fără ca utilizatorii să sesizeze că informațiile primite nu sunt de fapt de încredere.
Iar problema este amplificată și de faptul că ChatGPT favorizează conținutul recent și acordă autoritate pe baza reputației domeniului vechi, chiar și atunci când conținutul domeniului nu are continuitate cu trecutul său. Și uite așa facem cerc complet: site-urile web „mor” prin deturnarea traficului către servicii de tip chatbot, cele din urmă murind apoi prin „otrăvirea” cu informațiile de slabă calitate procurate din tot mai multe surse de calitate îndoielnică, apărute în urma site-urilor de funcție.
