Cercetătorii de la Universitatea din Hull, Marea Britanie, au folosit tehnici avansate din astronomie pentru a detecta fețele deepfake create cu ajutorul AI, inteligenței artificiale, scrie Nature. Aceste tehnici, utilizate inițial pentru observarea galaxiilor, sunt acum aplicate pentru a identifica falsurile digitale, contribuind astfel la combaterea dezinformării și a fraudei digitale.
Cum poți detecta fețele deepfake create cu ajutorul AI, detalii tehnice
Metoda de detecție se bazează pe principiul fizicii consistente, unde reflexiile de lumină din ochiul stâng ar trebui să fie similare cu cele din ochiul drept. Diferențele subtile dintre aceste reflexii pot indica o posibilă manipulare a imaginii.
Studiul a folosit două măsurători astronomice: sistemul CAS (concentration, asymmetry, smoothness) și indexul Gini. Sistemul CAS cuantifică concentrația, asimetria și uniformitatea distribuției luminii, fiind utilizat de decenii pentru caracterizarea luminii stelelor extragalactice. Indexul Gini măsoară inegalitatea distribuției luminii în imagini, oferind o perspectivă asupra uniformității acesteia.
Adejumoke Owolabi, expert în analiza datelor la Universitatea din Hull, a aplicat aceste măsurători pe imagini reale din setul de date Flickr-Faces-HQ și pe imagini false generate de un generator de imagini. Prin compararea reflexiilor din ochi, Owolabi a reușit să prezică corect dacă o imagine era falsă în aproximativ 70% din cazuri. În mod interesant, indexul Gini s-a dovedit a fi mai eficient decât sistemul CAS în detectarea manipulării imaginii.
O cercetare cu rezultate ”mixte”
Brant Robertson, astrofizician la Universitatea din California, Santa Cruz, remarcă importanța acestui studiu, dar avertizează că metodele dezvoltate pentru detectarea deepfake-urilor pot fi folosite și pentru a crea deepfake-uri și mai sofisticate. Acest aspect ridică provocări suplimentare în lupta împotriva falsurilor digitale.
Zhiwu Huang, cercetător în AI la Universitatea din Southampton, spune că, deși tehnica de analiză a reflexiilor în ochi poate să nu fie aplicabilă pe scară largă, ea oferă o direcție promițătoare pentru identificarea anomaliilor subtile în iluminare, umbre și reflexii în imagini. Detectarea acestor inconsistențe în proprietățile fizice ale luminii ar putea completa metodele existente și îmbunătăți acuratețea generală a detectării deepfake-urilor.
Utilizarea metodelor astronomice pentru a detecta fețele deepfake create cu ajutorul AI nu este perfectă, dar e o uneltă în plus adăugată la metodele existente. Și dacă înțeleg eu corect fiecare descoperire în această direcție are totodată potențialul de a îmbunătăți fețele deepfake create cu ajutorul AI. Adică progresele în detectarea deepfake-urilor pot fi folosite și pentru a crea deepfake-uri mai sofisticate.
Soluția, la prima vedere, ar fi să nu faci publice astfel de cercetări, pentru a evita utilizarea abuzivă, dar asta e o idee controverasata pe care o vom dezbate cu altă ocazie.
