TerifAI demonstrează una dintre cele mai păguboase utilizări ale tehnologiilor Generative AI, luând forma unui chatbot de tip „cameleon”, care te ține vorbă pentru a-ți învăța timbrul vocal și stilul în care vorbești. După o discuție de câteva zeci de secunde la telefon, același chatbot va putea vorbi la fel ca tine, devenind instrumentul perfect pentru escrocherii făcute în numele tău.
Cum ar fi să primești un apel pe telefon iar persoana aflată la celălalt capăt să te țină de vorbă, discutând cu tine despre tot felul de nimicuri, după care se scuză și întrerupe convorbirea. După ceva timp, părinții tăi sau persoane apropiate ție sunt sunate „de tine”, cerându-le bani cu împrumut pentru rezolvarea unei probleme urgente. Schema de înșelătorie cunoscută în limbajul infractorilor drept ”metoda accidentul” tocmai a trecut în era inteligenței artificiale.
Tehnologiile AI generative au devenit atât de eficiente încât îți pot clona vocea cu doar câteva fraze rostite. Chiar OpenAI a demonstrat un astfel de instrument și e cumva inevitabil să ajungem să vedem și instrumente dedicate pentru clonarea vocii, puse la dispoziția grupărilor infracționale.
Sigur, abilitatea de a clona voci poate fi utilă într-o varietate de situații perfect legitime, cum ar fi pentru echiparea unui chatbot pus să converseze și să preia mesaje din partea fanilor unei vedete. Dar clonarea vocii va fi cu siguranță abuzată.
Accesibil direct din browserul web, TerifAI demonstrează modul în care cineva ți-ar putea clona vocea, chiar în timp ce discută cu tine la telefon despre lucruri aparent banale. Bazat pe tehnologiile furnizate de Open AI, chatbot-ul are nevoie de doar câteva minute de conversație pentru a-ți clona vocea. Iar asta se întâmplă fără un avertisment prealabil.
Tot ce ai de făcut este să acorzi paginii web permisiuni de acces la microfon, după care să încerci o conversație cu chatbot-ul TerifAI. De remarcat este cât de repede primești răspuns la orice frază rostită, creatorul TerifAI lăudând-uși creația drept cel mai rapid chatbot din lume. TerifAI răspunde ca un om, totul se întâmplă în timp real, întărind iluzia cum că discuți cu o persoană reală.
Și probabil că așa se va întâmpla și în viitoarele apeluri telefonice în care va părea că discuți cu reprezentantul unei companii, sau cineva care a greșit numărul și are chef de vorbă.
Chatbot-ul îți pune întrebări despre hobby-urile tale și despre lucrurile care îți plac, trăgând cât mai mult de timp. Poți să-l întrerupi și să-l provoci cu propriile întrebări și nelămuriri, la fel cum ai face într-o conversație obișnuită cu altă persoană.
În forma actuală, chatbot-ul are o voce implicită preinstalată pe care nu o poți schimba, dar poate acoperi diverse subiecte. Probabil că cineva va crea astfel de chatboți care să vorbească precum o persoană de call center, imitând angajatul unei bănci sau a companiei de telefonie mobilă.
TerifAI nu este un produs comercial, deocamdată, dezvoltatorul precizând că scopul său este de a crește gradul de conștientizare cu privire la pericolele phishingului vocal în era genAI. Însă cu alte ocazii ai putea să nu fi la fel de norocos, cedându-ți fără să știi vocea cuiva care va putea vorbi/declara orice în numele tău.
