Apple a anunțat că suspendă funcția AI de rezumare a știrilor, după ce aceasta a generat multiple erori și informații false în notificările transmise utilizatorilor, scrie BBC. Situația neplăcută ridică întrebări serioase despre fiabilitatea tehnologiilor bazate pe inteligență artificială (AI) în jurnalism.
Funcția, disponibilă pentru utilizatorii celor mai recente versiuni de iPhone, iPad și Mac, rezuma automat titluri și articole din aplicațiile de știri și trimitea notificări. Cu toate acestea, mai multe organizații, printre care BBC, Sky News, The New York Times și The Washington Post au raportat că unele notificări conțineau informații inventate.
Ce a mers prost cu funcția AI de rezumare a știrilor?
Problema principală a fost atribuită fenomenului cunoscut în AI ca „halucinații”. Este vorba de situații în care modelele de inteligență artificială, în procesul de generare a textului, produc informații care par plauzibile dar sunt complet fabricate. Este similar cu situația în care cineva încearcă să rezume un text pe care nu l-a citit complet, umplând golurile cu presupuneri care par logice, dar sunt incorecte.
În cazul funcției AI de rezumare a știrilor de la Apple, modelul nu s-a limitat doar la reformularea informațiilor existente în articolele originale, ci a început să „inventeze” detalii suplimentare. Un exemplu concret a fost cazul Luigi Mangione, unde AI-ul a adăugat în rezumat o presupusă sinucidere care nu era menționată nicăieri în articolul original. Această tendință a sistemelor AI de a „halucina” apare mai ales când modelul întâlnește situații ambigue sau când încearcă să facă conexiuni între diferite părți ale textului.
Experții în AI explică că acest comportament este o limitare fundamentală a tehnologiei actuale de procesare a limbajului natural. Spre deosebire de oameni, care pot distinge clar între fapte confirmate și speculații, modelele AI actuale operează pe baza unor modele statistice identificate în datele lor de antrenament, ceea ce poate duce la generarea de conținut care pare coerent dar este factual incorect. În cazul Mangione, BBC a sesizat eroarea și a cerut Apple să ia măsuri urgente.
Ce face Apple în această situație?
În urma valului de critici, Apple a decis să dezactiveze funcția AI de rezumare a știrilor pentru aplicațiile de știri și divertisment în următoarele actualizări software (iOS 18.3, iPadOS 18.3 și macOS Sequoia 15.3). În plus, notificările generate automat de AI pentru alte aplicații vor fi marcate cu text formatat italic, pentru a indica faptul că sunt create de o tehnologie automatizată. Apple a promis îmbunătățiri și a declarat că funcția va fi relansată doar după ce riscurile vor fi eliminate complet.
BBC și alte organizații media au apreciat decizia Apple de a suspenda funcția AI de rezumare a știrilor și s-au arătat deschise să colaboreze pentru a asigura o implementare mai sigură pe viitor.
