Organizația Națiunilor Unite (ONU) a creat un organism consultativ format din 39 de membri, între care se regăsesc giganți tehnologici precum OpenAI, Google și Meta, într-o încercare de a supraveghea procesul de dezvoltare a noilor modele de inteligență artificială, anticipa pericolele ridicate de abilități potențial periculoase și asigura respectarea unor reguli de siguranță stabilite pentru toți jucătorii din industrie.
Inițiativa luată de ONU vine după ce Steve Wozniak, Elon Musk și alți 500 de specialiști cu autoritate în domeniul tehnologiei au solicitat în luna martie a acestui an o „pauză” în dezvoltarea sistemelor avansate de inteligență artificială, susținând nevoia urgentă de a dezvolta suficiente măsuri de protecție împotriva AI-ului a cărui ascensiune neașteptat de rapidă pare că ia omenirea pe nepregătite. Judecând după modul în care evoluează lucrurile acum, s-ar părea că nici unul dintre semnatarii acelei petiții nu a intenționat cu adevărat să-și acorde „pauza” solicitată mai degrabă „celorlalți”. Șeful Microsoft este ocupat să anunțe funcția Copilot pentru Windows 12, în care AI-ul înlocuiește Start Menu. Google a a centrat noua serie Pixel 8 pe inovații asistate de AI, iar gigantul Qualcomm tocmai ce a anunțat Snapdragon 8 Gen 3, un chipset pentru telefoane flagship care invită la integrarea a tot felul de funcții bazate pe inteligență artificială.
Preocupată de ceva mai mult decât proliferarea aplicațiilor de mobil care îți citesc gândurile, echipa reunită de ONU va lucra și la anticiparea ”amenințărilor chimice, biologice și radiologice”, ce ar putea rezulta din folosirea inteligenței artificiale în scop militar. Experții coordonați de OpenAI se vor asigura că modelele de inteligență artificială nu vor păcăli utilizatorii umani și nu vor efectua sarcini neautorizate. De asemenea, dezvoltatorul ChatGPT va acorda importanță sporită folosirii inteligenței artificiale în pandemii și războaie nucleare.
“Credem că modelele de inteligență artificială, care își vor depăși capacitățile din prezent și vor deveni cea mai avansată tehnologie, au potențialul de a aduce beneficii întregii umanități. Totuși, acest lucru implică și riscuri din ce în ce mai grave“, declară reprezentanții OpenAI.
Prioritatea imediată a organismului consultativ va fi construirea unui consens global cu privire la riscuri și provocări ridicate de AI, totodată păstrând obiectivele actuale de a valorifica inteligența artificială pentru a îndeplini obiective de dezvoltare durabilă și întărirea cooperării internaționale.
ONU definește și ceva numit ”modelele AI de frontieră”, luând forma unor tehnologii AI de înaltă calitate și cu capacități suficient de periculoase pentru a amenința siguranță publică și securitatea globală. Sunt enunțate și câteva exemple, precum modele AI dezvoltate cu scopul de a proiecta arme chimice, descoperii și exploata vulnerabilități software în scop de război informațional, precum și atacarea unor sisteme critice pentru siguranță, cum ar fi rețeaua de electricitate sau internet a unei națiuni rivale.
