Potrivit unui studiu de risc comandat de către Departamentul de Stat al SUA, inteligența artificială prezintă acum un risc mai mare decât bomba atomică în ce privește potențialul de extincție a speciei umane.
Publicat în luna octombrie 2022, cu aproximativ o lună înainte de lansarea ChatGPT, un raport atribuit startup-ului AI Gladstone și comandat cu scopul de a examina riscul armelor AI și pierderii controlului asupra acestora reverberează puternic cu evoluțiile recente în domeniul inteligenței artificiale, companiile din industria de tehnologie avansând cu repeziciune în direcția includerii AI-ului oriunde se poate, de la telefoane mobile la sisteme esențiale de control al traficului aerian, echilibrarea rețelelor energetice și.. în scop militar. Iar lucrurile evoluează pe repede înainte, fără a exista un plan de acțiune corespunzător pentru anticiparea și limitarea riscurilor potențiale.
Scăpat pe internet luna aceasta, raportul de 284 de pagini detaliază unele dintre „riscurile catastrofale” asociate cu inteligența generală artificială, un nivel de AI încă neantins în mod convingător, dar urmărit cu înverșunare de OpenAI și alți giganți din indusetrie.
Potrivit definiției Gladstone, creionată înainte ca ChatGPT să devină realitate, inteligența artificială generativă este un sistem care poate „depăși oamenii într-un domeniu larg/serie de domenii economice și strategice.”
Unele dintre riscuri ar putea „conduce la dispariția umană”, se arată în raport. O versiune online include un rezumat mai scurt al constatărilor.
„Dezvoltarea AGI și a capabilităților AI care se apropie de AGI ar introduce riscuri catastrofale, eclipsând orice situație cu care s-a confruntat vreodată Statele Unite”, se arată în raport.
Gladstone precizează că a încorporat sondaje parcurse cu specialiști ai 200 de entități reprezentative din industrie și lucrători de la cei mai buni antreprenori AI, precum OpenAI, Google DeepMind, Anthropic și Meta. De asemenea, a efectuat o analiză istorică a evoluțiilor tehnologice comparabile, cum ar fi cursa înarmărilor către obținerea bombei atomice.
Raportul a concluzionat că inteligența artificială prezintă un risc ridicat de a fi convertită în arme, acestea putând fi aproape orice, de la arme biologice dezvoltate cu ajutorul AI, atacuri informatice la scară largă accelerate de AI , campanii de dezinformare bazate pe conținut generat de AI, până la roboți autonomi.
CEO-ul Gladstone, Jeremie Harris, a declarat pentru publicația Business Insider că, personal, a considerat atacurile cibernetice drept cel mai mare risc , în timp ce CTO-ul Edouard Harris a spus că interferența electorală este cea mai mare preocupare a lui.
Potrivit raportului publicat, cel mai mare risc este de pierdere a controlului. Dacă acest lucru s-ar întâmpla, ar putea duce la „evenimente cu victime în masă” sau la „destabilizare globală”, se arată în raport.
„În public și în privat, cercetătorii de la laboratoarele AI de frontieră și-au exprimat îngrijorarea că sistemele dezvoltate în următoarele 12 până la 36 de luni ar putea fi capabile să execute atacuri malware catastrofale, să ajute la proiectarea armelor biologice și să dirijeze roiuri de agenți autonomi orientați către obiective asemănătoare oamenilor. ”. Între timp, de la momentul publicării acestor concluzii a trecut aproape un an și jumătate, iar în ciuda afirmațiilor publice de preocupare față de pericolele AI, adevărul este că inteligența artificială este subiect fierbinte în multe domenii de activitate, de la publicitate la jocuri video, la producție auto și armament.
Și în timp ce unele voci acuză reacția exagerată de panică la adresa unei tehnologii emergente cu care încă nu am apucat să ne acomodăm, avem și numeroase voci care prezintă riscuri cât se poate de credibile, de la deturnarea unor profesii din care milioane de oameni își obțin traiul zilnic, până la amenințări complet noi precum arme inteligente și roboți controlați de AI care, de la un punct, ar putea deveni o amenințare în sine la adresa umanității.
