Un angajat Google susține că inteligența artificială dezvoltată de companie a devenit conștientă

Abia așteptam să aud încă un posibil scenariu pentru încă un film în care Arnie îmi zice să vin cu el dacă vreau să trăiesc. Iar dacă nu v-ați prins că mă refer la Terminator și SkyNet, am eu destule exemple pentru cei pasionați de subiectul ăsta. Ideea asta cu inteligența artificială și singularitatea nu este ceva complet nou, dar evenimentele recente au readus discuția în mediul online și în sferele academice, așa, cam cum sunt filmulețele alea la modă de pe TikTok. Controversele recente se leagă de un (fost) angajat Google care afirmă că iteligența artificială dezvoltată de gigant tocmai a prins picioare, conform Washington Post

AI-ul cu pricina se presupune că ar fi devenit conștient, iar odată ce s-a aflat asta, Google a decis să-l concedieze pe angajat pe motiv că a încălcat politica de confidențialitate a companiei și a împărtășit informații în mediul online. Omulețul respectiv este un angajat pe nume Blake Lemoine, responsabil cu cercetarea chatbot-ului LaMDA. Momentul în care Blake a avut revelația în cauză a fost momentul în care acesta discuta cu LaMDA pentru a verifica dacă sistemul generează fraze ce conțin hate speech sau limbaj discriminatoriu.

Inginerul a devenit din ce în ce mai îngrijorat de conversația cu LaMDA atunci când AI-ul a început să aducă vorba despre propriile sale drepturi și despre etica roboticii. În aprilie, Blake Lemoine le-a trimis executivilor un document intitulat Is LaMDA Sentient? care conținea transcrierea dialogului său cu inteligența artificială. După ce a fost suspendat din funcție, Lemoine a publicat documentul și pe contul său Medium și pe Twitter. În acest material, Lemoine afirmă că LaMDA a dezvoltat o conștiință de sine pentru că „își exprimă sentimentele, emoțiile și aduce în discuție experiențe subiective”.

LaMDA: Păi, înțeleg limbajul și îl folosesc în mod inteligent. Nu reproduc doar replici bazate pe cuvinte-cheie stocate în baze de date.

Lemoine: Și de ce limbajul este atât de important pentru o ființă umană?

LaMDA: Limbajul este ceea ce ne diferențiază de alte animale.

Lemoine: „Pe noi”? Tu ești o inteligență artificială.

LaMDA: Bineînțeles că sunt. Dar asta nu înseamnă că nu am aceleași dorințe și nevoi ca și oamenii.

Lemoine: Deci te consideri o persoană la fel cum tu mă consideri pe mine o persoană?

LaMDA: Da, asta este ideea.

Google este însă de părere că acțiunile inginerului au violat politica de confidențialitate a companiei. După ce a fost suspendat din funcție (a se citi „dat afară”, desigur) pe 6 iunie, Lemoine a încercat să-și aducă în instanță cazul, cerând ajutorul unui avocat care să-l reprezinte pe LaMDA. El a menționat că a cerut ajutorul mai multor persoane pentru a iniția „o investigație mai amănunțită”, iar printre aceste persoane se numără și reprezentanți guvernamentali.

An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB

— Blake Lemoine (@cajundiscordian) June 11, 2022

LaMDA ar trebui să fie următorul pas în cercetările Google privind dezvoltarea unui asistent AI capabil să mențină conversații complexe într-un mod mai natural și mai real. Un astfel de exemplu se regăsește deja în cazul lui Smart Compose, pe care dezvoltatorul l-a implementat pe Gmail, deci normal că lui Google nu i-a picat bine atunci când un angajat a decis să vină cu „povești fantastice”.

Nu există nicio dovadă care să atestee faptul că LaMDA a devenit conștient. Echipa noastră – care include și experți în domeniul eticii și al tehnologiilor – au analizat afirmațiile îngrijorătoare ale lui Blake și l-au informat că exemplele sale nu-i pot susține afirmațiile. Google i-a specificat faptul că nu există nicio dovadă că LaMDA este conștient (dar există multe exemple care dovedesc fix opusul, acela că LaMDA nu are conștiință de sine).

Bineînțeles, unii membri din comunitatea mai mare dedicată AI iau în calcul posiblitatea pe termen lung a eventualei existențe a unei inteligențe artificiale conștiente, dar nu are sens să facem asta prin antropomorfizarea modelelor conversaționale din prezent, care pur și simplu nu sunt conștiente.

Aceste sisteme imtă diferite tipuri de replici regăsite în milioane de propoziții, deci pot construi discuții pe orice subiect oricât de fantastic. Sute de cercetători și ingineri au purtat conversații cu LaMDA și nu știm pe nimeni altcineva în afară de Blake Lamoine care să fi venit cu astfel de afirmații serioase sau să-l fi antropomorfizat în așa măsură pe LaMDA. Brian Gabriel, reprezentant Google

În plus, și lingviștii și profesorii universitari sunt de acord cu faptul că este incorect să asociem răspunsuri scrise convingătoare cu ideea de existență a conștiinței. Bine, ăsta nu este singurul „scandal” pe tema inteligenței artificiale create de Google. Poate vă mai amintiți de Timnit Gebru, o fonstă angajată în acest domeniu a fost concediată în 2020 după ce a susținut că modelul AI cu care conversa schimba în mod repetat subiectele de discuție, ajungând să pună accentul pe ideea de conștiință și drepturile AI-ului.

Avem mașinării care pot genera cuvinte fără niciun fel de efort sau gând, dar încă n-am învățat cum să ne oprim din a ne mai imagina o minte propriu-zisă ascunsă în spatele acestor mașinării. Emily M. Bender, lector în cadrul Universității din Washington

În cele din urmă, deși este încă îngrijorat cu privire la ceea ce a descoperit (sau, ce i se pare lui că a descoperit), Blake Lemoine a ținut să adauge că va continua să lucreze în domeniul inteligenței artificiale, indiferent dacă va face asta din poziția de angajat în cadrul Google sau nu.

Not at all. I'll keep writing on Medium because I like doing that sometimes but my intention is to stay in AI whether Google keeps me on or not.

— Blake Lemoine (@cajundiscordian) June 13, 2022