Google isi concendiaza unul din cercetatorii AI de top din cauza unui e-mail trimis altor angajati
Chiar daca Google este unul din numele mari atunci cand vine vorba de cercetarea implicarilor sociale ale inteligentei artificiale, gigantul tech mai face si nasoale. Iar de pe urma acestora a avut de suferit Timnit Gebru, o cercetatoare de seama si co-fondator al echipei de research al eticii in domeniul inteligentei artificiale.
Afli lucruri noi in fiecare zi
Subiectul este putin mai delicat. Timnit Gebru este/a fost un angajat foarte respectat pentru implicarea sa in examinarea efectului „bias” de care poate suferi un AI. Sa va explic, pe scurt. Efectul de bias apare atunci cand AI-ul, in al sau proces de machine learning si procesare de date, face discriminare. Discriminarea in cauza este aceeasi ca in viata reala: rasa, religie, toate cele.
De exemplu, s-a constatat ca „detectorul” de hate speech dezvoltat de Google este biased impotriva persoanelor de culoare. Efectul asta poate surveni in doua moduri: algoritmic sau social. Cel algoritmic are loc atunci cand oamenii de stiinta introduc date biased in procesul de machine learning al AI-ului. Cel social este mult mai subtil, iar ambele merg mana in mana. Pentru cei interesati, articolul asta detaliaza intregul fenomen, oferind exemple si statistici relevante.
Iar Timnit Gebru s-a dedicat trup si suflet in cercetarea acestui fenomen, fiind totodata si singura femeie de culoare din domeniul sau de activitate. Inainte ca Google sa o concedieze fara clipeasca, Timnit discutase deja cu „șăfii” despre demisia ei in cazul in care compania refuza sa-i accepte conditiile de lucru solicitate.
Google gandeste in locul tau, si nu-i prea frumos
Timnit mentioneaza ca initial nu isi daduse demisia, dar a primit un mail de la Google in care compania „i-a acceptat cererea de demisie”. Cercetatoarea a incercat sa clarifice lucrurile pe Twitter, explicand ca urma sa se hotarasca daca isi paraseste locul de munca sau nu, odata ce Google revenea cu raspunul la conditiile impuse de Timnit. Aparent, corporatia i-a luat-o inainte, scutind-o de „preaviz”…
Apparently my manager’s manager sent an email my direct reports saying she accepted my resignation. I hadn’t resigned—I had asked for simple conditions first and said I would respond when I’m back from vacation. But I guess she decided for me 🙂 that’s the lawyer speak.
— Timnit Gebru (@timnitGebru) December 3, 2020
Potrivit lui Gebru, Google a concediat-o instant pe motiv ca cercetatoarea a trimis un e-mail unor angajati din cadrul altui departament intern, numit Google Brain women and Allies. Compania considera ca mesajul trimis in acea seara se abate de la standardele impuse la locul de munca.
„Thanks for making your conditions clear. We cannot agree to #1 and #2 as you are requesting. We respect your decision to leave Google as a result, and we are accepting your resignation.”
„However, we believe the end of your employment should happen faster than your email reflects because certain aspects of the email you sent last night to non-management employees in the brain group reflect behavior that is inconsistent with the expectations of a Google manager.”
„As a result, we are accepting your resignation immediately, effective today. We will send your final paycheck to your address in Workday. When you return from your vacation, PeopleOps will reach out to you to coordinate the return of Google devices and assets.”
Timnit Gebru il suspecteaza pe seful programului AI de la Google, Jeff Dean. Se pare ca lui Dean nu i-a picat prea bine lista destinatarilor mesajului. Iar suspiciunea, combinata cu dificultatea tragerii la raspundere a unei corporatii gigantice, are efecte cam imprevizibile.
Retweeting this because once again at this point I need to proceed very carefully and talk to a lawyer asap. https://t.co/wb7PblpRo7
— Timnit Gebru (@timnitGebru) December 3, 2020
Traim in vremuri controversate
Situatia in care Timnit se afla a generat multe discutii pe social media, multe fiind abordate de catre alti specialisti cunoscuti din domeniul AI. Este un subiect mai sensibil si nu voi intra in detalii. Exemplul acesta de comportament inadecvat din partea lui Google arata cat de „volatila” este sfera machine learning.
Timnit Gebru face parte din cercetatorii AI care doresc sa corecteze erorile provocate de efectul bias de care sufera inteligentele artificiale. Evident, nici AI-urile nu sunt ferite de conflictele aparute la nivel social. Exista ostilitate de ambele parti, si devine din ce mai greu ca unul din cele mai fascinante domenii sa isi pastreze neutralitatea.
