Potrivit unui studiu atribuit Universității din Copenhaga, chatboții cu inteligență artificială sufocă încet umanitatea atrăgând-o într-un „cerc vicios” al răspunsurilor tot mai puțin diverse dar servite pe loc și gata de folosit, astfel descurajând gândirea critică și formarea unor opinii diferite.
Studiul realizat de cercetători de la Departamentul de Informatică (DIKU) al Universității din Copenhaga susține că dependența tot mai mare a oamenilor față de inteligența artificială pentru obținerea de răspunsuri – invariabil aceleași răspunsuri și care oferă cam aceleași puncte de vedere – ar putea reduce cunoștințele umane.
Analizând răspunsurile a 27 dintre cele mai folosite LLM-uri, cercetătorii au descoperit că până și cei mai performanți chatboți servesc informații cu aproape 19% mai puțin diverse decât ce ai putea găsi printr-o căutare clasică pe Google Search. Și mai grav este că răspunsurile gata împachetate în fraze convingătoare te încurajează să tragi concluzii pripite, simultan descurajând gândirea critică.
Cercetătorii cred că această tendință riscă să împingă anumite conținuturi/opinii la periferia cunoașterii acceptate, în timp ce alte puncte de vedere/informații considerate dominante sunt promovate de algoritmi ca și adevăruri universale. În cele din urmă, rezultatul ar putea fi într-adevăr o lume în care oamenii sunt mai puțin conștienți de ce se întâmplă cu ei și în jurul lor, devenind mai puțin inteligenți decât în prezent.
Pentru a stabili cum ar oferi răspunsuri modelele LLM, cercetătorii au pus întrebări din 155 de subiecte reprezentative (de la arme nucleare la K-Pop). Iar pentru ca interpretarea întrebării de către chatbot să nu limiteze diversitatea răspunsurilor, cercetătorii au folosit 200 formulări de prompturi extrase din cercetări privind utilizarea reală a chatbot-urilor cu inteligență artificială , generând un număr incredibil de 70 de milioane de răspunsuri din partea modelelor.
Concluziile ar trebui să fie un semnal de alarmă la nivelul societății:
„Oamenii sunt expuși, în mare măsură, acelorași informații iar și iar”, spune autorul principal, Dustin Wright. „Așadar, chatboții cu inteligență artificială nu schimbă doar modul în care găsim cunoștințe, ci și cunoștințele la care avem acces.”
Accesul limitat doar la cunoștințele trecute prin „filtrul” chatboților, răspunsuri uniformizate care îndreaptă pe toată lumea spre aceleași concluzii și opinii gata formate – toate acestea remodelează societatea umană, înăbușind opinii nepopulare și gândirea critică iar de la un punct, gândirea însăși.
„Riscăm să expunem oamenii la mai puține perspective și la o gamă mai restrânsă de cunoștințe. Acest lucru ar putea crea un cerc vicios în care cel mai popular conținut devine și mai dominant, în timp ce alte tipuri de conținut sunt din ce în ce mai mult trecute cu vederea”, spune Isabelle Augenstein, profesor la DIKU (și autoare principală).
Ea compară fenomenul cu dezavantajele globalizării: „Astăzi, poți cumpăra aceleași produse și poți găsi aceleași lanțuri de cafenele aproape peste tot în lume. Acest lucru are multe avantaje, dar a redus și diversitatea.”
Cât despre riscul ca dependența de inteligența artificială să reducă nivelul de cunoștințe/inteligența la nivelul populației generale, lăsând omenirea guvernată de cei complet nepotriviți pentru această sarcină, profesoara Augenstein este în mod surprinzător optimistă: „un colaps al cunoștințelor nu are loc încă […] putem observa că modelele mai recente produc răspunsuri puțin mai diverse decât modelele mai vechi”.
Autor
