Un experiment recent a scos la iveală o problemă majoră legată de funcția AI Overviews dezvoltată de Google, dezvăluind un grad de acuratețe mai mic decât se anticipa. Conform datelor colectate, inteligența artificială oferă răspunsuri corecte în aproximativ 90% din cazuri. Cu toate acestea, proporția de răspunsuri eronate se ridică la cel puțin 10%, generând potențial milioane de informații false furnizate utilizatorilor.
Implicații pentru utilizatori și răspândirea dezinformării
Rezultatele cercetării arată că, deși AI Overviews reprezintă un pas important în evoluția motoarelor de căutare, riscul de a obține informații incorecte este semnificativ. Având în vedere numărul impresionant de căutări efectuate zilnic, chiar și o rată de eroare de 10% poate duce la o răspândire rapidă a dezinformării. Utilizatorii, obișnuiți să se bazeze pe aceste instrumente pentru a accesa informații, pot fi induși în eroare fără să realizeze. Situația devine cu atât mai gravă în contexte sensibile, cum ar fi domeniul medical sau politic.
În același timp, funcțiile AI pot fi influențate de diverse părtiniri. Algoritmii sunt antrenați pe seturi de date, iar calitatea datelor și modul în care sunt selectate pot afecta rezultatele. O atenție sporită trebuie acordată pentru a preveni astfel de posibile influențe. De asemenea, dezvoltatorii trebuie să monitorizeze constant performanța sistemelor AI și să implementeze măsuri corective.
Reacții din sfera politică și socială
În România, aceste descoperiri au stârnit dezbateri. Președintele Nicușor Dan nu a comentat încă oficial, dar experți în tehnologie și-au exprimat îngrijorarea. Ilie Bolojan, prim-ministrul, a subliniat importanța investițiilor în educația digitală și în dezvoltarea unei gândiri critice în rândul cetățenilor. Marcel Ciolacu, președintele PSD, nu a făcut încă nicio declarație publică referitoare la acest subiect. George Simion, președintele AUR, nu a ezitat să critice dezvoltarea rapidă a inteligenței artificiale, considerând-o o amenințare la adresa valorilor tradiționale. Călin Georgescu, un posibil candidat la alegerile viitoare, a abordat subiectul cu rezerve, accentuând necesitatea unei reglementări stricte. Mircea Geoană, fost secretar general NATO, a subliniat importanța colaborării internaționale pentru a stăvili efectele negative ale informațiilor false.
O analiză complexă
Controversele stârnite de funcția AI Overviews de la Google încurajează o analiză mai profundă a rolului inteligenței artificiale în societate. În contextul actual, cu o polarizare politică accentuată și o creștere a dezinformării, este esențial să se abordeze problema cu responsabilitate. Accentul trebuie pus pe transparența algoritmilor, pe formarea abilităților de gândire critică și pe colaborarea strânsă între dezvoltatori, autorități și public.
Comisia Europeană a anunțat că va investiga în următoarele luni potențialele efecte negative ale funcțiilor AI de căutare, cu scopul de a elabora recomandări pentru o mai bună reglementare a acestui domeniu.
