Inteligența Artificială (AI) generativă, inclusiv funcția „AI Overview” de la Google, oferă răspunsuri incorecte în pofida eforturilor de precizie. Un studiu recent evidențiază faptul că, deși acuratețea este de 90%, erorile pot fi semnificative, având în vedere volumul imens de căutări procesate zilnic. Aceste erori ridică semne de întrebare cu privire la fiabilitatea și impactul acestor instrumente asupra utilizatorilor.
Problemele de Acuratețe ale Răspunsurilor AI
Funcția „AI Overview” de la Google, care oferă rezumate generate de AI în rezultatele căutărilor, afișează erori frecvent. Rata de eroare, deși aparent mică, se traduce în zeci de milioane de răspunsuri discutabile în fiecare oră. Sistemul este, de asemenea, imprevizibil, o căutare repetată putând produce rezultate diferite. Prezența acestor rezumate în partea de sus a paginii de rezultate crește încrederea utilizatorilor, amplificând impactul potențial al informațiilor eronate.
O parte din problemă derivă din sursele folosite. Cercetătorii au descoperit că platforme precum Facebook și Reddit sunt citate frecvent, chiar și cu rezultate inexacte. În plus, există riscul manipulării intenționate, indivizii putând crea conținut fals pentru a influența rezultatele AI. Astfel, sistemul ar putea prelua informații eronate, generând răspunsuri incorecte.
Surse și posibile soluții
Dificultatea de evaluare constantă a acurateței și potențialul de manipulare intenționată complică și mai mult situația. Sistemele AI folosesc aceleași mecanisme de filtrare ca motorul de căutare, dar rămân vulnerabile la informații incorecte. Problemele pot fi amplificate de interogări nerealiste.
În ciuda acestor aspecte, utilizatorii sunt sfătuiți să trateze informațiile generate de AI cu scepticism. Dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive. Mesajul afișat de sistem, „AI-ul poate greși, așa că verifică informațiile!”, rămâne o recomandare importantă.
Studiile sugerează că dependența excesivă de AI poate afecta abilitățile cognitive, un aspect ce necesită o atenție sporită. Un reprezentant Google a declarat că sistemele folosesc aceleași mecanisme de filtrare ca motorul de căutare.
