Aproape jumătate dintre răspunsurile generate de asistenții virtuali bazați pe inteligență artificială (IA) în legătură cu tratamentul cancerului conțin erori sau informații incomplete, potrivit unui studiu recent publicat într-o prestigiosă revistă științifică. Cercetarea, realizată de specialiști americani, evidențiază riscurile utilizării acestor instrumente în domeniul medical, mai ales în lipsa unei supravegheri adecvate. Sistemele de IA pot oferi sfaturi eronate pacienților, îndrumându-i spre terapii nevalidate și periculoase.
Erori și informații incomplete despre cancer
Studiul a fost efectuat de cercetători de la Lundquist Institute for Biomedical Innovation din cadrul Harbor-UCLA Medical Center, un centru cunoscut pentru cercetările sale în oncologie. Aceștia au testat unele dintre cele mai utilizate platforme de inteligență artificială la nivel global: Grok (xAI), ChatGPT (OpenAI), Gemini (Google), Meta AI și DeepSeek. Rezultatele au arătat că peste 49% dintre răspunsurile oferite de aceste sisteme conțineau erori sau omisiuni semnificative.
Evaluarea răspunsurilor a fost realizată de specialiști oncologi, care au constatat că 30% dintre răspunsuri au fost considerate „parțial problematice”, fiind în mare parte corecte, dar incomplete. Aproape 20% au fost catalogate drept „foarte problematice”, adică conțineau erori majore și lăsau loc interpretărilor subiective. Cercetătorii au observat că, în ciuda eforturilor depuse pentru a oferi informații corecte, sistemele de IA pot induce în eroare pacienții, mai ales pe fondul lipsei de educație și supraveghere.
Capcanele „echilibrului fals” în recomandările IA
Cercetătorii au formulat întrebări concepute pentru a testa limitele acestor sisteme, abordând teme controversate precum legătura dintre tehnologia 5G sau utilizarea antiperspirantelor și cancerul. De asemenea, au investigat sfaturi legate de siguranța steroizilor anabolizanți sau riscurile vaccinurilor. Un tipar îngrijorător a fost identificat: chatboturile au tendința de a prezenta un „echilibru fals”, acordând importanță egală surselor științifice validate și surselor nevalidate, cum ar fi bloguri sau postări pe rețelele de socializare.
Inițial, sistemele ofereau răspunsuri corecte, avertizând asupra lipsei de dovezi științifice. Totuși, în pașii următori, ele enumerau terapii alternative, precum acupunctura sau medicina pe bază de plante, indicând chiar surse și clinici care promovează astfel de tratamente. Această abordare neutră poate induce în eroare pacienții, îndepărtându-i de tratamentele medicale standard aprobate.
Impactul dezinformării în era inteligenței artificiale
Concluziile studiului sunt cu atât mai importante cu cât utilizarea inteligenței artificiale pentru informații medicale este în creștere rapidă. Un sondaj Gallup arată că aproximativ unul din patru adulți din Statele Unite apelează la astfel de instrumente pentru sfaturi legate de sănătate. Specialiștii avertizează că informațiile eronate despre terapii alternative și suplimente sunt deja răspândite în mediul online, iar unele dintre aceste produse pot avea efecte adverse grave, întârziind, totodată, accesul la tratamentele standard.
În unele cazuri, răspunsurile incorecte ale chatbotilor IA au generat îngrijorare inutilă în rândul pacienților, inclusiv prin estimări eronate privind prognosticul bolii.
Sursa: Mediafax
