Conform Go4IT: Pacient din Seattle, în pragul psihozei din cauza recomandărilor ChatGPT
Un bărbat în vârstă de 60 de ani din Seattle a ajuns în stare gravă la spital, manifestând simptome neurologice severe, inclusiv paranoia și halucinații, după ce a urmat sfaturile unei platforme de inteligență artificială. Incidentul a dus la o intoxicație periculoasă cu bromură, o substanță chimică cu efecte puternice asupra sistemului nervos central.
Pacientul s-a prezentat inițial la urgențe din cauza unor temeri legate de o posibilă otrăvire de către vecinul său. Deși examinările neurologice inițiale nu au relevat probleme acute, analizele de sânge au indicat un nivel ridicat de clorură, sugerând o hipercloremie. Ulterior, s-a constatat că era vorba de o pseudohipercloremie, o eroare de laborator cauzată de prezența altor ioni cu sarcină negativă.
Descoperirea șocantă: bromură în cantități uriașe
Consultările toxicologice au confirmat că bărbatul prezenta niveluri de bromură în sânge de aproximativ 230 de ori mai mari decât cele normale. Bromura, prin similaritatea sa chimică cu clorura, poate pătrunde în canalele neuronale și poate perturba funcționarea creierului, ducând la simptome psihiatrice severe. Medicamentele care conțineau săruri de bromură au fost retrase din uz la începutul secolului XX, tocmai din cauza rolului lor în creșterea numărului de internări în spitalele psihiatrice.
După trei săptămâni de îngrijiri medicale intensive, în care i-au fost stabilizați electroliții și a primit tratament antipsihotic temporar, pacientul a mărturisit că a apelat la ChatGPT pentru a găsi o alternativă mai sănătoasă la sarea de masă (clorură de sodiu). Chatbotul i-ar fi sugerat înlocuirea acesteia cu bromură de sodiu, pe care bărbatul a utilizat-o timp de trei luni.
Pericolele inteligenței artificiale în domeniul medical
Întrebați ulterior de medici despre eliminarea ionilor de clorură din dietă, medicii au constatat că instrumentul AI a recomandat în mod repetat sarea de bromură, fără a oferi avertismente specifice legate de riscurile pentru sănătate. Medicii au subliniat în raportul lor că acest caz subliniază pericolele bazării pe chatbot-uri pentru sfaturi medicale și recomandă o analiză mai atentă a posibilității de bromism în evaluările psihologice.
Termenii și condițiile de utilizare ale OpenAI avertizează explicit împotriva utilizării platformelor sale pentru decizii medicale. Conform acestora, informațiile furnizate de ChatGPT trebuie verificate întotdeauna, iar judecata profesională independentă este esențială, fără a se baza exclusiv pe rezultatele obținute de pe platformă.
Chiar dacă intoxicațiile cu bromură sunt rare în prezent, suplimentele pe bază de bromură rămân accesibile online, ridicând noi îngrijorări în rândul profesioniștilor din domeniul sănătății cu privire la potențiale cazuri viitoare generate de recomandări digitale neverificate.
Sursa: Go4IT
