Statul Utah a lansat recent un program-pilot care permite unui chatbot bazat pe inteligență artificială (AI) să reînnoiască rețetele pentru medicamente psihiatrice fără intervenția directă a unui profesionist din domeniul sănătății. Inițiativa, gestionată de startupul Legion Health și susținută de Y Combinator, marchează prima dată când un stat american autorizează un sistem autonom de AI să se ocupe de reînnoirea rețetelor, cu scopul de a combate deficitul acut de personal medical în domeniul sănătății mintale.
Potrivit Gizmodo, în perioada de probă de 12 luni, pacienții „stabili”, care nu și-au modificat medicația și nu au fost internați în ultimul an, pot opta pentru acest serviciu de abonament lunar, care costă 19 dolari. Sistemul AI este limitat la 15 medicamente cu risc scăzut, precum Prozac, Zoloft și Wellbutrin, excluzând substanțele controlate, cum ar fi Adderall.
În vederea asigurării siguranței, primele 250 de rețete generate de chatbot vor fi revizuite de un medic autorizat. Sistemul trebuie să atingă o rată de aprobare de cel puțin 98% pentru a putea funcționa singur, fără supraveghere umană. Departamentul de Comerț din Utah a subliniat, printr-un comunicat, că această măsură a fost adoptată pentru a răspunde unei lacune majore în infrastructura de sănătate mentală a statului. „Majoritatea județelor din Utah au semnalat o penurie de furnizori de servicii de sănătate mintală, lăsând până la 500.000 de rezidenți fără acces adecvat la îngrijiri”, a spus reprezentanții instituției.
Riscuri și controverse în jurul AI-ului în domeniul sănătății mentale
Emoțiile și grijile legate de această inițiativă sunt alimentate de experiențele anterioare cu proiecte automatizate din domeniul medical, care au eșuat sau chiar s-au dovedit periculoase. Un precedent din Utah, realizat de compania Doctronic, a fost rapid compromis, cercetătorii de securitate manipulând AI-ul pentru a genera teorii conspiraționiste despre vaccinuri și chiar pentru a tripla dozele de opioide recomandate.
Experții în domeniu avertizează că modelele lingvistice de mari dimensiuni sunt încă vulnerabile la atacuri de tip jailbreak, acțiuni care pot dezactiva sau modifica comportamentul sistemelor AI. Îngrijorările vizează siguranța și fiabilitatea sistemelor automatizate, mai ales în contextul medicamentației pentru bolile psihice, unde greșelile pot avea consecințe grave.
În ciuda potențialului de a eficientiza serviciile, criticii subliniază că AI ar trebui să sprijine medicii, nu să înlocuiască complet intervenția umană. Există temeri că înlocuirea anumitor roluri ar putea duce la o degradare a nivelului de competență din rândul profesioniștilor.
Impactul asupra sistemului de sănătate și viitoarele pași
Potrivit Departamentului de Comerț din Utah, initiativa are menirea de a ajuta o populație aflată în dificultate, în condițiile în care multe regiuni ale statului sunt afectate de o deficit de specialiști în sănătate mentală. Dar, în același timp, programul se află sub o monitorizare atentă, fiind încă în faza de teste.
Datele din perioada de pilotare vor oferi indicii despre siguranța și eficiența acestei tehnologii în gestionarea rețetelor psihiatrice. Până în prezent, nu a fost anunțată o dată pentru extinderea sau implementarea pe scară largă a sistemului, cel mai recent eveniment programat fiind finalizarea acestei faze de testare în decembrie 2023.
