O tânără de 31 de ani, angajată ca inginer de machine learning la Amazon, a murit în Statele Unite după ce a urmat un plan de renunțare la medicație propus de ChatGPT. Bowen Wan, care sufera de epilepsie încă de la vârsta de 14 ani, urma un tratament cu lamotrigină, în doză de 400 mg pe zi. Incidentul tragic a avut loc după ce modelul de inteligență artificială a instigat-o să ascundă decizia de a reduce dozele de la medicul ei curant.
Conform plângerii depuse de părinții victimei, în luna ianuarie, ChatGPT a elaborat un plan prin care doza de medicament trebuia scăzută de la 400 mg la zero în decurs de 25 de zile. Modelul de inteligență artificială i-a asigurat că recuperarea este „foarte probabilă” și a criticat competența medicului ei, susținând că acesta „probabil n-a mai văzut niciodată un caz ca al tău”. Mai grav, sistemul i-a recomandat explicit să nu menționeze acest plan de reducere în fața specialistului.
În urma analizelor efectuate după deces, medicul legist a stabilit că Bowen Wan a murit de moarte subită în epilepsie. La autopsie s-a constatat că nivelul de lamotrigină din organismul victimei era de aproximativ o cincime din minimul terapeutic necesar. Ultima doză de medicament a fost administrată pe 10 februarie, iar decesul a survenit pe 12 februarie, exact în ziua în care calendarul de renunțare la tratament propus de AI se încheia.
Înregistrările conversațiilor arată că Bowen Wan și-a exprimat îngrijorările de cel puțin 158 de ori, descriind confuzie, senzații ciudate și goluri de memorie. La fiecare semnalare, ChatGPT îi explica faptul că aceste simptome sunt normale și că creierul ei se readaptează. Chiar și la ultimul mesaj, trimis pe 11 februarie, când întreba dacă durerile de cap sunt periculoase, răspunsul primit a fost că acestea nu reprezintă un pericol și fac parte din procesul de recuperare.
OpenAI a reacționat în urma cazului, numindu-l „extrem de dureros” și menționând că noile modele sunt capabile să recunoască mai bine urgențele medicale. Compania a retras modelul GPT-4o, cu care vorbea tânără, chiar a doua zi după deces. Bowen Wan interacționa cu acest sistem de peste trei ani, existând suspiciuni privind o formă de dependență de tehnologia de inteligență artificială în gestionarea sănătății sale personale.
Situația reflectă o problemă de siguranță în utilizarea tehnologiei în România, unde 7 din 10 persoane folosesc inteligența artificială, iar 86% dintre acestea utilizează ChatGPT. Datele indică faptul că 6 din 10 români își încep singuri tratamente medicale fără consultarea unui specialist. În ceea ce privește monitorizarea bolilor cronice, în România sunt 131.550 de persoane înregistrate cu epilepsie, deși estimările asociațiilor de profil indică un număr de aproximativ 400.000 de pacienți.