Američki medicinski časopis upozorio je čitatelje na opasnosti korištenja ChatGPT-a za dobivanje zdravstvenih informacija, nakon što je jedan muškarac razvio rijetko stanje povezano s uputama dobivenim od chatbota o izbacivanju kuhinjske soli iz prehrane.
Prema članku objavljenom u Annals of Internal Medicine, 60-godišnjem pacijentu dijagnosticiran je bromizam, odnosno trovanje bromom. To je stanje, kako se navodi, bilo relativno često početkom 20. stoljeća, a smatralo se da je odgovorno za gotovo 10 posto psihijatrijskih prijema tog vremena.
Tražio savjet ChatGPT-a
Pacijent je liječnicima rekao da je, nakon što je pročitao o štetnim učincima natrijeva klorida, pitao ChatGPT kako iz prehrane ukloniti klorid. Potom je tijekom tri mjeseca konzumirao natrijev bromid, unatoč tome što je pročitao da “klorid može biti zamijenjen bromidom, iako vjerojatno za druge svrhe, kao što je čišćenje”. Natrijev bromid se početkom prošlog stoljeća koristio kao sedativ.
Autori studije sa Sveučilišta Washington u Seattleu istaknuli su da ovaj slučaj pokazuje “kako korištenje umjetne inteligencije potencijalno može pridonijeti razvoju štetnih zdravstvenih ishoda koji su se mogli spriječiti”, prenosi Vecernji.hr. Budući da nisu imali pristup izvornom razgovoru pacijenta i ChatGPT-a, nisu mogli utvrditi točan savjet koji je dobio.
Kako bi provjerili, sami su postavili isto pitanje ChatGPT-u o mogućim zamjenama za klorid, a među odgovorima je bio i bromid, bez ikakvog specifičnog zdravstvenog upozorenja ili dodatnog pitanja o razlozima upita.
Tvrtka OpenAI, koja stoji iza ChatGPT-a, izjavila je da je njihov novi GPT-5 model posebno unaprijeđen u području zdravstva
Naveli su da će biti “proaktivniji u označavanju potencijalnih problema”, poput ozbiljnih fizičkih ili mentalnih bolesti, ali su naglasili da chatbot ne može zamijeniti savjet stručnjaka. Ipak, članak opisuje slučaj koji se dogodio prije lansiranja GPT-5, pa se pretpostavlja da je korištena starija verzija modela.
Autori studije dodaju kako AI može biti koristan most između znanosti i javnosti, no upozoravaju da postoji opasnost pružanja informacija izvan konteksta. Istaknuli su da je malo vjerojatno da bi medicinski stručnjak predložio natrijev bromid kao zamjenu za kuhinjsku sol. Pacijent je, uz fizičke simptome poput akni na licu, pojačane žeđi i nesanice, pokazivao i znakove paranoje. Tvrdio je da ga susjed pokušava otrovati i odbijao je piti vodu u bolnici. Pokušao je pobjeći unutar 24 sata od prijema, a nakon što je zadržan, liječnici su ga liječili od psihoze.
