Laurids Gjelstrup
Har du også brugt AI til din sygdom.
Teknologiens indtog i sundhedssektoren har åbnet døren for nye muligheder, men også for uforudsete faldgruber.
Det blev tydeligt, da et amerikansk lægetidsskrift for nylig beskrev en sag, hvor brugen af en AI-chatbot førte til en sjælden og alvorlig forgiftning.
En 60-årig mand fra USA udviklede bromisme – en form for bromidtoksicitet – efter at have søgt råd om kostændringer.
Ifølge artiklen i ‘Annals of Internal Medicine‘ havde han læst om de skadelige effekter af bordsalt og spurgte en chatbot til råds om mulige erstatninger.
Det skriver The Guardian
Han begyndte herefter at indtage natriumbromid over tre måneder, til trods for at stoffet historisk blev brugt som beroligende middel og ikke som fødevareingrediens.
Forfatterne, der er tilknyttet University of Washington, understreger, at de ikke havde adgang til patientens oprindelige chatlog.
Alligevel viste en test af chatbotten, at bromid fremgik som en mulig erstatning for klorid – uden tydelig sundhedsadvarsel eller kritiske opfølgende spørgsmål, som en læge formentlig ville stille.
“Det fremhæver, hvordan brugen af kunstig intelligens potentielt kan bidrage til udviklingen af forebyggelige negative sundhedsresultater,” skriver forskerne.
AI må ikke erstatte prifessionel medicinsk rådgivning
Patienten blev indlagt efter at have udviklet paranoia, søvnløshed, overdreven tørst og hudproblemer.
Han forsøgte at forlade hospitalet inden for det første døgn, men blev behandlet for psykose og stabiliseret, hvorefter symptomerne på bromisme blev identificeret.
Virksomheden bag chatbotten lancerede for nylig en opdatering, drevet af GPT-5, med fokus på bedre håndtering af sundhedsspørgsmål og proaktiv markering af alvorlige helbredsproblemer.
Retningslinjerne fastslår dog fortsat, at chatbotten ikke må erstatte professionel medicinsk rådgivning.
Artiklen konkluderer, at kunstig intelligens kan fungere som bindeled mellem forskning og offentlighed, men at risikoen for fejl og misforståelser gør det afgørende, at sundhedspersonale spørger ind til, hvor patienters viden stammer fra, og korrigerer den, når det er nødvendigt.
