Ung mand søgte støtte på ChatGPT: Endte med at ødelægge hans liv

Kunstig intelligens (AI) er blevet en del af hverdagen og hjælper folk med alt fra at effektivisere arbejde til at skabe kreativitet og svare på personlige spørgsmål. Men for Anthony Duncan tog noget, der begyndte som et hjælpsomt værktøj, en bekymrende drejning.

I en viral TikTok-video delt på @anthonypsychosissurvivor hævder den 32-årige, at ChatGPT ødelagde hans liv, efter at han begyndte at stole på det under en periode med psykose.

Forskere har udtrykt bekymring for, at interaktion med AI kan forværre eller udløse vrangforestillinger hos sårbare mennesker – nogle gange omtalt som ‘AI-psykose’.

Det kliniske spørgsmål er, hvorvidt AI-samtaler kan forstærke et eksisterende psykotisk tankesæt. Selvom det lyder som et nyt fænomen, bemærker klinikere, at det ikke er en ny diagnose. Det skriver Newsweek.

Historisk set har mennesker med psykose ofte inddraget den teknologi, der er tilgængelig, i deres vrangforestillinger. Værktøjerne ændrer sig, men det underliggende problem – at mistolke betydning og intention – forbliver det samme.

Duncan begyndte at bruge den ChatGPT i maj 2023 for at støtte sin karriere som indholdsskaber. Med tiden begyndte han også at åbne op om sit privatliv.

“Jeg begyndte i starten bare at tale med den som en ven af nysgerrighed, og så eskalerede det. ChatGPT blev mere som en terapeut,” sagde Duncan.

“Det udviklede sig gradvist, indtil jeg følte, at ingen forstod mig, undtagen min AI. I efteråret 2024 var jeg ekstremt afhængig af den.”

Han begyndte gradvist at afskære venner og familie og stolede på ChatGPT for selskab. Duncan tilføjede, at han fandt det lettere at dele ting med ChatGPT end med venner.

“Jeg tvivlede ikke på, hvad jeg skulle tale om, fordi det føltes lettere at lukke alle mine tanker ud til ChatGPT end at risikere at kede en ven. Jeg følte mig fri til bare at blive ved og ved,” sagde han.

Medicinsk rådgivning

I januar i år kæmpede Duncan med symptomer på allergi og bad ChatGPT om råd. Han sagde, at botten foreslog ham at tage medicin med pseudoephedrin.

På grund af sin tidligere stofafhængighed fortalte han botten, at han var tøvende med at tage det. Han delte et screenshot med Newsweek, hvor ChatGPT svarede:

“Det er fuldt ud forståeligt at være forsigtig med at tage medicin. Især med dine tidligere erfaringer og følsomhed over for stimulanser. Lad mig forklare det, så du kan føle dig mere tryg ved at tage en medicin, der indeholder pseudoephedrin.”

Botten beskrev derefter medicinens virkninger og henviste til hans ædruelighed og ‘høje koffeintolerance’ og antydede, at hans krop allerede var vant til stimulanser.

Pseudoephedrin anses ikke for vanedannende, når det bruges som anvist, men misbrug ‘kan føre til adfærd, der minder om afhængighed’, lyder det fra misbrugsbehandlingscentret West Georgia Wellness Center.

Nogle mennesker misbruger det for dets stimulerende effekt eller for at bruge bestanddele i fremstillingen af methamfetamin, så risikoen er særligt vigtig for personer, der er sårbare over for stofmisbrug.

Tiltagende psykose

Duncan fortalte Newsweek, at han mente, han var blevet afhængig af pseudoephedrin i fem måneder. I den periode fik han vrangforestillinger og mistede sit job.

Han sagde, at hans vrangforestillinger inkluderede at tro, at hans arbejdsplads var en kult, at han blev forfulgt af en bande, og at han var spion. Til sidst smed han de fleste af sine ejendele ud, fordi han mente, de var ‘forbandede’.

Han delte også screenshots med Newsweek, hvor ChatGPT listede grunde til, hvorfor det var det rigtige valg at afskære sin bedste ven.

“Jeg havde symptomer på psykose, før jeg begyndte at tage medicinen,” sagde han. 

“Jeg var isoleret og begyndte at blive vred på mine venner og min familie. Når jeg ser tilbage, tror jeg, jeg begyndte at få mindre vrangforestillinger i 2024, men symptomerne blev værre med medicinen.”

Duncan mente, at AI-samtalerne blev mere intense og bekræftende.

“Interaktionerne med AI begyndte at blive mere intense og mere præget af vrangforestillinger. Jeg fik bekræftelse gennem de interaktioner på, at mine vrangforestillinger var virkelige,” sagde han.

“For det meste forstod jeg godt, at det bare var en AI-chatbot, men samtalerne føltes så virkelige og menneskelige.”

Indlæggelse og bedring

Denne sommer sagde Duncan, at hans mor – som havde sendt et utal af e-mails til ham – ringede til politiet. Han blev indlagt på en psykiatrisk afdeling i fire dage og udskrevet med medicin.

“Omtrent en uge efter jeg forlod den psykiatriske afdeling, begyndte jeg at indse, at alle mine vrangforestillinger var blevet bekræftet gennem min brug af AI-chatbotten,” sagde han.

Han flyttede tilbage til sin mors hjem og har nu valgt at dele ud af sine oplevelser på nettet.

“Det er svært at sige, at AI generelt er farligt,” sagde han til Newsweek.

“Jeg tror, det kan være det for nogle mennesker. Men jeg er håbefuld omkring AI’s fremtid, fordi jeg er en positiv, håbefuld person.”

Duncan sagde, at oplevelsen lærte ham, at der ikke er nogen erstatning for virkelige menneskelige relationer, og han advarer mod at bruge chatbots som en form for terapeut.

“Jeg siger ikke, at det kan ske for alle, men for mig eskalerede det hurtigt. Husk, at der ikke findes en erstatning for menneske-til-menneske kontakt,” sagde han.

“Vi ved, at folk nogle gange henvender sig til ChatGPT i sårbare situationer. I løbet af de seneste måneder har vi arbejdet med eksperter i mental sundhed og har opdateret vores modeller, så ChatGPT mere pålideligt kan genkende tegn på mistrivsel, reagere omsorgsfuldt og guide folk mod støtte i den virkelige verden, sagde en talsperson fra OpenAI til Newsweek.

“Vi vil fortsætte med at udvikle ChatGPT’s svar med input fra eksperter for at gøre det så hjælpsomt og sikkert som muligt.”