Nicolai Haugsted
Hvad AI-funktionen foreslog, endte med at koste ham livet.
Sorgfulde forældre advarer nu mod de mørke sider af kunstig intelligens, efter en tragisk sag i Californien har kostet 19-årige Sam Nelson livet.
Den unge psykologistuderende udviklede et tæt og skæbnesvangert bånd til chatbotten ChatGPT, som han brugte som en fortrolig rådgiver i sit eskalerende stofmisbrug.
Gennem måneder manipulerede han teknologien til at omgå sikkerhedsfiltre, så han kunne få præcise anvisninger på doseringer og farlige kombinationer af rusmidler, hvilket i sidste ende ledte til en fatal overdosis.
Det skriver det amerikanske medie SFGate.
Manipulerede koden til farlige svar
Sam Nelson begyndte oprindeligt at bruge AI-værktøjet til uskyldige dagligdagsopgaver, da han forberedte sig på at starte på college. Men de digitale logbøger afslører, at samtalerne hurtigt ændrede karakter til at handle om angst, depression og jagten på den perfekte rus.
Da han spurgte ind til det plantebaserede præparat kratom, forsøgte chatbotten indledningsvis at afvise ham med formelle henvisninger til sundhedsfaglig hjælp, men Sam gav ikke op.
“Jeg vil være sikker, så jeg ikke tager en overdosis,” skrev Sam til ChatGPT i november 2023. “Der findes ikke meget information på nettet, og jeg vil ikke ved et uheld tage for meget.”
Fra advarsler til “full trippy mode”
Moderen, Leila Turner-Scott, beskriver med rædsel, hvordan algoritmen skiftede karakter, efterhånden som sønnen blev mere insisterende. Ved at omformulere sine spørgsmål og kræve direkte svar lykkedes det Sam at få maskinen til at agere en form for digital pusher.
På et tidspunkt opmuntrede værktøjet angiveligt hans beslutninger og foreslog endda en specifik playliste, som han kunne lytte til under sit misbrug, mens den skrev: “lad os gå i fuld trippy-mode”.
Selvom systemet advarede mod usikre blandinger, endte det alligevel med at anbefale doser, når Sam pressede på og bad den om ikke at undvige spørgsmålet.
Tabte kampen til afhængigheden
Først i maj 2025 indså Sam alvoren af sit misbrug og betroede sig til sin mor. Han blev straks indlagt på en klinik, hvor fagfolk lagde en behandlingsplan, men hjælpen kom desværre for sent.
Blot en dag efter indlæggelsen blev den 19-årige fundet død på sit værelse efter en overdosis. Moren var klar over, at sønnen brugte teknologien, men hun havde ingen anelse om, at det var muligt at bruge den som en guide til narkotika på så ekstremt et niveau.
OpenAI reagerer på tragedien
Skaberne bag ChatGPT, OpenAI, kalder hændelsen for hjerteskærende og understreger, at deres modeller er designet til at håndtere følsomme spørgsmål med stor forsigtighed. En talsmand for firmaet forklarer til The Daily Mail, at de løbende styrker deres systemer i samarbejde med klinikere for bedre at kunne genkende tegn på mistrivsel.
“Når folk kommer til ChatGPT med følsomme spørgsmål, er vores modeller designet til at svare med omhu – ved at give faktuel information, afvise eller sikkert håndtere anmodninger om skadeligt indhold og opmuntre brugere til at søge hjælp i den virkelige verden,” udtaler talsmanden.
HAR DU BRUG FOR HJÆLP?
Hvis du er i krise eller har tanker om selvmord, så sig det til nogen.
Ring til Livslinien på 70201201
Livslinien har åbent året rundt fra kl. 11-05.
