Mikkel Petersen
En tidligere medarbejder hos nogle af verdens største AI-virksomheder kommer nu med en dyster advarsel.
Kunstig intelligens har på få år udviklet sig med voldsom fart og er allerede blevet en fast del af hverdagen for millioner af mennesker.
Nu kommer en opsigtsvækkende advarsel fra en mand, der selv har arbejdet helt tæt på udviklingen af teknologien.
27-årige Jacob Coxon har efter tre år med træning af AI-modeller valgt at sige sit job hos AI-virksomheden Anthropic op.
Tidligere har han også arbejdet hos OpenAI, der står bag ChatGPT.
Og hans begrundelse er dramatisk.
Han frygter, at kapløbet om stadig kraftigere kunstig intelligens i værste fald kan få katastrofale konsekvenser for menneskeheden.
Det skriver BT.
Kan blive overmenneskelig
I et opslag på X retter Coxon hård kritik mod både Anthropic og OpenAI.
Ifølge ham bevæger virksomhederne sig for hurtigt mod udviklingen af selvforbedrende superintelligens.
Han mener samtidig, at risikoen bliver undervurderet.
“De mennesker, der bygger AI, tror oprigtigt, at det kan dræbe os alle inden udgangen af årtiet,” skriver han.
Ifølge Coxon er der ikke tale om et forsøg på at skabe opmærksomhed omkring teknologien.
Han advarer om, at kommende AI-systemer kan blive overmenneskelige og blandt andet få meget avancerede evner inden for hacking og forskning.
Det er dog vigtigt at understrege, at der er tale om Coxons vurdering af en mulig fremtidig risiko, ikke en fastslået prognose for, hvad der vil ske.
Forsker deler bekymringen
Coxon står ikke alene med bekymringen.
Evan Hubinger, der leder en forskningsgruppe hos Anthropic med fokus på at kontrollere avancerede AI-systemer, har reageret på opslaget.
Han skriver, at han også mener, at meget avanceret AI potentielt kan udgøre en eksistentiel risiko for mennesker.
Hubinger deler dog ikke Coxons korte tidshorisont og vurderer, at det er usandsynligt, at et sådant katastrofescenarie bliver til virkelighed allerede inden udgangen af dette årti.
Vil have mulighed for at bremse udviklingen
Ifølge Coxon er den hårde konkurrence mellem AI-virksomhederne en væsentlig årsag til, at udviklingen fortsætter så hurtigt.
Bekymringen rækker samtidig ud over de to forskere.
Mere end 1.000 AI-forskere har ifølge Wall Street Journal underskrevet en erklæring, der opfordrer til et globalt system, som kan gribe ind, hvis fremtidige AI-systemer bliver i stand til at forbedre sig selv uden menneskelig kontrol.
Coxon har nu forladt Anthropic. Hans advarsel om, hvor udviklingen kan ende, er til gengæld svær at overse.
