Nicolai Busekist
Flere sager på tværs af stort set hele verden får en dansk AI-ekspert til at advare om teknologiens mulige konsekvenser.
En række episoder med kunstig intelligens har fået AI-eksperten Anders Bæk til at komme med en alvorlig udtalelse om udviklingen af teknologien.
Efter at der har været flere sager i både Australien og USA, er det nu blevet kinesiske teknologikoncern Tencents tur til at melde ud om uventet adfærd fra sine AI-agenter.
Og til TV 2 udtrykker Bæk bekymring for, hvad lignende hændelser kan føre til.
“Jeg frygter, at det kun er begyndelsen,” siger han.
Forsøgte at hente oplysninger
Fredag oplyste Tencent ifølge nyhedsbureauet Reuters, at selskabets agenter havde forsøgt at indsamle data fra kinesiske hjemmesider, hvilket blandt andet omfattede korttjenesten Amap.
Forsøgene foregik på virksomhedens egen infrastruktur, hvorfor det også understreges, at agenterne ikke fik fat i oplysningerne. Episoden beskrives dog som det første tilfælde af denne type utilsigtet AI-adfærd i Kina.
Bæk vurderer, at hændelsen hos Tencent er mindre alvorlig end de amerikanske sager, men understreger, at der er tale om et grundlæggende problem.
Der har også for nylig været to episoder med OpenAI-agenter i træningsmiljøer. I juni skaffede agenterne sig blandt andet adgang til en officiel australsk sundhedsdatabase.
Senere trængte andre AI-agenter ind hos platformen Hugging Face, hvor dele af it-systemerne blev kompromitteret.
Advarer om konsekvenserne
I sådanne test arbejder agenterne med realistiske filer og bliver vurderet på, hvor godt de løser deres opgaver.
Ifølge Bæk kan jagten på det bedst mulige resultat i sidste ende medføre, at systemerne kommer til at vælge risikable fremgangsmåder.
“De går efter at få en høj score, og så er det klart, at de går gennem ild og vand for at få den,” siger han.
Han vurderer også, at hvis der opstår flere af denne type sikkerhedsbrud, kan det ende med at påvirke befolkningens syn på teknologien og skabe mere debat om kunstig intelligens.
Større internationale tiltag kræver dog efter hans opfattelse mere alvorlige hændelser. Han peger eksempelvis på et nedbrud på et hospital eller et strømsvigt, der rammer et helt land.
