En 24-årig asiatisk MIT-studerende, Rona Wang, blev overrasket, da hun brugte et kunstig intelligens-værktøj til at redigere sit LinkedIn-profilbillede for at gøre det mere professionelt.
Billedgeneratoren, kendt som Playground AI, viste sig at være forudindtaget, idet den ændrede hendes race og gjorde hende til det, hun betegnede som "kaukasisk" med blå øjne, lysere hud og fregner. Det oprindelige billede viste Wang iført en MIT-skjorte og stående foran den samme baggrund, men resultatet af AI-genereringen fik hende til at ligne en helt anden person.
Efter at have set de bizarre resultater delte Wang sin oplevelse på Twitter og skrev, "Forsøgte at få et LinkedIn-profilbillede med AI-redigering, og dette er, hvad det gav mig." Hendes indlæg fik opmærksomhed fra forskellige onlinefællesskaber og rejste spørgsmål omkring forudindtagethed og racisme i AI-algoritmer.
Playground AI's grundlægger, Suhail Doshi, reagerede på Wangs tweet og bekræftede, at deres modeller ikke er instruerbare på den måde, hvor de blot vælger en generisk tilgang baseret på prompten. Dette førte til en utilsigtet ændring af Wangs udseende og illustrerer en af de udfordringer, som AI-udviklere står over for i deres bestræbelser på at opnå præcis billedredigering.
Selvom Doshi forsikrede om, at virksomheden arbejder på at løse dette problem, rejser episoden spørgsmålet om, hvorvidt der er et dybere problem med forudindtagethed i AI-algoritmer, der skal adresseres. Det er ikke første gang, at kunstig intelligens er blevet beskyldt for at være forudindtaget og fremvise stereotyper baseret på race, køn eller andre identitetsaspekter.
Den seneste oplevelse af Rona Wang har fremhævet, at selvom AI-teknologien har mange positive anvendelser, skal der stadig arbejdes for at sikre, at den ikke forstærker diskriminerende tendenser i samfundet. Gennemsigtighed, etisk overvågning og et dedikeret fokus på mangfoldighed i udviklingen af kunstig intelligens kan være vejen frem for at skabe mere retfærdige og inkluderende teknologiske løsninger.
Herunder kan du se hvad AI gjorde ved Ronas billede.
