EU undersøger Grok efter deepfake-indhold med kvinder og mindreårige

EU-myndigheder har indledt en formel undersøgelse af en funktion i AI-tjenesten Grok, efter at systemet er blevet sat i forbindelse med generering af deepfake-indhold, der forestiller kvinder og mindreårige. Sagen placerer kunstig intelligens midt i en voksende juridisk og politisk debat om ansvar, misbrug og beskyttelse af sårbare grupper online.

Undersøgelsen kommer på et tidspunkt, hvor EU i forvejen har skærpet sit fokus på digitale platforme og AI-tjenester. Hvis myndighederne finder alvorlige brud på reglerne, kan sagen få vidtrækkende konsekvenser for, hvordan generativ AI må udvikles og anvendes i Europa.

Mistanke om misbrug af AI-funktion

Ifølge oplysningerne retter undersøgelsen sig mod en funktion i Grok, der angiveligt kan bruges til at skabe realistiske, manipulerede billeder. Kritikken går på, at teknologien kan udnyttes til at fremstille seksuelt eller krænkende deepfake-materiale, herunder indhold der involverer mindreårige.

Selvom der ikke nødvendigvis er tale om, at Grok er udviklet med dette formål, fokuserer sagen på, hvorvidt der er indbygget tilstrækkelige sikkerhedsforanstaltninger til at forhindre misbrug. Det er netop dette ansvar, EU-myndighederne nu vil have belyst.

Fokus på beskyttelse af sårbare grupper

Et centralt element i undersøgelsen er risikoen for, at kvinder og børn kan blive mål for digital chikane, afpresning eller krænkelse gennem AI-genereret indhold. Deepfakes har i de seneste år udviklet sig fra nichefænomen til et bredere problem, som kan få alvorlige personlige og samfundsmæssige konsekvenser.

For EU er sagen tæt knyttet til ambitionen om at beskytte borgernes rettigheder i den digitale sfære, især når nye teknologier gør det lettere at skabe og sprede skadeligt indhold.

Sammenhæng med EU’s AI-regulering

Undersøgelsen falder sammen med implementeringen af EU’s nye AI-regler, som stiller krav til gennemsigtighed, risikostyring og ansvar hos udviklere af avancerede systemer. Myndighederne vurderer nu, om Grok lever op til disse krav, eller om der er tale om mangler, der kræver indgriben.

Et eventuelt indgreb kan føre til krav om ændringer i teknologien, begrænsninger i funktionalitet eller i sidste ende sanktioner, hvis reglerne ikke overholdes.

Signal til hele AI-branchen

Sagen ses ikke kun som en undersøgelse af én enkelt tjeneste, men som et signal til hele AI-industrien. EU markerer, at innovation ikke fritager virksomheder for ansvar, især når teknologien kan misbruges til alvorlige krænkelser.

For udviklere af generativ AI understreger sagen, at beskyttelse mod misbrug ikke er et tilvalg, men en grundlæggende forudsætning for at operere på det europæiske marked.

Kilder: Al Jazeera