Efter flere kontroverser: Nu indfører Grok ny begrænsning

Elon Musks sociale medie X har begrænset brugen af AI-værktøjet Grok til redigering af billeder til betalende brugere. Det kommer i kølvandet på en række anmeldelser om oprettelse af seksualiserede billeder uden samtykke.

“Enhver, der bruger Grok til at skabe ulovligt indhold, vil blive mødt af konsekvenser,” skrev Elon Musk i et opslag på X ifølge Tech ao Minuto.

Grok er et gratis værktøj, der bl.a. gjorde det muligt for brugere at uploade og redigere fotos. Det blev brugt til at imødekomme anmodninger om at redigere billeder af personer og vise dem uden tøj, hvilket udløste en kraftig bølge af anmeldelser og klager.

Ifølge det spanske nyhedsbureau EFE oplyser Grok nu til brugere, der beder om at få ændret billeder, der er uploadet til X, at ‘generering og redigering af billeder er begrænset til betalende abonnenter’, og at man kun med betaling kan få adgang til disse funktioner på eget ansvar.

Det betyder, at brugerens navn og betalingsoplysninger vil være knyttet til det ændrede billede, uanset hvilken type billede der er tale om.

Flere regeringer verden over har i de seneste dage betegnet oprettelsen af seksualiserede billeder af børn og kvinder via AI-værktøjet som ‘frastødende’ og har annonceret både tiltag og mulige sanktioner.

EU-Kommissionen har blandt andet udtalt, at denne beslutning ikke ændrer dens fordømmelse af de billeder, der allerede er blevet skabt.

“Vi har noteret os de seneste ændringer, som X har annonceret for Grok,” udtalte EU-Kommissionens digitale politiske talsmand Thomas Regnier på institutionens daglige pressemøde.

“I virkeligheden ændrer det ikke vores grundlæggende problem at begrænse billedegenerering og -redigering til betalende abonnenter: Uanset om brugerne betaler eller ej, ønsker vi ikke at se disse billeder. Det er så enkelt.”

Talsmanden sagde tidligere på ugen, at genereringen af falske billeder af nøgne kvinder og mindreårige med Grok er ‘ulovligt, horribel tog frastødende’.

Han meddelte samtidig, at EU-kommissionen har pålagt virksomheden at gemme al intern dokumentation om AI-værktøjet for at kunne analysere de tiltag, som X træffer for at bekæmpe denne type indhold.

Bruxelles har fortsat en undersøgelse åben mod X om, hvordan virksomhedens algoritmer fungerer, hvilket i sidste ende kan føre til, at Kommissionen forbyder Grok i EU. Det er dog værd at nævne, at Regnier torsdag afviste denne mulighed.

Også en talsmand for den britiske premierminister har udtalt, at den nye foranstaltning ‘blot gør en funktion, der muliggør oprettelsen af ulovlige billeder, til en betalt tjeneste’ og udgør ”’n fornærmelse mod ofrene for kvindehad og seksuel vold’.