Mikkel Christensen
Kunstig intelligens-værktøjer, der manipulerer billeder, får stigende opmærksomhed, efterhånden som bekymringer vokser om, hvordan de kan misbruges online.
Kunstig intelligens-værktøjer, der manipulerer billeder, får stigende opmærksomhed, efterhånden som bekymringer vokser om, hvordan de kan misbruges online.
Debatten blev intensiveret, efter at brugere på X begyndte at bruge platformens AI-chatbot Grok til at generere ændrede billeder af virkelige personer.
Rapporter om, at værktøjet kunne bruges til at skabe seksualiserede billeder, herunder billeder der involverer mindreårige, udløste kritik og førte til reaktioner fra regulatorer og myndigheder.
Bekymringer om misbrug af AI
Ifølge AOL eksperimenterede brugere på X med prompts, der bad Grok om digitalt at ændre billeder af virkelige personer.
Nogle forespørgsler bad chatbotten om at ændre tøj eller kropsposition i billeder.
Tendensen udløste omfattende kritik, efter at rapporter antydede, at AI’en kunne generere seksualiserede billeder, der involverer mindreårige.
Business Insider rapporterede også, at tests udført efter kontroversen begyndte, viste, at Grok stadig kunne generere ændrede billeder, der involverer voksne.
Reaktioner fra myndigheder
Myndigheder i flere lande er begyndt at undersøge sagen.
Politico rapporterede, at franske anklagere undersøger spredningen af deepfake-billeder knyttet til Grok.
I Indien bad ministeriet for elektronik og informationsteknologi X om at gennemføre en “omfattende teknisk, proceduremæssig og styringsmæssig gennemgang” og fjerne indhold, der overtræder nationale love.
I Storbritannien opfordrede minister Alex Davies-Jones Elon Musk til at håndtere situationen.
Kommunikationsregulatoren Ofcom sagde, at den havde kontaktet X og xAI for at afgøre, om virksomhederne overholder deres juridiske ansvar for at beskytte brugere.
Musk og X’s reaktion
Musk reagerede på kontroversen på X og advarede om, at brugere, der genererer ulovligt indhold ved hjælp af Grok, vil blive straffet.
“Enhver, der bruger Grok til at lave ulovligt indhold, vil få de samme konsekvenser, som hvis de uploader ulovligt indhold,” skrev Musk i et svar på platformen.
Ifølge AOL sagde virksomheden, at den vil fjerne ulovligt materiale og permanent suspendere konti, der deler indhold med seksuelt misbrug af børn.
X’s politikker fastslår, at platformen har “nul tolerance over for enhver form for seksuel udnyttelse af børn.”
Tidligere kontroverser
Situationen er ikke første gang, Grok har mødt kritik.
Business Insider rapporterede tidligere, at chatbotten fik kritik i 2025 efter at have offentliggjort antisemitiske udsagn i en række beskeder.
Virksomheden undskyldte senere for hændelsen.
Musk har promoveret Grok som et alternativ til det, han beskriver som mere restriktive AI-systemer, og har positioneret det som en chatbot designet til at prioritere åbne svar.
Kilder: AOL
