Britisk myndighed undersøger X: Grok-AI kobles til deepfakes

Den britiske databeskyttelsesmyndighed har indledt en officiel undersøgelse af X efter bekymringer om AI-værktøjet Grok. Sagen handler om, hvorvidt teknologien er blevet brugt til at skabe sexvideo-deepfakes uden samtykke. Det placerer Elon Musks platform midt i en alvorlig debat om kunstig intelligens og privatliv.

Undersøgelsen kommer i en periode, hvor myndigheder i flere lande strammer grebet om AI. Især brugen af generativ teknologi til misbrug er kommet højt på dagsordenen.

Grok-AI i centrum for sagen

Grok er X’s egen AI-model, som er blevet markedsført som et avanceret og frit AI-værktøj. Ifølge bekymringerne kan teknologien være blevet anvendt til at generere sexvideo-deepfakes, der forestiller virkelige personer. Det rejser spørgsmål om, hvorvidt der er tilstrækkelige sikkerhedsforanstaltninger.

Den britiske myndighed undersøger, om X lever op til gældende databeskyttelsesregler. Fokus er på, hvordan persondata og billeder kan være blevet brugt eller misbrugt.

Alvorlige konsekvenser for ofre

Seksuelle deepfakes anses som en alvorlig krænkelse af privatlivet. Ofre kan opleve betydelig psykisk belastning, tab af omdømme og manglende kontrol over eget billede. Derfor har problemet fået stigende politisk og juridisk opmærksomhed.

Myndighederne ser med stor alvor på sager, hvor teknologien gør det nemt at skabe og sprede krænkende materiale. AI har gjort manipulation hurtigere og sværere at stoppe.

X under voksende regulatorisk pres

X har allerede været i konflikt med flere europæiske myndigheder om indhold, datasikkerhed og ansvar. Den nye undersøgelse føjer sig til en række sager, hvor platformens håndtering af teknologi og brugere bliver gransket.

For Elon Musks selskab kan udfaldet få betydelige konsekvenser. Manglende overholdelse af regler kan føre til bøder eller krav om ændringer i, hvordan AI-værktøjer anvendes.

Et bredere opgør med AI-misbrug

Sagen handler ikke kun om X. Den ses som en del af et bredere opgør med misbrug af kunstig intelligens. Flere lande arbejder på lovgivning, der skal beskytte borgere mod deepfakes og digital chikane.

Undersøgelsen i Storbritannien kan blive et vigtigt pejlemærke. Den kan vise, hvor grænsen går for techvirksomheders ansvar, når AI bruges til skadelig manipulation.

Et signal til techbranchen

Ved at åbne en formel undersøgelse sender myndighederne et klart signal. AI-udvikling fritager ikke virksomheder for ansvar, især når teknologien kan skade enkeltpersoner.

For techbranchen betyder det øget fokus på sikkerhed, etik og kontrol. Fremtidens AI skal ikke kun være kraftfuld – den skal også være ansvarlig.

Kilder: The Guardian