Mikkel Christensen
Fra manipulation og social scoring til bøder på milliarder – her er de vigtigste og mest presserende regler under EU’s AI Act, du bør kende i 2025.
1. Forbud mod AI med “uacceptabel risiko”
EU’s AI Act trådte i kraft den 2. februar 2025 med de første regler, der direkte forbyder bestemte typer kunstig intelligens. AI-systemer, der manipulerer mennesker, overvåger borgere i realtid eller bruger social scoring, er nu ulovlige i hele EU. Målet er at beskytte borgernes rettigheder og genskabe tilliden til teknologien.
2. Skærpede krav til “high-risk” systemer
Systemer, der anvendes i sundhed, transport, uddannelse, arbejdsmarkedet og retssystemet, er nu klassificeret som “high-risk”. Disse skal gennemgå omfattende risikovurderinger, dokumentere datakilder og kunne overvåges af mennesker. Kun godkendte udbydere får lov til at operere i EU.
3. Transparenskrav for lavrisiko-AI
Selv lavrisiko-systemer som chatbots og billedfiltre får nye krav. Brugere skal tydeligt informeres, når de kommunikerer med en AI, og systemerne skal forklare, hvordan de fungerer, og hvilke begrænsninger de har. Det skal forhindre, at AI bruges til at vildlede eller manipulere.
4. EU’s nye AI-tilsyn etableres
Fra den 2. august 2025 får EU sit eget AI Office og AI Board. Disse organer skal føre tilsyn med implementeringen af loven, koordinere nationale myndigheder og sikre ens håndhævelse på tværs af medlemslandene. Hvert land får desuden sit eget kontrolorgan, der skal overvåge markedet.
5. Milliardbøder ved overtrædelser
Overtrædelser af AI Act kan koste dyrt. Virksomheder risikerer bøder på op til 35 millioner euro eller 7 % af deres globale omsætning – alt efter hvad der er højest. EU ønsker at sende et klart signal: misbrug af AI vil blive straffet hårdt.
6. Forbudte AI-praksisser
Loven indeholder en liste over forbudte anvendelser af kunstig intelligens. Blandt de mest markante er skjult manipulation, udnyttelse af børn og sårbare personer, emotionel overvågning på arbejdspladsen og biometrisk identifikation i realtid på offentlige steder. Disse praksisser skal fjernes fuldstændigt fra EU-markedet.
7. Krav om markering af AI-genereret indhold
Generative AI-systemer som tekst-, billede- og videoværktøjer skal fremover markere deres output som kunstigt skabt. Det såkaldte “watermarking”-krav skal hjælpe med at afsløre deepfakes og forhindre spredning af misinformation på sociale medier.
8. Udfordringer og uklarheder i praksis
Selvom loven nu gælder, mangler mange tekniske standarder stadig at blive defineret. Eksperter peger på, at forskellige EU-lande kan tolke reglerne forskelligt, hvilket skaber usikkerhed for virksomheder. EU lover dog, at loven løbende vil blive tilpasset efter erfaringerne i 2025 og 2026.
