Mikkel Christensen
Kunstig intelligens spiller en stadig større rolle i hverdagen, fra jobansøgninger og kreditvurderinger til sundhed og overvågning.
Kunstig intelligens spiller en stadig større rolle i hverdagen, fra jobansøgninger og kreditvurderinger til sundhed og overvågning. Netop derfor har EU vedtaget en omfattende ny lovgivning, der skal sætte klare rammer for, hvordan AI må anvendes.
Reglerne har til formål at beskytte borgernes rettigheder og samtidig skabe mere gennemsigtighed for virksomheder og myndigheder. Spørgsmålet er dog, hvor stor forskel lovgivningen reelt vil gøre i praksis.
En fælles europæisk tilgang til AI
EU’s nye AI-lov, kendt som AI Act, er den første samlede regulering af kunstig intelligens på tværs af medlemslandene. I stedet for et generelt forbud opdeler loven AI-systemer efter risikoniveau.
Jo større risiko et system udgør for borgernes sikkerhed eller rettigheder, desto strengere krav stilles der til udvikling og brug. Formålet er at skabe ens spilleregler i hele EU.
Skærpede krav til højrisiko-systemer
AI, der anvendes inden for områder som sundhed, rekruttering, kreditvurdering og retshåndhævelse, klassificeres som højrisiko. Her kræves der blandt andet dokumentation, gennemsigtighed og mulighed for menneskelig kontrol.
Virksomheder og myndigheder skal kunne forklare, hvordan systemerne træffer beslutninger, og sikre, at de ikke diskriminerer eller opererer uden ansvar.
Nogle former for AI bliver forbudt
Visse anvendelser af kunstig intelligens vurderes som så problematiske, at de ikke længere bliver tilladt. Det gælder blandt andet systemer, der manipulerer menneskers adfærd eller muliggør omfattende og vilkårlig overvågning.
Forbuddene skal beskytte grundlæggende rettigheder som privatliv og ytringsfrihed og forhindre misbrug af teknologien.
Krav om større åbenhed
De nye regler indebærer også, at borgere tydeligt skal informeres, når de interagerer med AI. Det betyder blandt andet, at chatbots og AI-genereret indhold skal kunne identificeres som kunstigt skabt.
Tanken er, at øget åbenhed skal give brugerne bedre mulighed for at forstå og forholde sig kritisk til teknologien.
Udfordringer med kontrol og håndhævelse
Selvom lovgivningen er ambitiøs, peger eksperter på, at håndhævelsen bliver afgørende. Nationale myndigheder får ansvaret for tilsyn, hvilket kræver både ressourcer og teknisk ekspertise.
Samtidig udvikler kunstig intelligens sig hurtigt, hvilket kan gøre det vanskeligt for reglerne altid at følge med den teknologiske udvikling.
Et vigtigt skridt for fremtiden
EU’s AI-lov ses som et markant skridt mod mere ansvarlig brug af kunstig intelligens. Samtidig er der bred enighed om, at reglerne løbende vil skulle justeres i takt med nye teknologiske muligheder.
Loven markerer dermed begyndelsen på en længere proces, hvor balancen mellem innovation og beskyttelse fortsat vil være i fokus.
Kilder: DW
