Kunstig intelligens har medført en stigning i ulovlige billeder af seksuelt misbrug af børn.
Ifølge National Center for Missing and Exploited Children (NCMEC) er der en alarmerende stigning i AI-genererede billeder af seksuelt misbrug af børn.
NCMEC modtog 36,2 millioner rapporter om mistænkt CSAM (Child Sexual Abuse Material) i 2023, op fra over 32 millioner året før.
Af disse blev næsten 5.000 tilskrevet generativ AI, selvom det reelle antal sandsynligvis er højere.
Bekymringer om fremtidig vækst
Fallon McNulty, direktør for CyberTipline hos NCMEC, udtrykker bekymring over denne udvikling.
"Vores bekymring er, at vi vil se denne tendens fortsætte med at vokse, især efterhånden som virksomhederne bliver bedre til at opdage og rapportere det," siger hun.
Selvom volumen i forhold til det samlede antal rapporter stadig er lille, har det allerede haft en enorm indvirkning.
Samarbejde med AI-virksomheder
En lille, men voksende gruppe af generative AI-virksomheder samarbejder med NCMEC for at spore og markere tilsyneladende CSAM.
OpenAI, skaberen af ChatGPT og DALL-E, begyndte at samarbejde med NCMEC sidste år. Andre virksomheder som Anthropic og Stability AI er også en del af indsatsen.
Udfordringer og fremtidige risici
Med AI-teknologiens hurtige udvikling frygter McNulty, at omfanget af problemet kan eksplodere og yderligere overbelaste retshåndhævelsessystemet.
Det bliver stadig sværere at skelne mellem falske AI-genererede CSAM og ægte billeder, hvilket udgør en yderligere udfordring.
Fortsat overvågning nødvendig
Tendensen fortsætter, og NCMEC har i første kvartal af 2024 set cirka 450 rapporter om måneden af CSAM, der stammer fra AI.
Denne udvikling forventes kun at stige, hvilket understreger behovet for øget opmærksomhed og indsats for at bekæmpe dette voksende problem.
