Mikkel Christensen
OpenAI har taget et nyt skridt for at begrænse unges adgang til ChatGPT.
OpenAI har taget et nyt skridt for at begrænse unges adgang til ChatGPT. En ny aldersforudsigende teknologi skal vurdere, om brugere sandsynligvis er teenagere, og derefter automatisk begrænse adgangen til visse funktioner og indhold.
Tiltaget markerer et skift i måden, kunstig intelligens reguleres på. I stedet for kun at stole på selvangivne oplysninger forsøger OpenAI nu aktivt at vurdere brugernes alder gennem adfærd og brugsmønstre.
Fra selvoplysning til algoritmisk vurdering
Tidligere har brugere selv angivet deres alder ved oprettelse af konto. Den metode har længe været kritiseret for at være let at omgå, især blandt unge.
Med den nye løsning analyserer systemet blandt andet sproglige mønstre og interaktioner for at vurdere, om en bruger sandsynligvis er under 18 år. Hvis systemet vurderer, at brugeren er en teenager, aktiveres strengere begrænsninger automatisk.
Et svar på politisk og offentlig kritik
Beslutningen kommer i kølvandet på stigende pres fra politikere, forældre og eksperter. Bekymringen handler især om, hvordan generativ AI påvirker unges mentale sundhed, læring og eksponering for upassende indhold.
OpenAI forsøger med tiltaget at vise, at virksomheden tager ansvar og arbejder proaktivt med sikkerhed. Det kan ses som et forsøg på at foregribe strengere regulering fra myndighederne.
Risiko for fejl og gråzoner
Aldersforudsigelse via algoritmer er dog ikke uden problemer. Systemer kan tage fejl og risikerer både at fejlklassificere voksne som unge og omvendt.
Det rejser spørgsmål om retssikkerhed, gennemsigtighed og brugernes mulighed for at klage. Samtidig kan teknologien føre til debat om overvågning og privatliv, når brugeradfærd analyseres tættere.
En ny standard for AI-platforme
Hvis modellen viser sig effektiv, kan den få betydning langt ud over ChatGPT. Andre platforme kan blive presset til at indføre lignende løsninger for at beskytte unge brugere.
Det kan markere begyndelsen på en ny standard, hvor alderskontrol i stigende grad håndteres automatisk og usynligt for brugerne.
Balance mellem beskyttelse og frihed
For OpenAI handler udfordringen om at finde balancen mellem beskyttelse af unge og fri adgang til teknologi. For stramme begrænsninger kan hæmme læring, mens for løse rammer kan skabe reelle risici.
Den nye alderskontrol viser, at kampen om ansvarlig AI ikke længere kun handler om teknologi, men også om etik, tillid og samfundsansvar.
Kilder: Decrypt
