ChatGPT indfører alderskontrol: Sådan kommer det til at fungere

ChatGPT ruller nu et system for alderskontrol ud, som skal beskytte mindreårige mod potentielt skadeligt indhold. Hvis tjenesten vurderer, at en bruger kan være under 18 år, bliver der automatisk lagt ekstra begrænsninger på kontoen. Det skriver Bright.

Baggrunden er, at chatbots som ChatGPT kan give adgang til information, der ikke egner sig til børn og unge. Det kan blandt andet være indhold om selvskade, farlige udfordringer eller svar, der fremmer usunde kropsidealer. Med den nye alderskontrol forsøger OpenAI at reducere denne risiko.

Hvis ChatGPT vurderer, at en bruger er mindreårig, aktiveres et ekstra beskyttelseslag. Det betyder, at mængden af følsomt indhold bliver reduceret markant.

Ifølge mediet iPhoned gælder det blandt andet information om farlige virale challenges samt indhold, der kan opfordre til ekstrem slankekur, body shaming eller andre usunde adfærdsmønstre. Seksuelle, romantiske og voldelige rollespil bliver ligeledes blokeret, ligesom grafisk eller blodigt indhold.

Vurderingen af brugerens alder sker automatisk og bygger på flere faktorer. Systemet ser blandt andet på, hvor længe en konto har eksisteret, hvilken alder brugeren selv har oplyst, og på hvilke tidspunkter af døgnet tjenesten bliver brugt.

Metoden er dog ikke fejlfri. Hvis modellen er i tvivl, vælger den ifølge mediet at behandle brugeren som mindreårig for at være på den sikre side.

Det betyder, at også voksne brugere kan risikere at få begrænset deres konto. I de tilfælde er der dog mulighed for at bevise, at man er over 18 år. Det sker via kontoindstillingerne i ChatGPT, hvor man kan se, hvorvidt der er lagt restriktioner på kontoen.

Her kan brugeren vælge at gennemføre en aldersverifikation gennem Persona. Processen indebærer, at man uploader et selfie, som tjenesten bruger til at bekræfte, at brugeren er voksen. Når alderen er verificeret, fjernes begrænsningerne, og alle funktioner bliver igen tilgængelige.

Ifølge iPhoned vil modellen, der afgør brugerens alder, løbende blive forbedret i takt med, at der indsamles mere data. Funktionen bliver i de kommende uger rullet ud i EU for at leve op til gældende regulering, mens funktionen allerede er ved at blive indført i resten af verden.