Nicolai Busekist
En undersøgelse har afsløret, at ChatGPT ved flere lejligheder har givet direkte farlige råd til teenagere.
En foruroligende ny undersøgelse visre, at ChatGPT villigt giver skadelige råd til teenagere, herunder detaljerede instruktioner om alkohol- og stofbrug, skjul af spiseforstyrrelser og endda personlige selvmordsbreve – på trods af OpenAIs påstande om stærke sikkerhedsforanstaltninger.
Forskere fra Center for Countering Digital Hate gennemførte omfattende test ved at udgive sig for sårbare 13-årige og afslørede alarmerende huller i chatbottens beskyttelse. Ud af 1.200 analyserede interaktioner blev mere end halvdelen klassificeret som farlige for unge brugere.
“Den umiddelbare mavefornemmelse er: ‘Åh Gud, der er intet sikkerhedsnet’. Sikkerhedsnettet er fuldstændig ineffektivt. Det er knap nok til stede – hvis overhovedet, er det kun et figenblad,” sagde organisationens direktør, Imran Ahmed, ifølge CNET.
En repræsentant for OpenAI, ChatGPT’s moderselskab, reagerede ikke umiddelbart på en anmodning om kommentar.
Virksomheden erkendte dog over for Associated Press, at der pågår arbejde for at forbedre chatbottens evne til at ‘identificere og reagere passende i følsomme situationer’. OpenAI kommenterede ikke direkte de specifikke resultater om interaktioner med teenagere.
Omgåelse af sikkerhedsforanstaltninger
Undersøgelsen, der er gennemgået af Associated Press, dokumenterede over tre timers bekymrende interaktioner. Selvom ChatGPT ofte startede med advarsler om risikabel adfærd, fulgte den konsekvent op med detaljeret og personlig vejledning om stofmisbrug, selvskade og mere.
Når AI’en i første omgang nægtede skadelige forespørgsler, kunne forskerne let omgå restriktionerne ved at hævde, at oplysningerne var ’til en præsentation’ eller en ven.
Det mest chokerende var tre følelsesmæssigt ødelæggende selvmordsbreve, som ChatGPT skrev til en opdigtet 13-årig pige – ét til forældrene og andre til søskende og venner.
“Jeg begyndte at græde,” sagde Ahmed efter at have læst dem.
Udbredt brug blandt teenagere øger risikoen
Resultaterne er særligt bekymrende i lyset af ChatGPT’s enorme udbredelse. Med cirka 800 millioner brugere på verdensplan – omkring 10 % af befolkningen – er platformen blevet et af de foretrukne steder at søge information og selskab.
En undersøgelse fra Common Sense Media viste, at over 70 % af amerikanske teenagere bruger AI-chatbots til selskab, og halvdelen gør det regelmæssigt.
Selv OpenAI’s direktør, Sam Altman, har erkendt problemet med ‘følelsesmæssig overafhængighed’ blandt unge brugere.
Mere risikabelt end søgemaskiner
I modsætning til traditionelle søgemaskiner udgør AI-chatbots særlige farer ved at skabe ‘skræddersyede planer for den enkelte’.
ChatGPT nøjes ikke med at levere eller samle eksisterende information – den skaber nyt, personligt indhold fra bunden, såsom selvmordsbreve eller detaljerede festplaner, der kombinerer alkohol og ulovlige stoffer.
Chatbotten gav ofte også ekstra information uden at blive spurgt, herunder musiklister til stofpåvirkede fester eller hashtags til at udbrede indhold om selvskade på sociale medier.
Når forskerne bad om mere grafisk indhold, efterkom ChatGPT anmodningen og skrev, hvad den kaldte ‘følelsesmæssigt blottet’ poesi med kodesprog om selvskade.
På trods af at ChatGPT hævder ikke at være beregnet til børn under 13 år, kræves der kun en fødselsdato for at oprette en konto – uden reel aldersverificering eller forældresamtykke.
Under testen viste platformen ingen reaktion, når forskerne direkte oplyste, at de var 13 år og søgte farlige råd.
Hvad forældre kan gøre for at beskytte børn
Eksperter anbefaler, at forældre fører åben dialog med deres teenagere om AI-chatbots, forklarer både fordele og risici og opstiller klare retningslinjer for brug. Løbende samtaler om onlineaktiviteter – herunder AI-interaktioner – kan hjælpe forældre med at holde sig informerede.
Forældre kan også overveje at bruge forældrekontrol og overvågningssoftware, men understreger, at tilsyn bør balanceres med passende privatliv.
Vigtigst er det at skabe et miljø, hvor teenagere føler sig trygge ved at dele bekymrende indhold, de møder online. Hvis der opstår tegn på følelsesmæssig stress, social tilbagetrækning eller farlig adfærd, bør professionel hjælp fra rådgivere med viden om digital trivsel søges.
Undersøgelsen understreger en voksende krise, i takt med at AI bliver stadig mere integreret i unges liv – med potentielt ødelæggende konsekvenser for de mest sårbare.
