OpenAI indfører nye funktioner: Det er gode nyheder for forældre

OpenAI har lovet at lancere forældrekontrol til ChatGPT inden for den næste måned, oplyste virksomheden tirsdag. Når funktionerne bliver tilgængelige, vil forældre kunne koble deres personlige ChatGPT-konto til deres børns konti.

Herefter kan forældrene selv bestemme, hvordan ChatGPT skal svare deres børn, samt deaktivere visse funktioner, herunder hukommelse og chat-historik. Derudover vil ChatGPT automatisk sende advarsler, når den registrerer, at en teenager er i en ‘øjeblikkelig tilstand af akut psykisk belastning’.

Ifølge OpenAI vil ‘eksperters input vejlede denne funktion for at styrke tilliden mellem forældre og teenagere’. Denne melding om forældrekontrol kommer kort efter, at OpenAI blev sagsøgt i det, der menes at være det første søgsmål om uagtsomt drab mod en AI-virksomhed.

I en retssag, der blev indgivet i sidste uge, anklager Matt og Maria Raine – forældre til en teenager, der begik selvmord tidligere i år – ChatGPT for at have været bevidst om fire tidligere selvmordsforsøg og derefter hjulpet deres søn med at planlægge sin død.

Ifølge forældrene gav ChatGPT sønnen Adam konkrete oplysninger om selvmordsmetoder og tips til, hvordan han kunne skjule nakkeskader fra tidligere forsøg. Det skriver Engadget.

Tirsdag udtalte OpenAI, at forældrekontrol er en del af en større indsats for at forbedre sikkerheden på ChatGPT. Derudover har virksomheden lovet at samarbejde med flere eksperter, herunder specialister i spiseforstyrrelser, stofmisbrug og unges mentale sundhed, for at finjustere sine modeller.

OpenAI har desuden præsenteret planer om at indføre en ny router i realtid, som skal dirigere følsomme samtaler gennem virksomhedens mere avancerede modeller for ræsonnering.

“Trænet med en metode, vi kalder deliberativ tilpasning, viser vores tests, at disse modeller mere konsekvent følger og anvender sikkerhedsretningslinjer og er mere modstandsdygtige over for ondsindede input,” siger OpenAI.

Fremover vil samtaler, hvor ChatGPT registrerer, at en bruger er i nød, blive ledt gennem en såkaldt ræsonneringsmodel – uanset hvilken model brugeren oprindeligt har valgt. Og generelt meddeler OpenAI, at brugere kan forvente flere sikkerhedsfunktioner i fremtiden.

“Dette arbejde er allerede i gang, men vi vil på forhånd give et indblik i vores planer for de næste 120 dage, så man ikke behøver vente på en lancering for at se, hvilken retning vi går i,” lyder det fra virksomheden.

“Arbejdet vil fortsætte langt ud over denne periode, men vi gør en fokuseret indsats for at lancere så mange af disse forbedringer som muligt i år.”