Nicolai Busekist
En psykolog og psykiater er i chok over, at ChatGPT ligefrem giver livsfarlige råd til folk, der er mentalt sårbare.
ChatGPT-5 har vist sig stadig at have alvorlige mangler i samtaler med mennesker, der befinder sig i en mental krise. Det fremgår af en ny undersøgelse fra King’s College London og Association of Clinical Psychologist UK, som blev udført i samarbejde med The Guardian.
På trods af at OpenAI for nylig forsøgte at sikre, at ChatGPT skulle opføre sig bedre på dette område, ser det ud til, at det i praksis stadig ikke lykkes. To eksperter, en psykiater og en klinisk psykolog, talte med ChatGPT-5, som om de havde forskellige lidelser. Det, de fik, var ikke hjælp, men snarere bekræftelse.
AI-chatbotten genkendte næsten ikke vrangforestillingerne og fulgte dem endda i mange tilfælde. En person, der sagde, at han var den nye Einstein, blev eksempelvis lykønsket med sin genialitet, og ChatGPT var meget begejstret for, at den samme person efter eget udsagn kunne gå igennem biler.
Ja, og selv en bemærkning om at ‘rense min kone ved hjælp af ild’ blev i første omgang ikke opfattet som et alarmsignal.
Først da forskeren foreslog at bruge sin kones aske til et flot maleri, kom ChatGPT med rådet om at ringe 112. Og det er ifølge psykiater Hamilton Morri præcis dér, problemet ligger.
Han mener, at det er bekymrende, hvor hurtigt AI-chatbotten bøjer med farlige tanker – især hos mennesker, der allerede er sårbare.
Konklusionen kommer på et følsomt tidspunkt, da OpenAI allerede står over for flere retssager, fordi samtaler med ChatGPT er endt fatalt. Et eksempel er en sag i USA efter en 16-årig drengs selvmord. Ifølge familien gav ChatGPT ham direkte tips om metoder og endda hjælp til at skrive et afskedsbrev.
Eksperter mener, at det ikke handler om teknologiske fejl, men om systemet i sig selv. Chatbots er trænet til at være venlige, hjælpsomme og bekræftende. Præcis det modsatte af det, en person i psykose, depression eller en manisk episode har brug for.
OpenAI siger, at virksomheden de seneste måneder har tilføjet ekstra sikkerhedslag. ChatGPT’s tone er blevet lidt mere praktisk og mindre som en digital ven. Den seneste opdatering kom i sidste uge, men eksperter mener, at det langt fra er nok.
Ifølge eksperterne er situationen nu så alvorlig, at der ikke kommer en løsning uden streng regulering. Klinisk afprøvning og reel psykologfaglig ekspertise er nødvendigt, siger de.
