Jesper Bengtson
En 17-årig fra Massachusetts skal have brugt ChatGPT til at digte drab på sin egen familie, inden mor og lillebror blev fundet dræbt.
Anklagemyndigheden har trukket samtalerne frem i retten som en del af det bevismateriale, der skal understøtte sagen mod teenageren. Han er tiltalt for at have slået sin 45-årige mor og sin 14-årige lillebror ihjel i familiens hjem nordvest for Boston.
Arjun Aravind blev stillet for retten i Concord District Court og har erklæret sig ikke skyldig. Han er varetægtsfængslet uden mulighed for kaution, og næste retsmøde i sagen er berammet til 11. september, oplyser retten. Ofrene er identificeret som moren Sudha Venkatesan og lillebroren Siddharth Aravind.
Anklageren: gotiske noveller om familien
Distriktsanklager Marian Ryan fortalte i retten, at den unge mand havde vist bekymrende adfærd, som blandt andet omfattede søgninger og samtaler i ChatGPT om at slå familien ihjel. Ifølge anklageren tog samtalerne form af “gotiske noveller, spørgsmål, karakterer og hvad-nu-hvis-scenarier, der ser ud til at handle om trusler mod hans familie”, sagde hun ved retsmødet.
De konkrete uddrag fra samtalerne er ikke offentliggjort, og anklagemyndigheden har ikke hævdet, at chatbotten leverede egentlige instruktioner til at udføre drabene. Ryan oplyste, at politiet fortsat efterforsker, hvilket eller hvilke våben der blev brugt.
Bloddryppende laptop og bøjet kniv
På gerningsstedet fandt efterforskerne blandt andet en beskadiget og blodig bærbar computer og en bøjet køkkenkniv. Ifølge retsdokumenter havde faren i tiden op til drabene bemærket sønnens internetbrug og begyndt at fjerne knive fra åbne steder i køkkenet.
Politiet blev tilkaldt af faren, efter en huslærer ikke kunne få kontakt til familien. Da betjentene ankom kort før klokken 18.37 lokal tid, fandt de mor og lillebror døde i huset. Den 17-årige blev pågrebet den følgende morgen i nabobyen Wayland, hvor han sad i morens grønne 2014 Honda Accord.
Forsvarsadvokat Debra DeWitt har bedt om en psykiatrisk vurdering af sin klient og beskrev i retten den 17-årige som en dreng, der ikke selv har forstået rækkevidden af det skete. “Han er, med mine ord, i en chok-tilstand. Han kunne ikke tro det”, sagde hun til dommeren.
Hvad gemmer ChatGPT egentlig?
Sagen er en af de første, hvor samtaler med en AI-chatbot ryger direkte ind som bevis i en drabssag, og det rejser spørgsmålet om, hvad chatbotten faktisk husker. Standardindstillingen i ChatGPT er, at samtaler bliver liggende på brugerens konto på ubestemt tid, indtil man selv sletter dem. Bliver en samtale slettet, skal den fjernes fra OpenAIs systemer inden for 30 dage, medmindre der er tale om et retsligt eller regulatorisk pålæg om at bevare den.
Netop den slags pålæg kan tilsidesætte de normale sletteregler. En kendelse i sagen mellem The New York Times og OpenAI pålagde sidste år selskabet at gemme samtaler og filer, også dem brugerne selv troede var slettet, indtil retssagen er afsluttet. Kombineret med muligheden for at politiet henter data via en retskendelse betyder det, at chatvinduet i praksis kan blive læst af andre end den, der har skrevet i det.
For brugere findes der en tilstand kaldet Temporary Chat, hvor samtalen ikke bruges til træning og automatisk slettes inden for 30 dage. Standardsamtaler i den almindelige chatgrænseflade er derimod tilgængelige for kontoindehaveren, og indtil de aktivt slettes, ligger de på selskabets servere.
