En AI-genereret deepfake af et afdødt offer for såkaldt 'road rage' fremsagde sit eget vidneudsagn ved retsmødet, hvor gerningsmandens straf skulle fastsættes, skriver NBC News. Det er sandsynligvis første gang, at teknologien er blevet brugt på denne måde.
Idéen om at anvende en AI-version af offeret, Christopher Pelkey, kom fra hans familie, ifølge en talsmand fra anklagemyndigheden i Maricopa County. Pelkeys søster fortalte, at hun havde skrevet på vidneudsagnet i to år, men følte, at hendes ord 'ikke ville yde hans minde retfærdighed'. Pelkey blev skudt og dræbt i 2021 under en road rage-hændelse.
Dermed opstod idéen om at anvende en deepfake. Pelkeys søster skrev manuskriptet og sagde til CNN, at hun var sikker på, at 'det er, hvad han ville tænke'. Dommer Todd Lang ved Maricopa County Superior Court godkendte idéen, og familien afspillede en video med den AI-genererede Pelkey i retten.
I videoen syntes avataren faktisk at bede om mildhed i straffen til sin drabsmand. Den tiltalte blev tidligere i år dømt for uagtsomt manddrab og fareforvoldelse.
"Til Gabriel Horcasitas, manden der skød mig: Det er en skam, vi mødte hinanden den dag under de omstændigheder. I et andet liv kunne vi måske have været venner. Jeg tror på tilgivelse," sagde den kunstige version af Pelkey.
Dommeren idømte dog den maksimale straf på over 10 års fængsel.
"Jeg hørte tilgivelsen. Jeg føler, at det var oprigtigt, og at hans tydelige tilgivelse af hr. Horcasitas afspejler den karakter, jeg hørte om Pelkey i dag," sagde han om den AI-genererede avatar.
Forsvaret har udtalt, at AI-præsentationen skaber et stærkt grundlag for en ankesag.
"Selvom dommere i vidt omfang selv kan vurdere, hvad de vil høre - især fra ofre - vil en appelret skulle tage stilling til, om dette var en fejl," sagde forsvarsadvokat Jason Lamm.
Sagen har allerede været genbehandlet på grund af proceduremæssige fejl. Gary Marchant, der er juraprofessor ved Arizona State University med speciale i etik og nye teknologier, er bekymret over den juridiske præcedens, der skabes her.
"Du ser den person i retssalen tale, men i virkeligheden er de døde og taler ikke. Det er et ekstra skridt, som jeg mener kan føre os ud på farlig grund," sagde han til NBC News.
