Morten Lyhne Petersen
Raffi Krikorian byggede selvkørende biler for Uber. Nu advarer han mod den teknologi, han selv hjalp i gang.
På en søndagstur i et villakvarter i San Francisco-bugten satte den tidligere Uber-ingeniør sin Tesla Model X på Full Self-Driving (FSD) for at køre sin søn til spejder. Det var en rute han havde kørt hundredvis af gange. Få sekunder før et sving mistede bilen orienteringen, rattet hev ukontrolleret, og Model X’en bragede ind i en betonmur, skriver Carscoops i sin gennemgang af forløbet.
Krikorian, der i dag er teknologichef hos Mozilla, fik hjernerystelse, stiv nakke og hovedpine i flere dage. Bilen blev erklæret totalskadet. Hans børn på bagsædet slap fysisk uskadte.
En kritik fra manden, der byggede systemet
Krikorian var i 2015 og 2016 chef for Ubers Advanced Technologies Center i Pittsburgh, hvor han ledede arbejdet med selvkørende biler og oplærte sikkerhedschauffører i at gribe ind, når systemet svigtede. Få mennesker på kloden har den faglige tyngde til at vurdere Teslas FSD med samme vægt.
I et essay i The Atlantic, skrevet kort efter ulykken, beskriver han problemet med Teslas tilgang som indbygget i designet. En upålidelig maskine holder føreren skarp, og en perfekt maskine kræver intet opsyn. Men en bil, der virker næsten perfekt, lokker føreren til at slappe af præcis ét øjeblik for meget.
“Tesla beder mennesker om at overvåge et system, der specifikt er designet til at få overvågningen til at føles overflødig,” skriver han i essayet, som Carscoops citerer.
Vigilance decrement og fem til otte sekunder
Krikorian henviser til forskning fra det amerikanske forsikringsinstitut IIHS, der viser at allerede efter en måned med adaptiv fartpilot er bilister mere end seks gange så tilbøjelige til at kigge på telefonen. Det fænomen kaldes vigilance decrement, altså opmærksomhedssvigt, og det rammer enhver, der skal overvåge en næsten ufejlbarlig maskine.
Når katastrofen så indtræffer, har en passiv fører brug for fem til otte sekunder til at genoptage kontrollen mentalt. Det er et tidsrum, et sammenstød med en betonmur sjældent giver.
Krikorian peger også på det forskerne kalder en “moral crumple zone”, en moralsk deformationszone. Når komplekse automatiserede systemer fejler, optager den menneskelige fører skylden på samme måde, som en bils deformationszone optager kollisionsenergi. Under loven er FSD klassificeret som niveau 2, og dermed er føreren ansvarlig for alt, hvad bilen gør.
Den europæiske udrulning ruller videre
Imens diskussionen om ansvar fortsætter i USA, er FSD ved at finde fodfæste i Europa. Estland godkendte den 29. maj 2026 systemet som det tredje europæiske land efter Holland og Litauen. Den estiske transportstyrelse genbrugte den hollandske typegodkendelse fra RDW, oplyser TeslaOracle i sin gennemgang af processen.
Belgien har sat et testprogram op på omkring 5.000 kilometer i Flandern, og Grækenland forbereder en hastelov, fremgår det af en gennemgang fra den europæiske trafiksikkerhedsorganisation ETSC. Organisationen advarer om, at de hurtige nationale godkendelser sker uden tilstrækkelig forsigtighed.
Danmark står sammen med de øvrige nordiske lande på bremsen. En fælles EU-vedtagelse fra det tekniske udvalg TCMV ventes tidligst på møder i juli eller oktober i år, og før det sker, kommer FSD ikke lovligt på danske veje.
For Krikorian er det netop ventetiden, der bør bruges fornuftigt. Den vigtigste lektion fra hans egen ulykke, skriver han, er, at det ikke er ham, der svigtede systemet. Det er systemet, der svigtede ham.
