Emil Martesen
En 67-årig sesambonde i Kina fulgte en AI-chatbots sprøjteplan slavisk, og næste morgen var både ukrudtet og alle hans planter døde.
Landmanden med efternavnet Wu bor i byen Chuzhou i den kinesiske provins Anhui. Han havde brugt en AI-app i knap et år til råd om alt fra gødning til vejrudsigter, før han bad den om en samlet plan mod ukrudt og skadedyr på sin sesammark.
Chatbotten leverede en færdig blanding af herbicider og insektmidler, som Wu spredte ud over 150 mu jord med en drone den 10. juli. Området svarer til cirka 10 hektar, eller knap 25 acres.
Dagen efter var marken død. Ikke bare ukrudtet, men samtlige sesamplanter. “Sprøjter du det ud, overlever spirerne ikke natten. Både græsset og spirerne dør, og spirerne dør endnu hurtigere,” beskrev Wu selv resultatet ifølge IBTimes UK, der bygger på den oprindelige kinesisk-sprogede dækning i det taiwanske medie CTWANT.
Det økonomiske tab er af flere kilder opgjort til omkring 22.000 dollar, svarende til cirka 150.000 kroner.
Forkert middel til den forkerte plante
Da Wu bagefter spurgte chatbotten, hvad der var gået galt, pegede den selv på et af de midler, den kort forinden havde anbefalet. Et af herbiciderne i blandingen bruges normalt til at bekæmpe bredbladet ukrudt i sojamarker, forklarer Futurism i sin gennemgang af sagen.
Problemet er, at det amerikanske landbrugsministerium klassificerer sesam som netop en bredbladet plante. Midlet kan altså ikke skelne mellem det ukrudt, det skal ramme, og den afgrøde, det står i. Dertil kom, at midlet er tænkt til punktbehandling af enkelte pletter, ikke til at blive spredt ud over en hel mark, som Wu gjorde det med sin drone.
Måneders gode svar førte til blind tillid
Wu var oprindeligt skeptisk over for AI-appen, men efter cirka et års brugbare svar om ting som gødningstidspunkter og vejrmønstre havde han vænnet sig til at følge anbefalingerne uden at ringe til en landbrugskonsulent først. Præcis hvilken chatbot han brugte, er ikke offentliggjort i den kinesiske dækning, som de vestlige medier bygger på.
Sagen er et eksempel på det AI-forskere kalder hallucination: at en sprogmodel med selvsikker tone opfinder eller sammensætter oplysninger, som ser rigtige ud, men ikke er det. Almindelige chatbots bygger på generelle tekstdata og har ingen indbygget kontrol af, om et konkret kemikalie er godkendt til en konkret afgrøde.
