Nicolai Busekist
Chatbots er blevet en stor del af de flestes hverdag – og det er ikke altid positiv, da det kan sprede misinformation.
Mange mennesker benytter i dag chatbots som en slags søgemaskine, men ny forskning fra Pointer (KRO-NCRV) afslører, at AI-systemer i stigende grad bliver påvirket af desinformation.
Det sker i takt med, at automatiserede netværk, herunder det russiske Pravda-netværk, får større rækkevidde og dermed større indflydelse på de oplysninger, som kunstig intelligens gengiver.
Massiv propaganda påvirker AI
Pravda-netværket består af hundreder af hjemmesider, der i stor skala publicerer pro-russisk propaganda. I 2023 alene udgav netværket hele 3,6 millioner artikler fordelt over 69 lande, heriblandt Holland.
Det enorme omfang gør det muligt for netværket at plante vildledende informationer, som senere genbruges af AI-chatbots, der trækker på offentligt tilgængelige kilder.
Pointer gennemførte en test med otte kendte chatbots. Seks af disse gengav fejlagtige oplysninger, herunder påstanden om, at Rusland skulle have dræbt en NATO-pilot, og at den ukrainske efterretningstjeneste er involveret i narkotikahandel.
Disse oplysninger stammer direkte fra Pravda-netværkets indhold og demonstrerer, hvor sårbar AI-teknologi kan være over for systematisk manipulation. Det skriver det hollandske medie Bright.
Nogle AI’er klarer sig bedre
Ikke alle chatbots fejlede dog. Claude fra virksomheden Anthropic blev vurderet til at være mest pålidelig og gengav ikke misinformationen.
Grok, der er udviklet af Elon Musk og hans team hos X, afviste også ofte fejlagtige oplysninger. Modsat var både Copilot og Mistral mere tilbøjelige til at sprede desinformation: Mistral otte gange, Copilot fem gange.
Det er ikke kun chatbots, der bliver ramt. Wikipedia – en af verdens mest benyttede vidensplatforme – indeholdt hele 1.500 referencer til artikler fra Pravda-sider.
Det viser, at desinformationens rækkevidde er omfattende og ikke begrænset til AI, men også præger en række andre etablerede og troværdige kilder.
Når falske oplysninger optræder i neutrale teknologier, der anvendes af millioner, kan det påvirke den offentlige debat og skabe forvirring. Det understreger behovet for både teknologisk beskyttelse og kritisk medieforståelse hos brugerne.