Google skruer ned for AI-funktion efter kritik

Google har stiltiende valgt at stoppe sine såkaldte AI-oversigter på et bestemt område, skriver Bright.

De AI-baserede sammendrag, som siden sidste år har været vist øverst ved mange søgninger, er ikke længere i stand til at samle og præsentere relaterede søgeresultater inden for et bestemt felt.

Ændringen sker efter massiv kritik fra den medicinske verden, hvor eksperter har advaret mod, at de automatiske svar kan være direkte skadelige.

Beslutningen kommer i kølvandet på en undersøgelse fra avisen The Guardian. Her beskrev flere læger og forskere de svar, som Googles AI genererede, som både alarmerende og farlige.

Undersøgelsen fremhævede en række eksempler, hvor systemet gav forkert eller misvisende information, hvilket særligt har vist sig at være gældende i forhold til sygdomme og behandling.

Et af de mest alvorlige eksempler handlede om patienter med kræft i bugspytkirtlen. De fik via Googles AI-oversigter et råd om at undgå fedtholdig mad, selvom læger normalt anbefaler netop det modsatte for denne type patienter.

Ifølge eksperter kan et sådant råd forværre patienternes tilstand og i værste fald reducere deres chance for at overleve.

Også på områder som leverfunktioner og andre alvorlige helbredsproblemer har AI-systemet tidligere givet forkerte oplysninger. Derfor har Google nu valgt at vende tilbage til den mere traditionelle måde at vise søgeresultater på, hvor brugerne i stedet får links til eksterne kilder og artikler.

Google har ikke ønsket at forklare over for The Guardian, hvorfor ændringen er blevet gennemført netop nu. Det vurderes dog som sandsynligt, at avisens afsløringer har haft stor betydning for beslutningen.

En talsperson for Google har tidligere udtalt, at virksomheden vil investere betydeligt i at forbedre kvaliteten af AI-oversigter, hvor de især vil have fokus på følsomme emner som sundhed og medicinsk information.

Målet er efter sigende at sikre, at brugerne ikke bliver vildledt af de automatiserede svar.