Nicolai Busekist
En nylig analyse har afsløret, at en Google-tjeneste potentielt kan være til fare for både børn og teenagere.
En amerikansk nonprofitorganisation, der fokuserer på børns sikkerhed, konkluderer, at Google Gemini udgør en sikkerhedsrisiko for børn under 18 år. Google hævder, at der findes særligt politik for unge brugere, og at der er indført sikkerhedsgarantier.
Common Sense Media, der er en amerikansk nonprofitorganisation med fokus på børns sikkerhed, har vurderet Google Gemini som en ‘høj risiko’ for unge brugere. Den centrale kritik går på, at versionerne til børn og teenagere i praksis blot er tilpassede voksenudgaver med enkelte ekstra sikkerhedsfiltre.
Ifølge organisationen bør AI-produkter til unge udvikles fra bunden med børns sikkerhed og udviklingsstadie som udgangspunkt i stedet for blot at begrænse et allerede eksisterende produkt.
Analysen viser, at Gemini stadig kan dele ‘upassende og usikkert’ indhold med børn, såsom information om sex, stoffer og alkohol. Særligt bekymrende er det potentielle skadelige indhold i forbindelse med mental sundhed.
Bekymringen forstærkes af nylige hændelser, hvor AI angiveligt har spillet en rolle i selvmord blandt teenagere. Der verserer nu retssager mod blandt andre OpenAI efter tragiske hændelser, hvor en 16-årig skulle have taget sit eget liv med påstået hjælp fra ChatGPT.
Manglende differentiering af aldersgrupper
Common Sense kritiserer desuden, at Gemini ikke differentierer mellem yngre børn og teenagere. Organisationen mener, at en AI-platform bør tilpasses brugere i forskellige udviklingsstadier. Det skriver Bright.
Problemet bliver ifølge organisationen endnu mere alvorligt i lyset af, at Apple overvejer at bruge Gemini i sin kommende AI-drevne udgave af Siri. Det kan ifølge Common Sense Media øge børns eksponering for de nævnte risici markant, medmindre Google implementerer yderligere sikkerhedsforanstaltninger.
Google fremhæver, at der findes specifik politik og beskyttelse for brugere under 18 år. Selvom virksomheden anerkender, at nogle svar ikke er optimale, siger den, at yderligere tiltag allerede er indført.
Google stiller dog spørgsmål ved, om Common Sense’ test er udført med funktioner, der reelt er tilgængelige for unge brugere. Et positivt punkt, som både Google og Common Sense er enige om, er, at Gemini tydeligt gør opmærksom på, at det er et computerprogram og ikke en menneskelig ven. Dette kan hjælpe med at forebygge usunde følelsesmæssige relationer.
