Efter problemer med Sora: OpenAI lægger også disse kontroversielle AI-planer på is

Efter en periode med hastige lanceringer af nye AI-produkter ser OpenAI nu ud til at bremse nogle af sine mere kontroversielle projekter.

Kort efter at AI-videogeneratoren Sora blev lagt på hylden, har selskabet også valgt at sætte en planlagt funktion kaldet ‘Adult mode’ i bero. Det skriver Bright.

Den planlagte funktion skulle gøre det muligt at føre mere eksplicitte og erotiske tekstsamtaler med ChatGPT. Der var ikke tale om billeder eller video, men udelukkende tekstbaseret interaktion mellem bruger og AI.

Funktionen skabte dog hurtigt debat, eftersom både eksterne kritikere og interne medarbejdere pegede på en række potentielle risici ved at åbne for den type samtaler i en AI-tjeneste.

Blandt de bekymringer, der blev fremhævet, var mulige problemer med afhængighed, en udviskning af grænsen mellem digitale og virkelige relationer samt påvirkning af sårbare brugergrupper. Derudover blev også mere praktiske udfordringer nævnt.

Erotisk indhold på digitale tjenester kan for eksempel gøre alderskontrol vanskeligere. Selv med forskellige former for verificering kan det være svært helt at forhindre mindreårige i at få adgang til denne type indhold.

Samtidig rejser erotiske samtaler med AI spørgsmål om håndtering af følsomme data, eftersom den type dialog kan være meget personlig, hvilket øger kravene til, hvordan oplysninger lagres og beskyttes.

Eksperter har i den forbindelse advaret om et fænomen, der beskrives som ‘intimate surveillance’. Her kan intime samtaler potentielt ende som en del af datasæt, hvilket naturligvis er med til at skabe yderligere bekymringer om privatliv og databeskyttelse.

Beslutningen om også at stoppe arbejdet med Sora kom dog alligevel som lidt af en overraskelse, og OpenAI har endnu ikke givet en officiel forklaring på ændringen.

Ifølge Bright kan selskabet dog være i gang med at omlægge deres fokus til en række andre projekter, herunder udviklingen af en mulig AI-baseret ‘super-app’.