Meta tager nu endelig fat på problemet med såkaldte 'nudify'-apps, som bruger AI til at skabe uønskede nøgen- og eksplicitte billeder af kendte, influencers og andre.
Virksomheden sagsøger nu en app-udvikler, som gentagne gange har reklameret for disse apps på Facebook og Instagram, og iværksætter samtidig nye tiltag for at forhindre reklamer for lignende tjenester, skriver Engadget.
Opgøret kommer efter, at flere forskere og journalister de seneste måneder har advaret om disse apps. En nylig rapport fra CBS News afslørede, at der findes mindst 'hundreder' af annoncer på Metas platform, som promoverer apps, der gør det muligt for brugere at 'fjerne tøj' fra billeder af kendte og andre.
En app i særdeleshed, der går under navnet Crush AI, har tilsyneladende været en flittig annoncør på Facebook og Instagram.
Forskeren Alexios Mantzarlis, direktør for Cornell Tech's Security, Trust and Safety Initiative, rapporterede i januar, at Crush AI siden efteråret havde kørt over 8.000 annoncer på Facebook og Instagram.
Nu oplyser Meta, at man har anlagt sag mod Joy Timeline HK Limited, der er det Hongkong-baserede firma, der står bag Crush AI og andre nudify-apps.
"Dette sker efter adskillige forsøg fra Joy Timeline HK Limited på at omgå Metas annoncekontrol og fortsætte med at placere disse annoncer, selv efter at de gentagne gange blev fjernet for at overtræde vores regler," skrev Meta i et blogindlæg.
Joy Timeline HK Limited er endnu ikke kommet med en kommentar. Meta meddeler desuden også, at man nu tager nye skridt for at forhindre, at sådanne apps annonceres på platformen.
"Vi har udviklet ny teknologi specielt designet til at identificere denne type annoncer - selv når annoncerne ikke indeholder nøgenhed - og bruger matchningsteknologi til hurtigere at finde og fjerne efterlignende annoncer," skriver Meta.
"Vi har arbejdet med eksterne eksperter og vores egne specialiserede teams for at udvide listen over sikkerhedsrelaterede ord, udtryk og emojis, som vores systemer er trænet til at opdage i disse annoncer."
Meta oplyser desuden, at man vil samarbejde med andre tech-platforme, herunder app-butikker, for at dele relevante oplysninger om aktører, der misbruger Metas platform.
Disse apps er ikke de eneste, der har udnyttet Metas annonceplatform til at køre annoncer med deepfakes af kendte. Meta har også haft udfordringer med tvivlsomme annoncører, der bruger AI-manipulerede videoer af offentlige personer til at promovere svindel.
Virksomhedens uafhængige Oversight Board, som udtaler sig om indholdspolitik på Facebook og Instagram, har for nylig kritiseret Meta for at håndhæve sine regler mod sådanne annoncer for svagt.
