Apple og Google kritiseres for let adgang til nøgenbillede-apps

Apple og Google stilles til ansvar for manglende kontrol med applikationer i deres butikker. Ifølge Ekstra Bladet har en ny undersøgelse afsløret, at de to tech-giganter ikke gør nok for at forhindre såkaldte 'nudify'-apps i at blive tilgængelige for brugere.

Applikationerne anvender kunstig intelligens til at skabe digitalt manipulerede billeder og videoer, der forestiller rigtige mennesker uden tøj. Undersøgelsen dokumenterer, at det er bemærkelsesværdigt let at lokalisere disse programmer gennem både Apples App Store og Googles Play Store.

Kunstig intelligens misbrugt

Teknologien bag nudify-appene udnytter maskinlæring til at generere syntetisk indhold baseret på eksisterende fotografier. Brugerne kan uploade billeder af personer uden samtykke og få fremstillet manipuleret materiale, som kan udgøre en form for digital trakassering eller sexuelle overgreb.

Problemet understreger bredere bekymringer om, hvordan kunstig intelligens kan misbruges til at skabe ikke-konsensuelt sexuelt indhold og potentielt bruges til afpresning eller mobning.

Mangel på moderering

Undersøgelsen indikerer, at kontrolmekanismerne i både App Store og Play Store ikke er tilstrækkelige til at filtrere denne type applikationer. Flere nudify-apps er stadig tilgængelige trods deres problematiske formål, hvilket rejser spørgsmål om, hvorvidt Apple og Google lever op til deres egne retningslinjer.

Sagaen understreger behovet for skarpere regler og bedre moderering fra de store platformes side for at beskytte brugere mod misbrug af kunstig intelligens.