HEVNPORNO: Facebook sliter med å kontrollere innholdet på egne plattformer, men annonserer nå økt innsats mot spredning av nakenbilder uten samtykke. Foto: NTB Scanpix
HEVNPORNO: Facebook sliter med å kontrollere innholdet på egne plattformer, men annonserer nå økt innsats mot spredning av nakenbilder uten samtykke. Foto: NTB ScanpixVis mer

Hevnporno

Facebook tar grep for å bekjempe «hevnporno»

Skal bruke kunstig intelligens for å hindre spredning.

Facebook annonserte fredag at de skal ta i bruk kunstig intelligens for å hindre spredning av intime bilder delt uten samtykke på sine plattformer.

Fram til nå har brukerne vært nødt til å rapportere slikt innhold selv. Det nye verktøyet vil nå kunne oppdage lettkledd innhold, i tillegg til nakenhet, uten at det er rapportert inn.

Innholdet vil så bli flagget og sendt til en moderator for manuell gjennomgang. Dersom det bryter med retningslinjene, vil de opprette et digitalt fingeravtrykk av bildet og stoppe det fra å bli delt videre.

- Ved hjelp av maskinlæring og kunstig intelligens kan vi nå proaktivt finne lettkledde bilder eller videoer som er delt uten samtykke på Facebook eller Instagram. Det betyr at vi kan finne dette innholdet før noen rapporterer det. Dette er viktig av to grunner: ofrene er ofte redde for straff, og unngår derfor å rapportere innhold av seg selv, eller så vet de rett og slett ikke om at det har blitt delt, skriver sikkerhetssjef, Antigone Davis, i et blogginnlegg.

Hvor effektivt det nye systemet vil være, er vanskelig å bedømme. Selskapet har i lang tid presentert kunstig intelligens som en løsning på en rekke problemer, til tross for at det er kjente problemer med teknologien.

Automatiske systemer kan fjerne uønsket innhold som har blitt flagget, men mye av innholdet krever også en forståelse av kontekst for å ta en vurdering.

Det kommer ikke spesielt tydelig fram i annonseringen akkurat hvordan verktøyet deres fungerer i jakten på dette innholdet. Ifølge Associated Press ser ikke verktøyet kun på bildene i seg selv, men også på tilhørende tekst. Dersom teksten inneholder nedsettende bemerkninger, betyr dette sannsynligvis at «noen har delt bildet for å henge ut eller hevne seg på noen», skriver de.