«Deep fake»:

Snart er det umulig å vite om det man ser er ekte

Dette er ikke science fiction. Det er ikke lenge til realistiske «deep fake»-videoer er her.

Forfalskninger: Målrettet bruk av kunstig generert video er en tikkende politisk bombe, skriver spaltist Sondre U. Solstad. Foto: Mihai Surdu / Shutterstock / NTB scanpix
Forfalskninger: Målrettet bruk av kunstig generert video er en tikkende politisk bombe, skriver spaltist Sondre U. Solstad. Foto: Mihai Surdu / Shutterstock / NTB scanpixVis mer
Meninger

Hva om du kunne fått dine politiske motstandere til å si hva som helst i en video? Teknologien er ikke langt unna. Målrettet bruk av kunstig generert video er en tikkende politisk bombe.

Spaltist

Sondre Ulvund Solstad

Sondre Ulvund Solstad er doktorgradsstipendiat i statsvitenskap og internasjonale relasjoner ved Princeton University. Han ble i 2018 og 2019 utnevnt til Woodrow Wilson Scholar for fremragende forskning i det offentliges interesse, og er publisert i en rekke norske, kinesiske og internasjonale tidskrifter.

Siste publiserte innlegg

Her i USA florerer nå en «falsk» video av Nancy Pelosi. Gjennom klipping og delvis avspilling i sakte film ser hun ut til å stamme seg gjennom en pressekonferanse påvirket av alkohol. Men med en laptop og video av hennes tidligere taler kan man ved hjelp av moderne «deep fake»-teknologi få henne til å si hva som helst. Lyst til å høre henne sitere Marx og Engels? Eller kanskje erklære New York og California som uavhengige stater? Eller at føderalt politi og «partiet for amerikansk sosialisme» er blitt beordret til å «capture or kill» alle som har sørstatsflagg? Hva skjer om sistnevnte video blir delt et par millioner ganger?

De fleste av disse videoene er fortsatt åpenbart falske, og mer morsomme enn farlige. Men det er ikke lenge til slike videoer er umulig å skille fra ekte opptak. Blant dem som utvikler teknologien roper flere nå varsko, og nekter å dele sine nye algoritmer. Men forskere som ikke publiserer sine funn etter år med arbeid er veldig sjeldne unntak, og framgangen skjer på så mange områder (teoretisk og anvendt statistikk, informatikk, prosesseringskraft, data), at den er nærmest ustoppelig.

Det er fristende å tenke at dette har vært virkeligheten lenge: Hva med animasjon og spesialeffekter i film? Det ser jo ut til å ha gått greit?

Forskjellen er at den nye teknologien er lett og billig å anvende: man trenger verken spesialister, enorme prosesseringssentre, dyktige skuespillere eller kamera og programvare som sporer bevegelse. Man trenger en laptop, nok programmeringsevne til å endre noen filnavn og tilgang til YouTube. Sistnevnte – nødvendigheten av videomateriale av den man ønsker å manipulere inn – har så langt skjermet de fleste av oss. Men snart er ikke engang dette lenger nødvendig; forskere fra Samsung viste i forrige uke fram programvare som kan animere et snakkende ansikt ut fra bare ett bilde.

«Deep fake»-videoer er et nytt problem. Problemet er ikke at man kan lage videoer hvor folk sier ting de aldri har sagt. Problemet er at det snart er umulig å vite om det man ser er ekte.

Dette er ikke science fiction. I USA bruker forsvarsdepartementet allerede hundrevis av millioner kroner på teknologi for å automatisk avsløre om videoer er forfalskninger eller ikke, men sier de taper kampen. I Kina er det foreslått et generelt forbud mot falske framstillinger av utseende eller stemmer, men hvordan en slik lov vil bli håndhevet er nokså uvisst: Statlig tv har allerede nyhetsanker som er 100 prosent deep-fake. Det stadig mer autoritære sensurregimet der er neppe et eksempel til etterfølgelse.

Et eller annet sted i verden vil nok snart et valgresultat (eller kanskje forsøk på statskupp eller revolusjon) være konsekvensen av slik video.

I Norge er det valg til høsten. Tradisjonelle medier vil fortsatt kanskje klare å unngå deling av falske videoer, men Facebook har klargjort sitt synspunkt: «Vi har ingen retningslinjer om at det som blir delt på Facebook må være sant eller ekte». Det ville uansett (dessverre) vært naivt å stole på at teknologigiganten frivillig vil gjøre noe som kan redusere deres inntjening. Og hva med en pinlig video tatt i et mørkt rom med dårlig mobilkamera? Bør vi stole på det om politikeren roper «fake news»?

Hva kan vi gjøre? Det ser nå ut til å være politisk flertall for en ny ytringsfrihetskommisjon. Denne kommisjonen vil ha mye å ta fatt på, og falske nyheter vil utvilsomt være på agendaen. Jeg håper de vil samarbeide tett med dem som nå jobber med en nasjonal strategi for kunstig intelligens. Det er nemlig stadig smartere maskiner som gjør dette mulig.

Kursendring er definitivt nødvendig. Når slik video blir virkelighetsnær nok, har vi per i dag ingen gode alternativ. Vi kan fortsette å stole på videoopptak selv om vi ikke bør det, men da gir vi de som er villige til å bruke denne teknologien mot oss et mektig våpen.

Eller vi kan slutte å stole på videoopptak, og sannhet vil bli enda mer relativ enn den allerede er. Vår felles virkelighet, fram til nå holdt sammen av fakta som de færreste vil bestride, vil fragmenteres ytterligere, og kanskje falle fra hverandre. Det blir en verden hvor man sier: «Som statsministeren sa i nyttårstalen – i hvert fall den jeg så.»

Noen hevder at heller enn å spørre, er det på internett mer effektivt å foreslå et feil svar.

Så her er en løsning som er langt fra perfekt, men bedre enn å lukke øynene og håpe på det beste:

A) Gjør det ulovlig å legge ut video hvor man forfalsker noens utseende eller stemme uten samtykke, med mindre det er åpenbart at det er en forfalskning eller parodi. Gi særlig streng straff om videoen har klart politisk potensial.

B) Opprett en spesialavdeling i politiet med kompetanse og ansvar for å etterforske slike saker. Sist, men ikke minst:

C) Prioriter å straffe de som anklager en video for å være falsk om den viser seg å være ekte.

Det er ikke lenge til realistisk «deep fake»-video er her. Samfunn er bygget på tillit, og tillit bygget på sannhet, skrev Frederic Douglass. La oss være forberedt, og hindre at ny teknologi undergraver alle tre.

Lik Dagbladet Meninger på Facebook

Meninger rett i innboksen?

Meld deg på vårt nyhetsbrev for å motta ukens viktigste saker fra Dagbladet Meninger hver fredag. Nyhetsbrevet kan inneholde annonser. Du kan når som helst melde deg av.