deepfake

Uttrykket deepfake stammer fra diskusjonsforumet Reddit, hvor en bruker ved navn «Deepfakes» i starten av 2017 lastet opp de første pornografiske videoene med kjente kvinners ansikter redigert sammen med andre kvinnekropper. Selve deepfake-teknologien har imidlertid vært benyttet av forskere siden midten av 1990-tallet. Den har funnet veien til bestemte nettfellesskap hvor amatører har skapt forskjellige manipulasjoner.

Begrepet deepfake er en sammentrekning av de engelske ordene deep learning, på norsk «dyp læring», og fake («falsk»). Begrepet dyp læring refererer til en maskinlæringsteknikk hvor dataprogrammer ved hjelp av kunstig intelligens kan lage manipulerte bilder, lyd eller video. På denne måten kan internettbrukere bli lurt til å tro at en person har sagt eller gjort noe bestemt eller har opptrådt i en bestemt sammenheng som vedkommende aldri i virkeligheten har gjort.

Programmene som brukes til å lage deepfakes, benytter dyp maskinlæring. Ved hjelp av automatiske nevrale nettverk bygges simuleringer ut fra store datamengder. For eksempel kan programmet lære seg en persons ansiktstrekk fra alle vinkler, slik at det kan skapes en simulering av ansiktet. Den digitale simuleringen av for eksempel et ansikt eller en kropp brukes til å skape nye, men falske fremstillinger av personen. Dyp maskinlæring går et skritt videre enn tradisjonell programmering, ettersom den bygger på algoritmer som benytter dype nevrale nettverk, og som selv kan ta intelligente beslutninger.

Teknologien bak deepfakes har i mange år vært kjent og benyttet i filmindustrien, men den har de senere år blitt mer allment tilgjengelig via brukervennlige programmer og apper. Med disse kan brukere relativt enkelt lage sine egne deepfakes. I tillegg finnes det nettsider hvor man kan bestille manipulerte filmer og bilder som andre har skapt.

Bildemanipulasjon ved hjelp av forskjellige metoder og teknikker er ikke et nytt fenomen og har eksistert siden fotografiets oppfinnelse. Josef Stalin benyttet utbredt bildemanipulasjon som et ledd i Sovjetunionens politiske propaganda. Han ansatte flere profesjonelle kunstnere som spesialiserte i å retusjere fotografier ved hjelp av gouache, sletteverktøy, kullblyanter og airbrush. Det finnes flere eksempler hvor politiske motstandere som Lev Trotskij og Nikolaj Jezjov konsekvent ble fjernet fra fotografier med det formål å slette deres eksistens fra historien. Også i Det tredje riket ble det i stor grad brukt fotomanipulasjon for å forbedre høytstående nazisters fremstilling og ansikt utad.

I den digitale tidsalder ble skrive- og tegneredskaper til bildemanipulasjon erstattet av først dataprogrammet Paintbox og senere programvare som Adobe Photoshop eller GIMP, som fra og med 1990-årene ble vanlige bilderedigeringsprogrammer for PCer.

Med deepfakes er det snakk om en særlig grov form for forfalskning av bilder, film og lyd, fordi det i noen tilfeller er svært vanskelig å oppdage at det er forfalskninger. Det har stort sett helt siden fotografiets oppfinnelse vært teknisk mulig å sette inn personer i situasjoner og omgivelser de ikke i virkeligheten har vært en del av. Forskjellen fra tidligere tiders bildemanipulasjon er at mange KI-genererte deepfakes ser så ekte ut at det trengs avanserte tekniske undersøkelser for å avsløre at det er snakk om forfalskninger.

I takt med teknologiens utbredelse florerer og deles deepfakes i økende grad ikke lenger kun i lukkede fora og ekkokamre på nettet, men også i for eksempel Messenger- eller Snapchat-grupper. Flere eksperter vurderer at kombinasjonen av desinformasjon og deepfake i løpet av de kommende årene kan utvikle seg til et problem. Det kan bli langt vanskeligere å avsløre falske nyheter i takt med at teknologien bak deepfakes blir enda mer avansert. Krenkelsessaker, hvor personlige bilder deles til et større publikum, bli langt mer alvorlige hvis bildematerialet som deles har blitt manipulert og forfalsket.

• forfalskning
• kunstig intelligens