deepfake

Udtrykket deepfake stammer fra debatforummet Reddit, hvor en bruger ved navn Deepfakes i starten af 2017 uploadede de første pornografiske videoer med kendte kvinders ansigter redigeret sammen med andre kvindekroppe. Selve deepfake-teknologien har imidlertid været benyttet af forskere siden midten af 90’erne og har fundet vej til bestemte online fællesskaber, hvor amatører har skabt forskellige manipulationer.

Begrebet deepfake er en sammentrækning af de engelske ord ’deep learning’, på dansk 'dyb læring', og ’fake’, dvs. 'falsk'. Begrebet ’dyb læring’ refererer til den maskinindlæringsteknik, hvormed computerprogrammer ved hjælp af kunstig intelligens kan skabe manipulerede billeder, lyd eller video. Herved kan internetbrugere snydes til at tro, at en person har sagt eller gjort noget bestemt eller har optrådt i en bestemt sammenhæng, som vedkommende aldrig i virkeligheden har gjort.

Programmerne, der anvendes til deepfake, benytter dyb maskinlæring, der ved hjælp af automatiske neurale netværk kan bygge simulationer over store datamængder. Eksempelvis indlæres en persons ansigtstræk fra alle vinkler, således at der kan skabes en simulation af ansigtet. Den digitale simulation af fx et ansigt eller en krop udnyttes til at skabe nye, men falske fremstillinger af personen. Dyb maskinlæring går et skridt videre end traditionel programmering, idet den bygger på algoritmer, som benytter dybe neurale netværk, og som selv kan træffe intelligente beslutninger.

Teknologien bag deepfakes har i mange år været kendt og benyttet i filmindustrien, men den er gennem de seneste år blevet mere alment tilgængelig via brugervenlige programmer og apps, hvor brugere relativt nemt kan lave deres egne deepfakes, samt via hjemmesider, hvor man kan bestille manipulerede film og billeder, som andre har skabt.

Billedmanipulation ved hjælp af forskellige metoder og teknikker er ikke et nyt fænomen og har eksisteret siden fotografiets opfindelse. Josef Stalin benyttede udbredt billedmanipulation som et led i regimets politiske propaganda. Han havde adskillige professionelle kunstnere ansat, som var specialiseret i at retouchere fotografier ved hjælp af gouache, sletteredskaber, kulblyanter og airbrush. Der findes en række eksempler, hvor politiske modstandere som Leo Trotskij og Nikolai Yezhov konsekvent blev fjernet fra fotografier med det formål at slette deres eksistens fra historien. Også i Det tredje Rige blev der i stor stil anvendt fotomanipulation for at forbedre topnazisters selvfremstilling og image udadtil.

I den digitale tidsalder blev skrive- og tegneredskaber til billedmanipulation erstattet af først computerprogrammet Paintbox og senere software som Adobe Photoshop eller GIMP, der fra og med 1990’erne blev et almindeligt brugte billedredigeringsprogrammer til PC’er.

Med deepfakes er der tale om en særlig grov form for forfalskning af billeder, film og lyde, fordi det i nogle tilfælde er uhyre vanskeligt at opdage, at der er tale om forfalskninger. Det har stort set lige siden fotografiets opfindelse været teknisk muligt at indsætte personer i situationer og omgivelser, de ikke i virkeligheden har været en del af, men i modsætning til tidligere tiders billedmanipulation ser mange AI-genererede deepfakes så ægte ud, at der skal avancerede tekniske undersøgelser til for at afsløre, at der er tale om forfalskninger.

I takt med teknologiens udbredelse ses i stigende grad en tendens til, at deepfakes ikke længere kun florerer og deles i lukkede fora og ekkokamre på nettet, men også deles i fx Messenger- eller Snapchat-grupper. Flere eksperter vurderer, at kombinationen af misinformation og deepfake i løbet af de kommende år kan udvikle sig til et problem, idet det kan blive langt vanskeligere at afsløre falske nyheder, i takt med at teknologien bag deepfakes bliver endnu mere avanceret. Endelig kan krænkelsessager, hvor personlige billeder deles til et større publikum, blive langt mere alvorlige, hvis billedmaterialet, der deles, er blevet manipuleret og forfalsket.

• kunstig intelligens
• desinformation
• misinformation

• King, D. (2014). The Commissar Vanishes. The Falsification of Photographs and Art in Stalin's Russia, London: Tate.

• Artikel om deepfake-fænomenet på zetland.dk
• Definition af deepfake i Nye ord i dansk 1955 til i dag
• Forklaring af deepfake og hvorfor deepfake er farligt på cnbc.com
• Kunstig intelligens og dyb læring forklaret
• Artikel om den nye desinformationsfare forbundet med deepfake på reuters.com
• Matematikeren og forfatteren Stephen Wolframs tanker om deepfake på Wolframs hjemmeside
• Om den historiske sammenhæng mellem billedmanipulation, propaganda og konspirationsteorier på turbulens.net
• 10 værktøjer til at faktatjekke billeder på tjekdet.dk