För några veckor sedan dök det upp ett nytt fenomen i en avkrok på internet, ett än så länge förhållandevis litet underforum på sociala nätverkssajten Reddit. Användaren som startade trenden kallar sig deepfakes, efter deep learning, vilket också givit fenomenet dess namn. Deepfakes visade hur man med hjälp av maskininlärning på ett rätt enkelt sätt kan låta aktörer i filmklipp få någon annans ansikte. Med skrämmande bra resultat.

Givetvis, eftersom det är internet vi pratar om, är de första filmerna i fråga porrfilmer. Porren har legat i teknikens framkant sedan internets barndom, oavsett om det handlar om bildkomprimering, streaming, VR eller, som nu alltså, AI.

Porraktrisernas ansikten ersätts med kändisars, så att det ser ut som att Daisy Ridley, Taylor Swift eller Natalie Portman deltar i hårdporr. Det är oerhört grovt och kränkande – och tekniskt sett läskigt välgjort.

Fejkad kändisporr är inget nytt. Redan 1992 hamnade svenska porrtidningen Hustler i blåsväder när man över åtta sidor publicerade reportaget ”En smygtitt i kändisarnas hemliga fotoalbum” där kända personer som Lill-Babs, Mona Sahlin och Ingvar Carlsson fått sina ansikten inklippta på grova porrbilder. Målet gick hela vägen till högsta domstolen, där Hustlers ansvarige utgivare dömdes för grovt förtal och kändisarna fick höga skadestånd.

Efter Photoshops intåg i interneteran har fejkade porrbilder blivit vardagsmat på allehanda sex- och slasksajter.

Men deepfakes-fenomenet måste ändå ses som ett paradigmskifte. Utan rejäla resurser har det liksom inte gått att fejka rörlig bild på det här sättet tidigare. Nu kan vem som helst göra det, med öppna verktyg och en hyfsad dator.

Användaren deepfakes berättar för Motherboard att han använder öppet tillgängliga bibliotek som Keras och Googles Tensorflow för maskininlärningen. Maskinmodellen tränas sedan med bilder på kändisen som ska kopieras. I en tråd på Reddit skriver deepfakes att det behövs mellan 500 och 1 000 bilder ur olika vinklar för bäst resultat.

Läs också: Så fungerar Tensorflow – verktygslådan för AI

För korta klipp behövs ingen mer datorkraft än en vanlig pc med ett bra grafikkort (en GPU med 4 gigabyte RAM), och processandet tar ungefär en dag.

Men vänta, kanske du tänker, att lära sig olika bibliotek och att träna algoritmer låter inte helt enkelt? Helt sant, och därför dröjde det inte länge innan en annan användare tog deepfakes algoritm och byggde en app runt den – FakeApp, ett komplett Windows-program som under de senaste veckorna förfinats allt mer till ett lättarbetat gränssnitt för vem som helst att börja använda.

FakeApp
En tidig version av FakeApp.
FakeApp
En senare version av FakeApp.

De senaste dagarna har deepfakes börjat uppmärksammas i amerikanska medier, med mer eller mindre dystopiska rubriker. Det är lätt att se att fenomenet både innebär en ny nivå av kränkningar mot kända kvinnor, samtidigt som det öppnar för en avancerad form av hämndporr – det vill säga, i nästa steg är det vanliga, okända kvinnor som får se sina ansikten i oönskade sammanhang. Det enda som krävs är att gärningsmannen har tillräckligt många bilder av sitt offer.

Wired konstaterar att i amerikansk lagstiftning är offren i princip rättslösa – ett legalt limbo gör att den fejkade porren sannolikt skyddas av yttrandefriheten.

Så är det lyckligtvis inte i Sverige. Enligt Mårten Schultz, professor i civilrätt vid Stockholms universitet och ordförande för Institutet för Juridik och Internet som arbetar med juridiken kring kränkningar på nätet, finns det flera lagar man skulle kunna applicera på situationen. Sedan tidigare gör HD-domen i Hustler-målet att det finns ett tydligt prejudikat för att fejkad porr kan vara ett förtalsbrott, i det fallet grovt förtal.

Men dessutom har vi sedan årsskiftet fått en lag om det nya brottet olaga integritetsintrång, en lag som i debatten riktat in sig just på hämndporr. Lagen gör det förbjudet att sprida ”bilder eller annan uppgift om någons sexualliv”, och en sådan uppgift är en uppgift även om den är falsk, som i detta fall.

Den nya lagen har inte heller någon åtalsbegränsning, vilket innebär att en åklagare till skillnad från när det gäller förtal är skyldig är driva fallet.

Läs också: Vakna, branschen! Tech är på väg att bli ett skällsord

Sannolikt är Pandoras ask dessvärre redan öppnad. Även om olaga integritetsintrång kan ge fängelse i upp till fyra år lär oss alla erfarenheter att teknik som finns kommer att användas.

Och då har vi inte ens börjat prata om andra situationer än fejkad porr.

FakeApp är garanterat bara ett raden av allt mer sofistikerade verktyg. För den som vill betala har både Google och AWS grundverktygen och GPU:erna som krävs i sina molntjänster för att fejka snabbare och i större skala. Kombinera det med en app för att fejka röster – både Adobe och företaget Lyrebird har visat upp sådana – och du har alla möjligheter att med AI och maskininlärning modifiera och fejka sådant som vi oftast tog som verklighet förut.

Nicolas Cage ersätter Andy Samberg i Saturday Night Live.

Fejkporrskaparna på Reddit tog en kort paus i veckan för att rikta in all sin kraft på ett mer harmlöst objekt: att klippa in kultskådisen Nicolas Cages ansikte i allehanda filmer. Några fler exempel – de enda exemplen i genren som går att visa i professionella sammanhang – ser du under artikeln.

Harmlöst, som sagt, och ganska roligt. Det är svårt att inte imponeras av vad tekniken åstadkommer (porrvarianterna är föga förvånande mer ambitiöst utförda än Cage-klippen), och detta i händerna på vanliga snubbar på Reddit.

Men vad händer när det ofrånkomligen börjar spridas videor på makthavare i prekära men fejkade situationer, på falska uttalanden från politiker, eller rentav på falska gärningsmän i terrordåd eller grova brott? När det är statsstödda aktörer som börjar använda tekniken? När AI och maskininlärning används för att ta den politiska desinformationen och Fake News-debatten till nya höjder?

Det kommer ställa nya krav på både medborgare, politiker och teknikleverantörer, och det är nog bäst att vi börjar prata om det redan nu.

Nicolas Cage ersätter Harrison Ford som Indiana Jones.

Nicolas Cage ersätter Amy Adams i Batman vs Superman.

En sammanställning av fler Nicolas Cage-fakes av blandad kvalitet.