Är det Taylor Swift som kommer få EU att agera kring AI?

I slutet av januari blev en serie nakenbilder på världsstjärnan Taylor Swift virala efter att ha delats på det sociala mediet X. Innehållet togs bort efter 17 timmar, men de många bilderna hann ändå visas 47 miljoner gånger – och även om bilderna inte finns kvar på X så kan de fortfarande lätt sökas fram på olika andra plattformar.

De många nakenbilderna var dock inte tagna av Taylor Swift utan var så kallade deepfakes, det vill säga AI-genererade bilder. Och även om det ser ut som Swift på bilderna så är det inte hon. Och här blir gränserna plötsligt väldigt flytande, för hur mycket måste bilderna likna Taylor Swift innan det rent juridiskt blir tal om ett lagbrott?

Men är det olagligt?

De senaste åren har det skett en kraftig ökning av antalet sexuella övergrepp på sociala medier – framför allt mot kvinnor. Det inkluderar bland annat trakasserier, stalkning, hämndporr och sextortion (ekonomisk utpressning för att inte dela intima bilder). Och nu alltså även deepfakes, där AI genererar intimt eller till och med pornografiskt material med hjälp av oskyldiga bilder från framför allt sociala medier.

De flesta håller nog med om att det är moraliskt förkastligt och oetiskt att stjäla andras bilder för att förvandla dem till nakenbilder eller ren pornografi. Men den stora frågan är: Är det olagligt?

Den befintliga lagstiftningen är helt enkelt inte tillräckligt specifik.

Och nej, många av de handlingar som de flesta människor snabbt skulle kalla för brottsliga är faktiskt inte olagliga – åtminstone inte på det sättet du tror.

För även om trenden inte är helt ny längre så släpar lagstiftningen långt efter den tekniska utvecklingen, vilket gör det svårt för offren för digitala sexuella övergrepp att försvara sig mot sina förövare. Den befintliga lagstiftningen är helt enkelt inte tillräckligt specifik. Och den tar inte hänsyn till många av de nyanser som finns i samband med till exempel hämndporr, sextortion eller deepfake-porr.

Frågan är inte avgjord än

I Sverige har vi sett flera exempel på den här typen av fall, och förövarna har faktiskt blivit dömda. Men de har dömts enligt olika lagar som inte har något med artificiell intelligens att göra.

De kvinnor (och män) som får sina bilder stulna, till exempel från sociala medier, och plötsligt ser sig själva i en porrfilm eller liknande kan inte anmäla brottet som brott mot en lag om AI-nakenbilder eller deepfake-porr. I stället måste de pussla ihop sin anmälan utifrån olika lagar såsom lagen om oanständig exponering, GDPR eller strafflagen om ärekränkning, beroende på vilka lagar som gäller i deras land.

I Sverige kan den som sprider hämndporr dömas för olaga integritetsintrång, som blev straffbart 2018. I fjärde kapitlet, sjätte paragrafen i Brottsbalken står det att den som bryter mot lagen ”döms, om spridningen är ägnad att medföra allvarlig skada för den som bilden eller uppgiften rör, för olaga integritetsintrång till böter eller fängelse i högst två år”.

Används för barnpornografi 

Problemet är att deepfakes, precis som i fallet med Swift, inte är bilder av en annan människa. De ser bara ut som en annan människa. Och plötsligt blir en polisanmälan och en eventuell fällande dom en komplicerad fråga, för hur mycket måste något likna någon för att det ska representera offret i en sådan utsträckning att det är en brottslig handling? Och kan de nuvarande och mer allmänna straffen gälla för när nakenbilder och pornografiska filmer av kvinnor och minderåriga flickor genereras?

För tekniken används naturligtvis också för barnpornografi.

Sommaren 2023 råkade dussintals minderåriga flickor från Spanien ut för att AI-genererade nakenbilder av dem spreds i den grundskola de gick. Flickorna var mellan 12 och 14 år gamla och några av dem blev till och med kontaktade på sociala medier där en bedragare försökte pressa dem på pengar för att inte dela bilderna.

I fallet med de spanska skolbarnen eller det som drabbade Taylor Swift verkar det uppenbart att det krävs större medvetenhet om digitala sexualbrott.

Kanske kan det trots allt komma något gott ur hemska historier som dessa.

Vad kan EU göra? 

Den tekniska utvecklingen ställer helt nya krav på lagstiftning, riktlinjer och rättigheter och när vi ställs inför något nytt krävs det en eller flera stora händelser för att få oss att bestämma var våra gränser går. Vi får bara innerligt hoppas att Swift-fallet kan bli startskottet för en välbehövlig diskussion och ett ställningstagande kring ett stort och mycket akut problem.

Det behövs aktuella förändringar i lagstiftningen. 

Redan 2022, i kölvattnet av #MeToo, tog EU-kommissionen fram ett lagförslag som skulle göra det möjligt för EU-länder att slå hårdare mot bland annat övergrepp på kvinnor på nätet. Syftet är att komma åt cyberbrott som stalkning, trakasserier på nätet och delning av intima bilder utan samtycke, inklusive deepfakes.

Och det behövs aktuella förändringar i lagstiftningen. Precis som Facebooks Cambridge Analytica-skandal ledde till ny och relativt snabb lagstiftning om delning av personuppgifter, kan vi hoppas på en liknande konsekvens av AI-bilderna av Taylor Swift.

Mängden explicita och pornografiska deepfakes exploderade under 2023 och man kan förvänta sig att det är en trend som kommer att fortsätta att växa.

Som specialist på IT-säkerhetsbeteenden är det min väldokumenterade övertygelse att det är absolut nödvändigt med en tydligare och mer nyanserad lagstiftning på detta område. Och sedan måste det finnas en aktiv uppbackning som gör det möjligt att tillämpa den skärpta lagstiftningen – både nationellt och internationellt.