Deepfake eli syväväärennös

Deepfake naisiin kohdistuvan väkivallan välineenä

Deepfake eli syväväärennös on aidonnäköistä elävää kuvaa ja ääntä sisältävä videoväärennös, joka on tuotettu keinotekoisesti koneoppivan tekoälyn avulla.

Tavallisesti väärennys tapahtuu vaihtamalla olemassa olevaan videoon toisen henkilön kasvot ja usein myös tämän ääntä niin, että lopputulos on hyvin uskottava.

Arvioiden mukaan jopa 98 % verkon deepfake-sisällöstä on pornografista, ja siitä valtaosa kohdistuu naisiin.

Syväväärennyksissä on kyse digitaalisesta väkivallasta ja naisiin kohdistuessaan yleensä myös seksuaalisuutta loukkaavasta väkivallasta, sillä seksuaalisen sisällön luomisessa keskeistä on osallistuvien henkilöiden suostumus. Sitä deepfake-pornografiassa harvoin kysytään: noin 96 prosenttia syväväärennyksistä on luotu ilman kohteen suostumusta.

Syväväärennöksiä käytetään yhä useammin väkivallan ja kontrollin välineenä, erityisesti naisia kohtaan.

Deepfake on vakava loukkaus koskemattomuutta kohtaan

Vaikka deepfake-teknologialla tehty video ei ole aito, sen tekemisen ja levittämisen vaikutukset kohteeseen voivat olla yhtä vahingollisia kuin aidon intiimivideon luvattomassa käytössä.

Suostumukseton syväväärennetty video loukkaa vakavasti kohteensa yksityisyyttä, koskemattomuutta ja seksuaalista itsemääräämisoikeutta, vaikka se tapahtuukin digitaalisesti.

Seksuaalisuutta loukkaavan väkivallan lisäksi deepfake-sisältöä voidaan käyttää osana verkkohäirintää esimerkiksi yhteiskunnallisesti aktiivisia naisia kohtaan. Kasvava ilmiö on myös alaikäisten nuorten käyttäminen syväväärennyksissä verkko- ja kouluväkivallan yhteydessä.

Deepfake-porno on myös rahallisesti suuri bisnes, vaikka tuloista väärinkäytösten kohteet eivät tietenkään näe penniäkään.

Vaikka sisällöt eivät ole todellisia, niiden vaikutukset ovat

Syväväärennyksen kohteeksi joutuminen aiheuttaa paljon samoja seurauksia kuin muukin kuviin liittyvä väkivalta: häpeää, pelkoa, ahdistusta, eristäytymistä, mainehaittaa ja masennusta. Se voi traumatisoida ja aiheuttaa itsetuhoisuutta.

Vaikka deepfake-videoiden sisällöt eivät ole todellisia, niiden vaikutukset ovat.

Deepfake-pornografian kohteeksi joutuneet ovat kertoneet psykologisten vaikutusten olevan verrattavissa fyysiseen seksuaalisuutta loukkaavan väkivaltaan. Maailmalla on raportoitu tapauksia, joissa deepfake-sisältö on ajanut nuoria naisia ja tyttöjä itsemurhayrityksiin.

Pornografian lisäksi deepfake-videot saattavat sisältää fyysistä väkivaltaa, jolloin niiden vaikutukset kohteeseen voivat olla entistä vakavammat. Ovathan omat kasvot ihmiselle ehkä kaikkein henkilökohtaisin ja tunnistettavin asia kehossaan.

Toisen kasvojen käyttö ilman lupaa edellyttää empatian puutetta ja esineellistävää suhtautumista – se on vakava ihmisarvon loukkaus.

Lue lisää: Kuviin liittyvä väkivalta

Digitaalinen väkivalta rikkoo turvallisuudentunteen

Verkossa tapahtuvat väkivallanteot voivat olla yhtä satuttavia kuin verkon ulkopuolella tapahtuvat. Niihin liittyy myös piirteitä, jotka tekevät niistä erityisen haavoittavia.

Epätietoisuus väkivallan tekijästä tai siitä, kuinka laajalle kuvasto on levinnyt, ja kuinka moni tuttu ihminen sen on mahdollisesti nähnyt, voimistaa digitaalisen väkivallan psykologisia vaikutuksia.

Kuviin ja videoihin liittyvässä väkivallassa tavataan yleisesti merkittävää hallinnantunteen menetystä ja turvattomuutta, sillä kokijan mahdollisuus puuttua tilanteeseen on rajallinen.

Digitaalisesti tapahtuneeseen väkivaltaan suhtaudutaan valitettavan usein vähättelevästi, ja kokijaa saatetaan jopa syyllistää tapahtumasta. Tämä on omiaan vahvistamaan digitaalisen väkivallan vahingollisuutta.

Lue myös: Kuvien levittäminen ilman lupaa

Voiko syväväärennyksiltä suojautua?

Yksilöillä on rajalliset mahdollisuudet suojautua deepfake-väärinkäytöltä. Ainoa varma tapa olisi kaikkien omien valokuvien tuhoaminen, mikä on rajoittavaa ja jopa mahdotonta: esimerkiksi moni ammatti vaatii näkyvyyttä verkossa ja mediassa omilla kasvoillaan.

Olennaisinta väärinkäytön ehkäisemisessä onkin lainsäädäntö ja sääntely teknologian kehittämisessä ja käyttämisessä:

Suostumukseton deepfake-porno on tunnustettava väkivallaksi ja vakavaksi loukkaukseksi koskemattomuutta kohtaan. Sekä teknologiateollisuus että verkkoalustat on vastuutettava naisiin kohdistuvan väkivallan ehkäisyyn.

Myös asenneilmapiirin muutosta tarvitaan: Tutkimusten mukaan monet deepfake-sisältöä kuluttavat eivät koe katsomista vahingolliseksi, koska videolla oleva henkilö ja tapahtumat eivät ole aitoja. Todellisuudessa syväväärennykset satuttavat ja riistävät niitä naisia, joiden kasvoja käytetään ilman heidän suostumustaan.

Mitä teen, jos olen joutunut syväväärennyksen kohteeksi?

Jos sinusta on tehty ja levitetty deepfake-sisältöä ilman suostumustasi, kerää todistusaineistoa, raportoi sisältö sille alustalle, jolla se on julkaistu, ja tee rikosilmoitus. Sisältö kannattaa myös ladata talteen ja ilmoittaa se StopNCII.org-palveluun, joka etsii vastaavuuksia muilta alustoilta.

Suomen lainsäädännössä on seksuaalisen kuvan luvattoman levittämisen yhteydessä maininta myös väärennetystä kuvasta, joten tilanteessa kannattaa tehdä rikosilmoitus.

On ehdottoman tärkeää, että deepfake-pohjaiset väkivallanteot otetaan poliisin ja muiden viranomaisten toimesta vakavasti, ja niiden tutkintaan ohjataan resursseja. Pelkkä teon kriminalisointi ei riitä, jos se ei johda konkreettisiin toimiin.

Lue lisää: Näin keräät todistusaineistoa