Aidon näköisiä deep fake -valevideoita on yhä helpompi tehdä – Tutkija: "Asiaan pitäisi alkaa varautumaan ja suhtautumaan kriittisesti"

Aidon näköisiä deep fake -valevideoita voidaan viihteen lisäksi käyttää esimerkiksi informaatiovaikuttamiseen sekä pornoon.

Kuvakaappaus Youtube-käyttäjä ctrl shift facen deep fake -videosta, jossa Terminator 2 -elokuvan päähahmon näyttelijä Arnold Schwarzenegger on korvattu Sylvester Stallonella.
Kuvakaappaus Youtube-käyttäjä ctrl shift facen deep fake -videosta, jossa Terminator 2 -elokuvan päähahmon näyttelijä Arnold Schwarzenegger on korvattu Sylvester Stallonella.

Juho Korpela

Ethän usko kaikkea, mitä näet internetissä?

Näin kiteyttää slovakialainen deep fake -valevideoiden tekijä. Deep fake -videoissa esiintyvien ihmisten kasvot on korvattu toisilla. Valevideo voi näyttää todella aidolta. Ensimmäinen valevideo julkaistiin vuonna 2017. Siinä Barack Obama haukkui Donald Trumpia.

Kuvamateriaalin avulla kenestä tahansa voidaan luoda periaatteessa mitä tahansa, sillä ohjelma käsittelee halutun ihmisen kasvonpiirteitä ja eleitä ja korvaa videon alkuperäiset kasvot uusilla.

Jopa ääntä voidaan käsitellä niin, että videossa esiintyvän henkilön sanottavaksi voidaan laittaa mitä tahansa.

Slovakialainen deep fake -videoita tekevä käyttäjä nimeltään ctrl shift face on julkaissut Youtubeen muun muassa videon Terminator 2 -elokuvasta.

Lähes kolme miljoonaa katselukertaa keränneessä muokatussa videossa elokuvan pääroolissa ei olekaan Arnold Schwarzenegger, vaan Sylvester Stallone.

Youtube-tunnuksen takana oleva käyttäjä ei anna haastattelua omalla nimellään. Hän on kertonut aiemmin olevansa 31-vuotias Slovakiassa syntynyt mies.

Hän kirjoittaa sähköpostitse, että ihmisten tulisi tietää, että deep fake -videoiden tekeminen on mahdollista.

– Ihmiset ovat olleet tietoisia vuosikymmenen, että kuvia voidaan manipuloida. Nyt he eivät kuitenkaan tiedä, että videoita voi manipuloida tekoälyn avulla.

– Ihmisten tulisi olla entistä tarkkaavaisempia, jotta he olisivat valmiimpia mahdollisia valeuutiskampanjoita varten, slovakialainen kirjoittaa.

Hän kertoo yhden videon tekemisen kestävän kolmesta viiteen päivää.

Puolustusvoimien tutkimuslaitoksen doktriiniosaston tutkija Veli-Pekka Kivimäen mukaan väärennetyt videot voivat olla myös informaatiovaikuttamisen väline. Niillä pystyttäisiin tekemään informaatio-operaatioita.

– Joku voisi videoilla niin halutessaan yrittää mustamaalata esimerkiksi jonkun maan sotilaita tai poliittisia päättäjiä.

Kivimäki pitää väärennettyjen videoiden leviämistä uhkana tulevaisuudessa.

– Sitä mukaan, kun muokkaamisesta tulee helpompaa, niin verkosta löytyy enemmän väärennettyä materiaalia. Asiaan pitäisi alkaa nyt varautumaan ja suhtautumaan kriittisesti.

Väärennettyjen videoiden tekemisen taitovaatimus laskee koko ajan ja jo nyt puhelimista löytyy erilaisia sovelluksia, joilla pystyy tekemään pienimuotoisia väärennöksiä.

Kivimäen mukaan niiden jälki on osin rujoa, mutta laatu paranee koko ajan. Aidon näköisten videoiden tekeminen vaatii tekijältä osaamista, ainakin vielä.

– Videoiden tekemiseen vaadittava taitotaso laskee koko ajan. Jossain vaiheessa tulee vastaan tilanne, että sovelluskehittäjien pitää miettiä, kuinka helpoksi tämä halutaan tehdä.

Pelastakaa Lapset ry:llä on käynnissä valistuskampanja deep fake -videoista. Kampanjalla tavoitellaan asiantuntija Hanna-Leena Laitisen mukaan lasten medialukutaidon sekä -kriittisyyden lisäämistä ja valheellisten videoiden tunnistamisen oppimista. Kampanja pyörii pääosin lasten ja nuorten suosimassa Tiktokissa.

Kun ihmisten digitaalinen jalanjälki kasvaa ja valheellinen sisältö yleistyy, niin teknologia mahdollistaa entistä helpommin väärinkäytökset, Laitinen toteaa.

– Valheellinen sisältö yleistyy ja teknologia mahdollistaa väärinkäytökset. Esimerkiksi arkisia lasten ja nuorten itse ottamia kuvia muokataan seksuaaliseksi ja liitetään osaksi pornograafista sivustoa.

Kampanjalla pyritään auttamaan valheellisten videoiden tunnistamista.

– Lasten lisäksi myös aikuisilla on vaikeuksia tunnistaa valevideoita, -kuvia ja -uutisia ja ne leviävät verkossa yhä enemmän.

Deep fake -videot ovat rantautuneet parin vuoden aikana myös pornoteollisuuteen. Verkosta löytyy materiaalia, joissa videolla esiintyvän pornonäyttelijän naama on korvattu julkisuudesta tutun henkilön naamalla.

Monet isot sosiaalisen median kanavat ovat kieltäneet tällaisen materiaalin levittämisen palveluissaan.

Tekniikan kehitys ei tyssää tähän. Muun muassa CNN kirjoitti toukokuussa, että tutkijat ovat kehittäneet teknologiaa, jolla pelkästään yhdestä kuvasta voisi luoda väärennetyn videon.

Haluatko käyttää

Osallistuaksesi keskusteluihin ole hyvä ja kirjaudu TS-tunnuksillasi

Olet kirjautuneena yritystunnuksella. Yritystunnuksella ei voi osallistua keskusteluihin.
Kirjoita uusi viesti
Viesti

Viesti lähetetty!

Keskusteluja julkaistaan arkisin kello 9–23 ja viikonloppuisin kello 8–22.
Virhe viestin lähetyksessä.
TS:n verkkokeskustelun säännöt

Uudet näkökulmat keskustelussa vievät asioita eteenpäin. Siksi Turun Sanomat kannustaa verkkosivuillaan aktiiviseen ja rakentavaan keskusteluun.

Verkkokeskusteluun osallistuminen edellyttää rekisteröitymistä (jonka pääset tekemään tästä). Rekisteröityminen ei edellytä lehden tilaamista.

Keskusteluun voit kirjoittaa omalla nimelläsi tai nimimerkillä. Suosittelemme oman nimen käyttöä, sillä on arvokasta seistä mielipiteidensä takana. Ole kriittisenäkin kohtelias ja kunnioita muita. Epäasiallinen käytös estää osallistumisen keskusteluun.

Turun Sanomien verkkokeskusteluun tulevat viestit tarkastetaan ennakolta. Siksi viestit julkaistaan viiveellä, ja julkaisusta päättää toimitus. Keskusteluja julkaistaan arkisin kello 9–23 ja viikonloppuisin kello 8–22. Toimitus voi lyhentää ja muokata kirjoituksia.

Kirjoittaja on juridisessa vastuussa viestinsä sisällöstä. Rasistisia, herjaavia tai ihmisten yksityisyyttä loukkaavia viestejä ei julkaista. Muista hyvät tavat, älä huuda äläkä kiroile.

Kirjoita napakasti. Emme julkaise yli 1 800 merkin viestejä. Pysy keskusteluketjun aihepiirissä. Älä yritä muuttaa aihetta. Tekstin yhteyteen voi liittää teemaan liittyviä asiallisia linkkejä, jotka toimitus tarkistaa ennalta. Mainoksia emme julkaise.

Verkon keskustelut ovat osa Turun Sanomien sisältöä, josta olemme vastuussa. Toimitus voi harkintansa mukaan sulkea keskusteluketjun.

Aiemmat viestit (1)

Vastaa
Ademeion Ademo
Toinenkin ongelma
Aihe on mielestäni mielenkiintoinen ja merkittävä. Vaikeasti tunnistettavien videoväärennösten ongelma ei ole vain se, että ihmisiä voidaan harhauttaa uskomaan sellaiseen mitä ei ole tapahtunut. Iso ongelma on myös se, että parempien väärennösten myötä videoiden todistusvoima heikkenee. Kun ihmiset eivät enää tiedä mihin videoihin he voivat luottaa, moni ratkaissee asian niin, ettei luota niistä enää mihinkään. Videoita analysoivat asiantuntijat ovat peruskansalaista paremmassa asemassa, mutta heillekin käynee yhä vaikeammaksi selvittää videoiden aitoutta. Epävarmojen tulosten määrä kasvaa, ja kynnys käydä selvittämään jonkin yksittäisen videon aitoutta nousee prosessin vaatiman korkean asiantuntemuksen, suuren työmäärän ja hinnan vuoksi.

Terminologiasta puhuen, "deep fake" on mielestäni aika turha ilmaus. Yhdysvalloissa tällaisten "myyvien" termien keksiminen asialle kuin asialle on osa kaupallisuuden läpitunkemaa kulttuuria. Julkiseen keskusteluun nostettavia asioita käsitellään tuotteina, jotka pyritään ikään kuin myymään yleisölle. Kiehtova nimi on kääre, jonka tarkoitus lisätä "myyntiä". Kun sanahöttö sivuutetaan, asiassa ei ole kyse sen kummemmasta kuin väärennösten laadun paranemisesta. Valokuvissa on jo ennen videoita osattu tehdä korkeatasoisia väärennöksiä, ja aiheesta keskusteleminen on onnistunut mainiosti ilman "deep fakea". "Väärennös" ja "kuvamanipulaatio" yms. ovat riittäneet mainiosti. Jos haluaa korostaa väärennöksen laatua, voi puhua esimerkiksi taitavasta tai korkeatasoisesta väärennöksestä.

"Verkosta löytyy materiaalia, joissa videolla esiintyvän pornonäyttelijän naama on korvattu julkisuudesta tutun henkilön naamalla."

Asiakielessä puhutaan "kasvoista", ei "naamasta". Kummatkin sopivat puhekieleen.
Haluatko käyttää
Olet kirjautuneena yritystunnuksella. Yritystunnuksella ei voi osallistua keskusteluihin.
Kirjoita vastaus viestiin
Viesti

Viesti lähetetty!

Keskusteluja julkaistaan arkisin kello 9–23 ja viikonloppuisin kello 8–22.
Virhe viestin lähetyksessä.
TS:n verkkokeskustelun säännöt

Uudet näkökulmat keskustelussa vievät asioita eteenpäin. Siksi Turun Sanomat kannustaa verkkosivuillaan aktiiviseen ja rakentavaan keskusteluun.

Verkkokeskusteluun osallistuminen edellyttää rekisteröitymistä (jonka pääset tekemään tästä). Rekisteröityminen ei edellytä lehden tilaamista.

Keskusteluun voit kirjoittaa omalla nimelläsi tai nimimerkillä. Suosittelemme oman nimen käyttöä, sillä on arvokasta seistä mielipiteidensä takana. Ole kriittisenäkin kohtelias ja kunnioita muita. Epäasiallinen käytös estää osallistumisen keskusteluun.

Turun Sanomien verkkokeskusteluun tulevat viestit tarkastetaan ennakolta. Siksi viestit julkaistaan viiveellä, ja julkaisusta päättää toimitus. Keskusteluja julkaistaan arkisin kello 9–23 ja viikonloppuisin kello 8–22. Toimitus voi lyhentää ja muokata kirjoituksia.

Kirjoittaja on juridisessa vastuussa viestinsä sisällöstä. Rasistisia, herjaavia tai ihmisten yksityisyyttä loukkaavia viestejä ei julkaista. Muista hyvät tavat, älä huuda äläkä kiroile.

Kirjoita napakasti. Emme julkaise yli 1 800 merkin viestejä. Pysy keskusteluketjun aihepiirissä. Älä yritä muuttaa aihetta. Tekstin yhteyteen voi liittää teemaan liittyviä asiallisia linkkejä, jotka toimitus tarkistaa ennalta. Mainoksia emme julkaise.

Verkon keskustelut ovat osa Turun Sanomien sisältöä, josta olemme vastuussa. Toimitus voi harkintansa mukaan sulkea keskusteluketjun.

Tee ilmoitus sopimattomasta viestistä

Ilmoituksesi on siirtynyt käsittelyyn.
Virhe ilmoituksen lähetyksessä.
  • «
  • 1
  • /
  • 1
  • »