Ksenija Turkova, novinarka ruskog servisa Glasa Amerike, sjedi za stolom i gleda direktno u kameru. Ona nosi sako i predstavlja gosta koji će pričati o softveru za trgovanje kriptovalutama. Turkova liči na sebe, i zvuči kao ona.
Jedini problem je što ovaj video nije stvaran. To je "deepfake"— lažni video koji je kreirala vještačka inteligencija da bi izgledao autentično.
To je također zabrinjavajući primer korištenja vještačke inteligencije za kreiranje video snimaka u kojima pravi voditelji vijesti izvještavaju o lažnim pričama, fenomen za koji stručnjaci kažu da nosi rizik širenja dezinformacija i rast nepovjerenja u medije.
Ruski servis Glasa Amerike u petak je saznao da se na Facebooku širi lažni video koji koristi logo VOA i glas i izgled Turkove generisanih vještačkom inteligencijom. Umjesto vesti, video je promovisao trgovački proizvod.
Kada je Turkova prvi put vidjela snimak u petak, kaže da joj je trebalo nekoliko trenutaka da shvati da je lažan.
"Moja prva reakcija je bila: Ne sjećam se toga. Nisam to rekla", rekla je ona. "Onda sam shvatila da je to 'deepfake'. Nikada nisam doživjela tako nešto."
Daleko od toga da je Glas Amerike jedini medij koji je bio meta ove vrste taktike — čija je sveprisutnost razlog za zabrinutost među stručnjacima za vještačku inteligenciju i dezinformacije. To je relativno nov trend, ali novinari u novinskim kućama, uključujući CNN, CBS i BBC, također su bili predmet "deepfakea", koje obično imaju za cilj širenje lažnih informacija.
Porijeklom iz Moskve, Turkova je radila kao novinarka u Rusiji i Ukrajini prije nego što se preselila u Sjedinjene Države 2017. da radi za Glas Amerike. Rekla je da je više zabrinuta zbog potencijalnih budućih "deepfakeova" njenog glasa i pojave, nego zbog ovog konkretnog snimka.
"Dobro je da je to bila reklama. Ali šta će se desiti sljedeći put? Šta ako lažiraju snimak na kojem govorim da podržavam Putinov rat u Ukrajini, na primjer, ili kažem da podržavam terorističke napade? Ili će to biti porno sadržaj? Osjećala sam se ranjivo i bojim se da moja reputacija i koredibilitet novinarke mogu biti u opasnosti", dodala je Turkova.
U snimku Turkova prvo čita najavu na ruskom. Ali većina video snimka se sastoji od govora Jurija Milnera, izraelskog preduzetnika rođenog u Sovjetskom Savezu, također generisanog vještačkom inteligencijom. Milner hvali trgovačku platformu Kuantum AI u reklami. Nejasno je da li je platforma za trgovanje legalna.
Video je postavljen na Facebook nalog argentinske komunikacijske agencije Digit Estudio, koja izgleda kao neaktivna od 2021. Glas Amerike nije mogao da utvrdi ko je napravio video. Nalog na Facebooku, kao ni video snimci, više se ne vide.
Glas Amerike je poslao poruku na broj telefona naveden na LinkedIn nalogu Digit Estudija, ali nije dobio odgovor. Meta, vlasnik Facebooka, nije odgovorila na zahtjev Glasa Amerike za komentar.
Glas Amerike je prošle nedjelje podneo žalbu Facebooku u vezi sa snimkom, ali ništa nije riješeno, rekla je portparolka Glasa Amerike Emily Webb u saopštenju.
"Veoma smo zabrinuti zbog prijetnje koju vještačka inteligencija predstavlja za misiju Glasa Amerike da pruža nepristrasno i činjenično izvještavanje", dodala je Webb.
Do nedavno, pravljenje lažnih video snimaka za vijesti bilo je previše skupo, zahtijevalo je vrijeme i resurse, kaže za Glas Amerike John Scott-Railton, koji istražuje dezinformacije u Citizen Lab.
"To više nije slučaj. Činjenice su u nepovoljnom položaju, a dio cijene koju plaćamo za ovo je nepovjerenje u stare medije i prave novinske kuće", rekao je on.
"Važno je zapamtiti da poenta dezinformacija često nije da ubijedi ljude da razmišljaju na ovaj ili onaj način", rekao je za Glas Amerike Paul Barrett, zamjenik direktora Stern centra za biznis i ljudska prava Univerziteta u New Yorku.
"Oni ne pokušavaju da vam promijene mišljenje. Oni pokušavaju da potkopaju vašu vjeru u ono što vidite, čujete i čitate tako da biste bili zbunjeni. Kada to izgleda kao da ste Glas Amerike ili CNN, to je savršen način da zbunite ljude", kaže on.
Usavršavanje praćenja vijesti može biti efikasna strategija dezinformisanja jer su voditelji vijesti - lica kojima vjerujemo u konvencionalnim medijima, rekao je Bill Drexel, koji radi na vještačkoj inteligenciji u Centru za novu američku bezbjednosnu istraživačku centralu u Washingtonu.
Oni koji se služe ovom vrstom dezinformacija "u suštini otimaju" vjerodostojnost i legitimitet vijesti, dodao je on.
"Čini se da je korištenje voditelja vijesti jedna od efikasnijih metoda za širenje laži i dezinformacija koje smo do sada vidjeli", rekao je Drexel.
Za Barretta, "deepfake" snimci vesti izazivaju potrebu za vladinom regulacijom vještačke inteligencije. Američki predsjednik Joe Biden potpisao je u ponedjeljak izvršnu uredbu kojom se postavljaju početne zaštite za kompanije koje rade sa vještačkom inteligencijom.
Barrett je rekao da su novi propisi sveobuhvatni, ali je upozorio da ne postoji naredba koju Bijela kuća može izdati kako bi spriječila strane vlade ili druge aktere da zloupotrebe sisteme vještačke inteligencije.
"To je aspekt uvođenja nove tehnologije koji zahteva od onih koji tu tehnologiju prave da preduzmu korake kako bi bili sigurni da se njihovim proizvodima ne može manipulisati", rekao je Barrett.
Turkova također brine o tome kako bi se ovakvi snimci mogli koristiti protiv nje u budućnosti.
"Ne želim da povjerenje publike bude u opasnosti", rekla je ona. "Sve je tako krhko."
