sreda, 04. december 2024 leto 29 / št. 339
Ponarejen posnetek ustanovitelja Facebooka Marka Zuckerberga kaže na zloveščo moč izdelovanja lažnih novic
Mark Zuckerberg Vir: YouTube
Na Instagramu je bil objavljen lažen videoposnetek Marka Zuckerberga, ki govori o zlovešči moči Facebooka, poroča portal VICE.
Dva umetnika in oglaševalska družba sta ustvarila lažen video ustanovitelja Facebooka, Marka Zuckerberga, ki govori stvari, ki jih dejansko ni nikoli izrekel. Video je bil naložen na Instagram – po njem so se usuli všečki in vrsta komentarjev, ogledalo pa si ga je že več kot 85.000 ljudi.
Sporni videoposnetek, ki so ga ustvarili umetniki Bill Poster in Daniel Howe v sodelovanju z oglaševalskim podjetjem Canny, prikazuje Marka Zuckerberga, ki sedi za mizo in več kot očitno daje zlovešč govor o moči Facebooka.
Videoposnetek je uokvirjen s predvajalnikom chyrons, da daje vtis, kot bi Facebookov vodja dejansko govoril za dobro poznani medij CBSN, z naslovom, ki pravi »Povečujemo preglednost oglasov«, da bi bilo videti, kot da je del segmenta novic.
Sporni videoposnetek, prikazuje Marka Zuckerberga, ki sedi za mizo in več kot očitno daje zlovešč govor o moči Facebooka
CBSN je že zahteval, da Facebook odstrani videoposnetek, saj prikazuje »nepooblaščeno uporabo blagovne znamke CBSN«.
»Za sekundo si zamislite to: en človek, ki ima popoln nadzor nad milijardami ukradenih podatkov ljudi, pozna vse njihove skrivnosti, njihova življenja, prihodnost,« pravi Zuckerbergova podoba v videu. »Vse dolgujem Spectru. Spectre mi je pokazal, da tisti, ki nadzoruje podatke, nadzoruje prihodnost.«
Prvotni, resnični videoposnetek je na naslovu Zuckerbergovega Instagram profila iz septembra 2017, ta govori o ruskem volilnem vmešavanju na Facebooku.
Omenjeni lažni video je le eden izmed mnogih, ki so jih ustvarili s programsko opremo CannyAI, vključno s tistima, kjer so prikazani Kim Kardashian, Donald Trump in Freddy Mercury, kot del razstave umetne inteligence z imenom Spectre, ki je potekala v okviru Sheffield Doc Fest v Veliki Britaniji.
»To vsebino bomo obravnavali na enak način, kot obravnavamo vse napačne informacije na Instagramu,« je za Motherboard povedal tiskovni predstavnik za Instagram.
Po virusnem širjenju manipuliranega Facebook videa, voditeljice demokratov v predstavniškem domu Nancy Pelosi (ameriški predsednik Donald Trump je delil tweet videa govornice, ki je bil »urejen« oziroma ponarejen, tako da je bila Nancy Pelosi slišati, kot da bi bila pijana) je bil Facebook prisiljen sprejeti stališče o tem, ali je ponarejenim ali spremenjenim slikam in videom dovoljeno ostati na spletnem mestu.
Namesto brisanja videoposnetka se je podjetje odločilo, da ga postavi v ozadje, tako da se ta pojavi manj pogosto v uporabniških virih.
Omenjeni lažni video je le eden izmed mnogih, ki so jih ustvarili s programsko opremo CannyAI
Takrat je Neil Potts, direktor javnega reda na Facebooku, dejal, da če bi kdo objavil manipuliran video Zuckerberga, kot je bil primer Pelosi, bi ta ostal na spletu.
Zdaj, ko se je to dejansko zgodilo, bo njegov stavek na težki preizkušnji. Instagram je v lasti Facebooka, zato bi sporni video z lahkoto odstranili.
Ustanovitelja Canny, Omer Ben-Ami in Jonathan Heimann, sta za blog FXGuide povedala, da je njuno delo nastalo po algoritmih, ki so jih razvili raziskovalci iz Washingtonske univerze (UW), ki so posnetke ljudi, ki so govorili v orginalnem videoposnetku, priredili, da izgledajo tako, kot da govorijo čisto druge besede.
Raziskovalci UW so to takrat dokazali z obrazom Baracka Obame. Rekli so, da jih je navdihnil Stanfordov program Face2Face, ki je omogočil vnovično rekonstrukcijo obraza v realnem času.
Ben-Ami je razkril, da je za izdelavo ponarejenih videoposnetkov v Canny uporabil lastniški algoritem AI, ki je vsega 12-24 ur »treniral« na 20 do 45 sekundnih prizorih ciljnega obraza.
Za Zuckerbergov lažni video, so Cannyjevi inženirji izrezali 21-sekundni segment iz prvotnega 7-minutnega videa, trenirali algoritem na tem posnetku in drugih video posnetkih govornika, nato pa rekonstruirali okvirje v Zuckerbergovem videu, da se ujemajo z obraznimi gibi in glasu.
Rezultat je dokaj realističen - če izklopite zvok. Na videoposnetku je namreč jasno, da glas ni Zuckerbergov, ampak od nekoga, ki poskuša narediti vtis. Toda lažna figura na posnetku se brez težav premika, kot bi bil to res Zuckerberg.
Nihče ne preprečuje ustvarjanja in širjenja lažnih videoposnetkov.
Ben-Ami je dejal, da je Canny to videl kot priložnost za izobraževanje javnosti o uporabi AI danes, pa tudi, da si sploh lahko predstavljamo, kaj sledi v prihodnosti.
»Pravi potencial, ki ga vidimo za to tehnologijo, je v sposobnosti ustvarjanja fotografskega, realističnega modela človeškega bitja,« je dejal. »Za nas je to naslednji korak v naši digitalni evoluciji, kjer bi na koncu vsak izmed nas lahko imel digitalno kopijo, ki bi trajala večno. To bo spremenilo način, kako bomo delili in pripovedovali zgodbe, se spominjali naših najdražjih in ustvarjali vsebine.«
Morda se sliši mamljivo, vendar pa obstaja vsaj en problem, ki ga je potrebno izpostaviti – če tehnologija pride v napačne roke, lahko povzroči ogromno škode.
Tovrstni videi, označeni kot »umetniško delo« so (zaenkrat), pravno gledano - zakoniti. Nihče torej ne preprečuje ustvarjanja in širjenja lažnih videoposnetkov - ki pa bi brez dvoma lahko imeli tudi hude posledice, če bi se prepričljivo zavajanje javnosti prijelo kot nekaj resničnega.
