Spoločnosť Facebook bude zo svojej rovnomennej sociálnej siete odstraňovať sofistikované falošné videá, ktorých cieľom je zmanipulovať divákov. Zákaz sa podľa oznámenia firmy týka najmä obsahu vytváraného prostredníctvom metód strojového učenia, ktorý sa označuje termínom "deepfake". Povolené naopak podľa všetkého zostávajú jednoduchšie formy manipulácie, ktoré v poslednej dobe opakovane vyvolávajú rozruch na americkej politickej scéne.
Deepfakes podľa Facebooku predstavujú pre digitálne platformy a spoločnosť všeobecne vážny problém. Na internete sú stále relatívnou vzácnosťou, ich používanie ale silnie, napísala na firemnom webe viceprezidentka Monika Bickertová. Nedávno sa objektom falošného videá tohto typu stal aj šéf Facebooku Mark Zuckerberg, keď jeden britský umelec upravil úryvok z jeho televízneho interview. Zuckerberg sa potom vo vierohodne vyzerajúcim klipe okrem iného chválil tým, že má absolútnu moc nad "ukradnutými dátami miliárd ľudí".
Z Instagramu, ktorého vlastníkom je už niekoľko rokov Facebook, príspevok do dnešného dňa stiahnutý nebol. Na najväčšej sociálnej sieti sveta by bol teraz zrejme zakázaný. "Budeme odstraňovať zavádzajúci upravený obsah, ... ak pôjde o produkt umelej inteligencie či strojového učenia vytvorený spojením, nahradením či prekrytím obsahu vo videu, čím je navodený dojem, že je video autentické," vysvetľuje Bickertová.
Zákaz sa vzťahuje aj na inak upravené videá, ktoré by mohli používateľa presvedčiť, že osoba na obrazovke "predniesla slová, ktoré v skutočnosti nepovedala". Editácia obsahu pritom musí byť za hranicou jednoduchého vylepšenie kvality a musela by byť vykonaná tak, že pre "priemerného človeka" nebola zjavná.
Mnohí analytici však majú za to, že aspoň v najbližšej dobe môžu väčšiu hrozbu než "deepfakes" predstavovať oveľa jednoduchšie formy manipulácie. Médiá v súvislosti s novým opatrením Facebooku pripomínajú najmä minuloročnú kauzu s predsedníčkou americkej Snemovne reprezentantov Nancy Pelosiovej. Na facebooku a ďalších platformách sa vlani šírili spomalené zábery z jej prejavu, ktoré boli prezentované ako dôkaz, že Pelosiová je opitá alebo trpí zdravotnými problémami.
"Upravené video predsedníčky Pelosiovej nespĺňa miery tohto opatrenia a nebolo by vymazané. Blokované budú len videá vytvorené umelou inteligenciou, ktoré ukazujú ľudí, ako hovoria fiktívne výroky," povedal Facebook agentúre Reuters.
Bickertová v blogovom príspevku dopĺňa, že ohlásený zákaz sa netýka ani paródií a satiry či videí, v ktorých chýbajú časti vyjadrenia hovorcu, alebo v ktorých je zmenené poradie výrokov. Sitom by tak prešiel aj hojne zdieľaný klip z minulého týždňa, v ktorom boli vytrhnuté z kontextu slová bývalého amerického viceprezidenta Joea Bidena v snahe zobraziť ho ako rasistu.
Výnimka pre paródiu a satiru by podľa denníka The Washington Post mohla viesť k ošemetným polemikám pri posudzovaní manipulatívneho obsahu. Medzery v novom opatrení Facebooku vzbudzujú obavy aj u profesora Kalifornskej univerzity Hanyho Farida, ktorý sa špecializuje na analýzu digitálnych záberov. Zákaz je podľa neho príliš "úzko vymedzený".
"Tieto zavádzajúce videa (s Pelosiovú a Bidenom) boli vytvorené jednoduchými technológiami a neopierali sa o metódy založené na umelej inteligencii, napriek tomu bola prinajmenšom tak zavádzajúce ako deepfake," povedal Farid. "Prečo sa zameriavať len na deepfakes a nie na širší problém s úmyselne manipulatívnymi videami?" pýtal sa.
Facebook sa obhajuje tým, že v prípadoch, keď daný príspevok neporušuje pravidlá platformy, môže byť stále video po analýze označené za "falošné alebo čiastočne falošné". Prevádzkovateľ tejto sociálnej siete následne obmedzí distribúciu takéhoto príspevku a pripojí k nemu upozornenie nezávislých kontrolórov. Podľa Bickertovej je uvedený postup lepší, ako keby sa videá zmazávali, pretože "by stále boli dostupné inde na internete".