Kľúčové poznatky
- Keďže sa deepfake stáva jednoduchším, nové a vylepšené spôsoby ich rozpoznania sa stali prioritou.
- Facebooková technológia deepfake-spotting využíva reverzné strojové učenie na odhalenie, či je video deepfake alebo nie.
- Odborníci tvrdia, že použitie technológie blockchain by bolo najlepším spôsobom, ako zistiť, či je video skutočné alebo nie, pretože metóda sa spolieha na kontextové údaje.
Facebook je presvedčený o svojom modeli strojového učenia na boj proti deepfake, no odborníci tvrdia, že samotné strojové učenie nás nezachráni pred oklamaním deepfakes.
Spoločnosti ako Facebook, Microsoft a Google sa všetky snažia bojovať proti šíreniu deepfake cez web a sociálne siete. Aj keď sa metódy líšia, existuje jedna potenciálna spoľahlivá metóda na rozpoznanie týchto falošných videí: blockchains.
“[Blockchains] vám dáva veľa potenciálu overiť deepfake spôsobom, ktorý je tou najlepšou formou overenia, akú vidím,“Stephen Wolfram, zakladateľ a generálny riaditeľ spoločnosti Wolfram Research a autor knihy A New Kind of Science, povedal Lifewire po telefóne.
Facebook's Deepfake-Spotting Tech
Technológia Deepfake sa za posledných pár rokov rýchlo rozrástla. Zavádzajúce videá využívajú metódy strojového učenia na veci, ako je prekrytie tváre niekoho iného na telo inej osoby, zmena podmienok pozadia, falošná synchronizácia pier a ďalšie. Pohybujú sa od neškodných paródií až po prinútenie celebrít alebo verejných činiteľov povedať alebo urobiť niečo, čo neurobili.
Odborníci tvrdia, že technológia rýchlo napreduje a že deepfakes budú presvedčivejšie (a ľahšie sa vytvoria), keď sa technológia stane dostupnejšou a inovatívnejšou.
Facebook nedávno v spolupráci s Michiganskou štátnou univerzitou poskytol viac informácií o svojej technológii detekcie hlbokých falošných správ. Sociálna sieť tvrdí, že sa spolieha na reverzné inžinierstvo od jedného obrázka vygenerovaného umelou inteligenciou až po generatívny model použitý na jeho vytvorenie.
Výskumní vedci, ktorí spolupracovali s Facebookom, uviedli, že metóda sa opiera o odhalenie jedinečných vzorov za modelom AI, ktorý sa používa na generovanie deepfake.
„Zovšeobecnením priradenia obrázkov na rozpoznávanie s otvoreným súborom môžeme odvodiť viac informácií o generatívnom modeli použitom na vytvorenie hlbokého falošného obrazu, ktorý presahuje rozpoznanie toho, že ho ešte nikto nevidel. A sledovaním podobností medzi vzormi zbierky deepfakes by sme mohli tiež povedať, či séria obrázkov pochádza z jedného zdroja, “napísali vedci Xi Yin a Tan Hassner v blogovom príspevku Facebooku o metóde deepfake-spotting.
Wolfram hovorí, že dáva zmysel, že by ste použili strojové učenie na zistenie pokročilého modelu AI (deepfake). Vždy však existuje priestor na oklamanie technológie.
„Vôbec ma neprekvapuje, že existuje slušný spôsob strojového učenia [odhaľovania deepfakes],“povedal Wolfram. „Jediná otázka je, ak vynaložíte dostatočné úsilie, dokážete to oklamať? Som si istý, že môžeš.“
Boj proti Deepfakes iným spôsobom
Namiesto toho Wolfram povedal, že je presvedčený, že použitie blockchainu by bolo najlepšou možnosťou na presné zistenie určitých typov deepfakes. Jeho názor na používanie blockchainu pred strojovým učením sa datuje do roku 2019 a povedal, že v konečnom dôsledku môže blockchainový prístup poskytnúť presnejšie riešenie nášho problému s hlbokými falošnými správami.
„Očakával by som, že diváci obrázkov a videí sa môžu bežne porovnávať s blockchainmi (a „výpočtami na trianguláciu údajov“), podobne ako teraz webové prehliadače kontrolujú bezpečnostné certifikáty,“napísal Wolfram v článku publikovanom v Scientific American.
Keďže blockchainy ukladajú dáta do blokov, ktoré sú potom zreťazené v chronologickom poradí, a keďže decentralizované blockchainy sú nemenné, zadané údaje sú nevratné.
Jediná otázka je, ak vynaložíte dostatočné úsilie, dokážete to oklamať? Som si istý, že môžeš.
Wolfram vysvetlil, že vložením videa do blockchainu budete môcť vidieť čas, kedy bolo natočené, miesto a ďalšie kontextové informácie, ktoré vám umožnia zistiť, či bolo nejako zmenené.
„Vo všeobecnosti platí, že čím viac metadát, ktoré zaraďujú obrázok alebo video do kontextu, tým je pravdepodobnejšie, že to budete vedieť povedať,“povedal. “Na blockchaine nemôžete predstierať čas.”
Wolfram však povedal, že použitá metóda – či už ide o strojové učenie alebo používanie blockchainu – závisí od typu deepfake, pred ktorým sa snažíte chrániť (t. j. video Kim Kardashian, ktorá hovorí niečo hlúpe, alebo video politik robí vyhlásenie alebo návrh).
„Blockchainový prístup chráni pred určitými druhmi falzifikátov, rovnako ako spracovanie obrazu pomocou strojového učenia chráni pred určitými druhmi falzifikátov,“povedal.
Zdá sa, že základom je ostražitosť nás všetkých, pokiaľ ide o boj s prichádzajúcou hlbokou falošnou potopou.
