Kľúčové poznatky
- Nový výskum odhaľuje, že ľudia nedokážu oddeliť obrázky vytvorené umelou inteligenciou od skutočných.
- Účastníci hodnotili obrázky vytvorené umelou inteligenciou ako dôveryhodnejšie.
- Odborníci sa domnievajú, že ľudia by mali prestať dôverovať všetkému, čo vidia na internete.
Porekadlo „vidieť znamená veriť“už nie je na internete relevantné a odborníci tvrdia, že sa to tak skoro nezlepší.
Nedávna štúdia zistila, že obrázky tvárí generované umelou inteligenciou (AI) boli nielen vysoko fotorealistické, ale vyzerali aj cnostnejšie ako skutočné tváre.
"Naše hodnotenie fotorealizmu tvárí syntetizovaných AI naznačuje, že motory syntézy prešli tajomným údolím a sú schopné vytvárať tváre, ktoré sú na nerozoznanie a sú dôveryhodnejšie ako skutočné tváre," poznamenali výskumníci.
Táto osoba neexistuje
Výskumníci, Dr. Sophie Nightingale z Lancaster University a profesor Hany Farid z University of California, Berkeley, vykonali experimenty po tom, čo uznali dobre propagované hrozby hlbokých falzifikátov, od všetkých druhov online podvodov až po povzbudzujúce dezinformačné kampane.
„Možno najškodlivejší je ten dôsledok, že v digitálnom svete, v ktorom je možné sfalšovať akýkoľvek obrázok alebo video, môže byť pravosť akejkoľvek nepohodlnej alebo nevítanej nahrávky spochybnená,“tvrdili vedci.
Tvrdili, že hoci sa dosiahol pokrok vo vývoji automatických techník na detekciu hlboko falošného obsahu, súčasné techniky nie sú dostatočne efektívne a presné, aby držali krok s neustálym prúdom nového obsahu, ktorý sa nahráva online. To znamená, že je na spotrebiteľoch online obsahu, aby rozdelili skutočný od falošného, navrhuje duo.
Jelle Wieringa, zástanca povedomia o bezpečnosti v KnowBe4, súhlasil. Prostredníctvom e-mailu pre Lifewire povedal, že boj so skutočnými hlbokými falzifikátmi je mimoriadne ťažký bez špecializovanej technológie. „[Technológie na zmiernenie dôsledkov] môžu byť drahé a ťažko implementovateľné do procesov v reálnom čase, pričom často identifikujú deepfake až dodatočne.“
S týmto predpokladom výskumníci vykonali sériu experimentov, aby zistili, či ľudskí účastníci dokážu rozlíšiť najmodernejšie syntetizované tváre od skutočných. Vo svojich testoch zistili, že napriek školeniam, ktoré pomáhajú rozpoznať falzifikáty, sa miera presnosti zlepšila iba na 59 %, v porovnaní so 48 % bez školenia.
To viedlo vedcov k testovaniu, či vnímanie dôveryhodnosti môže pomôcť ľuďom identifikovať umelé obrázky. V tretej štúdii požiadali účastníkov, aby ohodnotili dôveryhodnosť tvárí, len aby zistili, že priemerné hodnotenie syntetických tvárí bolo 7. O 7 % dôveryhodnejšie ako priemerné hodnotenie skutočných tvárí. Toto číslo nemusí znieť ako veľa, ale vedci tvrdia, že je štatisticky významné.
Hlbšie falzifikáty
Hlboké falzifikáty už boli veľkým problémom a teraz sú vody touto štúdiou ešte viac zakalené, čo naznačuje, že takéto vysokokvalitné falošné snímky by mohli pridať úplne nový rozmer online podvodom, napríklad tým, že by pomohli vytvoriť viac presvedčivé online falošné profily.
„Jedna vec, ktorá poháňa kybernetickú bezpečnosť, je dôvera ľudí v technológie, procesy a ľudí, ktorí sa ich snažia udržať v bezpečí,“zdieľa Wieringa. "Hlboké falzifikáty, najmä keď sa stanú fotorealistickými, podkopávajú túto dôveru, a tým aj prijatie a prijatie kybernetickej bezpečnosti. Môže to viesť k tomu, že ľudia začnú nedôverovať všetkému, čo vnímajú."
Chris Hauk, šampión ochrany súkromia spotrebiteľov v Pixel Privacy, súhlasil. V krátkej e-mailovej výmene povedal Lifewire, že fotorealistické hlboké falošné by mohli spôsobiť „zmätok“online, najmä v týchto dňoch, keď je možné pristupovať ku všetkým druhom účtov pomocou technológie na identifikáciu fotografií.
Nápravné opatrenie
Vďaka, Greg Kuhn, riaditeľ IoT, Prosegur Security, hovorí, že existujú procesy, ktoré môžu zabrániť takejto podvodnej autentifikácii. Prostredníctvom e-mailu povedal Lifewire, že systémy poverenia založené na AI porovnávajú overeného jednotlivca so zoznamom, ale mnohé z nich majú zabudované bezpečnostné opatrenia na kontrolu „živosti“.
"Tieto typy systémov môžu vyžadovať a viesť používateľa k vykonaniu určitých úloh, ako je úsmev alebo otočenie hlavy doľava a potom doprava. Toto sú veci, ktoré staticky generované tváre nedokážu vykonať," zdieľal Kuhn.
Výskumníci navrhli usmernenia na reguláciu ich vytvárania a distribúcie s cieľom chrániť verejnosť pred syntetickými obrázkami. Na začiatok navrhujú začleniť hlboko zakorenené vodoznaky do samotných sietí na syntézu obrázkov a videa, aby sa zabezpečilo, že všetky syntetické médiá bude možné spoľahlivo identifikovať.
Dovtedy Paul Bischoff, obhajca súkromia a editor výskumu infosec v Comparitech, hovorí, že ľudia sú sami.„Ľudia sa budú musieť naučiť nedôverovať tváram online, rovnako ako sme sa všetci (dúfajme) naučili nedôverovať zobrazovaným menám v našich e-mailoch,“povedal Bischoff pre Lifewire e-mailom.
