Kľúčové poznatky
- Výskumníci vyvinuli systém umelej inteligencie určený na rozpoznanie a označenie falošných správ.
- Model prehľadáva verejný súbor údajov falošných správ, upozorňuje používateľov a presmeruje ich na overené zdroje informácií.
-
Existuje stále väčší počet metód umelej inteligencie na boj proti falošným správam online.
Umelá inteligencia (AI) pomáha obmedziť rýchle šírenie dezinformácií online, hovoria odborníci.
Výskumníci vyvinuli systém umelej inteligencie určený na rozpoznanie a označenie falošných správ. Model prehľadá verejný súbor údajov falošných správ, upozorní používateľov a presmeruje ich na overené informačné zdroje. Je súčasťou rastúceho počtu metód umelej inteligencie na boj proti falošným správam.
"Množstvo informácií, ktoré prúdi internetom, najmä sociálnymi sieťami, je obrovské a nedá sa s ním manipulovať manuálne, najmä s vysokou presnosťou," Wael AbdAlmageed, profesor počítačového inžinierstva na University of Southern California, ktorý vyvinul Algoritmy AI na zisťovanie vizuálnych dezinformácií, povedal Lifewire v e-mailovom rozhovore.
„Je dôležité monitorovať a označovať dezinformácie v reálnom čase, pretože akonáhle sa dezinformácie začnú šíriť, je ťažké presvedčiť ľudí, že informácie sú nepravdivé, najmä ak dezinformácie potvrdzujú naše predsudky,“dodal.
Keeping It Real
Technika AI vyvinutá tímom z austrálskej Macquarie University by mohla pomôcť znížiť šírenie falošných správ. Model je možné začleniť do aplikácie alebo webového softvéru a ponúka odkazy na relevantné „pravdivé“informácie, ktoré sú v súlade so záujmami každého používateľa.
„Keď čítate alebo pozeráte správy online, často sa vám pomocou modelu odporúčaní navrhujú správy o podobných udalostiach alebo témach,“povedal Shoujin Wang, dátový vedec z Macquarie University, ktorý pracoval na výskume. tlačová správa.
Wang hovorí, že presné správy a falošné správy pre tú istú udalosť často používajú rôzne štýly obsahu, čím mätú počítačové modely, aby ich považovali za správy pre rôzne udalosti.
Model Macquarie University „rozdeľuje“informácie o každej novinke na dve časti: znaky ukazujúce, či je správa falošná, a informácie špecifické pre udalosť zobrazujúce tému alebo udalosť, ktorej sa správa týka. Model potom hľadá vzory v tom, ako používatelia prechádzajú medzi rôznymi časťami správ, aby predpovedal, o ktorú spravodajskú udalosť by mohol mať používateľ záujem prečítať si ju ako ďalšiu.
Výskumný tím trénoval model na verejnom súbore falošných správ publikovaných na GitHub s názvom FakeNewsNet, ktorý ukladá falošné správy z PolitiFact a GossipCop spolu s údajmi, ako je obsah správ, sociálny kontext a história čítania používateľov.
Rast falošných správ
Fake news sú rastúci problém, naznačujú štúdie. NewsGuard zistil, že značná časť rastu sociálnych médií pochádza z nespoľahlivých webových stránok. V roku 2020 pochádzalo 17 percent zapojenia medzi 100 najlepšími spravodajskými zdrojmi zo stránok s červeným hodnotením (všeobecne nespoľahlivých), v porovnaní s približne 8 percentami v roku 2019.
Subramaniam Vincent, riaditeľ pre etiku žurnalistiky a médií v Markkula Center for Applied Ethics na Univerzite Santa Clara, povedal Lifewire v e-mailovom rozhovore, že AI môže pomôcť bojovať proti dezinformáciám.
Táto technológia môže byť použitá na „monitorovanie správania účtu na účely organizovaného zdieľania korelovaného s nenávistnými prejavmi alebo už vyvrátenými tvrdeniami alebo ich odhalením overovateľmi faktov alebo známymi propagandistickými štátnymi subjektmi alebo vznikajúcimi skupinami s rýchlym nárastom členstva,“vysvetlil Vincent. „AI sa dá použiť spolu s dizajnom aj na označenie obsahu konkrétnych typov, aby sa pridalo trenie pred ich zdieľaním.“
AbdAlmageed povedal, že sociálne siete musia integrovať algoritmy na detekciu falošných správ ako súčasť svojich odporúčacích algoritmov. Cieľom je podľa neho „označiť falošné správy ako falošné alebo nepresné, ak nechcú úplne zabrániť zdieľaniu falošných správ.“
To znamená, že hoci AI môže byť užitočná na boj proti falošným správam, tento prístup má aj svoje nevýhody, povedal Vincent. Problém je v tom, že systémy umelej inteligencie nedokážu pochopiť význam ľudskej reči a písania, takže budú vždy za krivkou.
„Čím presnejšia môže byť umelá inteligencia s niektorými formami otvorených nenávistných prejavov a dezinformácií, tým viac sa ľudská kultúra presunie k novšiemu kódu a prenosu podzemného významu na organizáciu,“povedal Vincent.
Wasim Khaled, generálny riaditeľ spoločnosti Blackbird. AI, ktorá monitoruje dezinformácie, v e-maile pre Lifewire uviedol, že online dezinformácie sú vyvíjajúcou sa hrozbou. Nové systémy AI musia byť schopné predpovedať, kde sa najbližšie objavia falošné správy.
"Vo väčšine prípadov nemôžete vytvoriť produkt AI a nazvať ho hotovým," povedal Khaled. „Vzorce správania sa časom menia a je dôležité, aby vaše modely AI držali krok s týmito zmenami.“
