Kľúčové poznatky
- Algoritmy AI a strojového učenia sledujú ľudské správanie a môžu sa naučiť s ním manipulovať, hovoria odborníci.
- Výskumníci nedávno vytvorili spôsob, ako nájsť a využiť zraniteľné miesta v spôsoboch, akými sa ľudia rozhodujú pomocou AI.
- Najsofistikovanejší algoritmus sociálnych médií je momentálne TikTok, hovorí jeden pozorovateľ.
Umelá inteligencia (AI) a algoritmy strojového učenia sa čoraz viac učia, ako ovplyvňovať správanie používateľov, hovoria odborníci.
Výskumníci z austrálskej národnej vedeckej agentúry nedávno vytvorili spôsob, ako nájsť a využiť zraniteľné miesta v spôsoboch, akými sa ľudia rozhodujú pomocou AI. Najnovší výskum je len jedným z vlny systémov riadených AI navrhnutých na manipuláciu ľudského rozhodovania.
"Mnohým spôsobom, ktorými AI už ovplyvňuje správanie, sa nekončí," Kentaro Toyama, profesor na University of Michigan School of Information a autor knihy Geek Heresy: Rescuing Social Change from the Cult of Technology, povedal v e-mailovom rozhovore.
„V skutočnosti, ak ste niekedy vyhľadávali na Google a sledovali ste odkaz, ovplyvnil vás systém umelej inteligencie, ktorý uhádol vaše záujmy a vrátil výsledky, o ktorých si myslel, že sú pre vás najrelevantnejšie.“
AI vs. ľudia
V austrálskom výskume uverejnenom v nedávnom článku ľudskí účastníci hrali hry proti počítaču v rôznych experimentoch. V prvom experimente účastníci klikli na červené alebo modré políčka, aby vyhrali peniaze.
Umelá inteligencia bola úspešná približne v 70 % prípadov, keď sa naučila vzory výberu účastníkov a naviedla ich ku konkrétnej voľbe.
V inom experimente účastníci sledovali obrazovku a stlačili tlačidlo, keď sa im zobrazil konkrétny symbol, alebo ho nestlačili, keď im bol ponúknutý iný. Umelá inteligencia sa naučila meniť usporiadanie symbolov, takže účastníci urobili viac chýb.
Výsledkom experimentov, dospeli vedci k záveru, bolo, že AI sa naučila z odpovedí účastníkov. Stroj potom identifikoval a zacielil na zraniteľné miesta v rozhodovaní ľudí. Umelá inteligencia by v skutočnosti mohla zmanipulovať účastníkov pri vykonávaní konkrétnych akcií.
Skutočnosť, že AI alebo strojové učenie môžu manipulovať s ľuďmi, by podľa pozorovateľov nemalo byť prekvapením.
„AI ovplyvňuje naše správanie každý deň,“povedala Tamara Schwartz, odborná asistentka kybernetickej bezpečnosti a obchodnej správy na York College of Pennsylvania v e-mailovom rozhovore.
"Neustále počúvame o algoritmoch v aplikáciách sociálnych médií, ako je Facebook alebo Twitter. Tieto algoritmy upriamujú našu pozornosť na súvisiaci obsah a vytvárajú efekt 'echo komory', ktorý následne ovplyvňuje naše správanie."
TikTok sleduje
Najsofistikovanejším algoritmom sociálnych médií je v súčasnosti TikTok, povedal Schwartz. Aplikácia analyzuje, čo vás zaujíma, ako dlho niečo pozeráte a ako rýchlo niečo preskočíte, a potom upraví svoju ponuku, aby ste ju ďalej sledovali.
„TikTok je oveľa návykovejší ako iné platformy vďaka tomuto algoritmu AI, ktorý rozumie tomu, čo sa vám páči, ako sa učíte a ako si vyberáte informácie,“dodala. „Vieme to, pretože priemerný čas, ktorý používatelia strávia na TikTok, je 52 minút.“
Manipulácia s ľudským správaním umelou inteligenciou by mohla mať pozitívne využitie, argumentoval Chris Nicholson, generálny riaditeľ spoločnosti AI Pathmind, v e-mailovom rozhovore. Agentúry verejného zdravotníctva by napríklad mohli využiť AI na povzbudenie ľudí, aby robili lepšie rozhodnutia.
“dodal.
Etické problémy s ovplyvňovaním správania AI sú často na úrovni, povedal Toyama. Umelá inteligencia umožňuje cielenú reklamu, v ktorej možno využiť individuálne preferencie a slabé stránky.
„Systém umelej inteligencie môže napríklad identifikovať ľudí, ktorí sa snažia prestať fajčiť, a zasypať ich lákavými reklamami na cigarety,“dodal.
Nie každý súhlasí s tým, že AI manipulácia ľudského správania je problematická. Klasická psychológia aj AI pozorujú údaje, zdôraznil Jason J. Corso, riaditeľ Stevensovho inštitútu pre umelú inteligenciu, v e-mailovom rozhovore.
„Ľudskí vedci sú pravdepodobne lepší vo zovšeobecňovaní pozorovaní a destilácii teórií ľudského správania, ktoré môžu byť širšie použiteľné, zatiaľ čo modely AI by boli prístupnejšie pri identifikácii nuancií špecifických pre daný problém,“povedal Corso.
"Z etického hľadiska medzi nimi nevidím rozdiel."
