Kľúčové poznatky
- Algoritmické skreslenie je škodlivé pre tínedžerov, ktorí trávia veľa času na internete, hovoria odborníci.
- Používatelia Twitteru nedávno narazili na problém, pri ktorom boli čierne tváre vyradené v prospech bielych.
- Vyvíjajúce sa mozgy tínedžerov môžu byť obzvlášť náchylné na škodlivé účinky algoritmickej zaujatosti, hovoria výskumníci.
Predsudky zapečatené v niektorých technológiách, známe ako algoritmické skreslenie, môžu byť škodlivé pre mnohé skupiny, no odborníci tvrdia, že poškodzujú najmä dospievajúcich.
Algoritmické skreslenie, keď počítačové systémy vykazujú predsudky, je čoraz väčší problém. Používatelia Twitteru nedávno našli na platforme príklad zaujatosti, keď algoritmus na detekciu obrázkov, ktorý orezáva fotografie, vystrihoval čierne tváre v prospech bielych. Spoločnosť sa za problém ospravedlnila, ale zatiaľ nezverejnila opravu. Je to príklad zaujatosti, s ktorou sa tínedžeri stretávajú, keď sú online, čo robia viac ako ktorákoľvek iná veková skupina, hovoria odborníci.
„Väčšina tínedžerov si neuvedomuje, že spoločnosti sociálnych médií ich používajú na propagáciu konkrétneho obsahu, o ktorom si myslia, že sa používateľom bude páčiť [aby] zostali na platforme čo najdlhšie,“Dr. Mai- Ly Nguyen Steers, odborná asistentka na Fakulte ošetrovateľstva na Duquesne University, ktorá študuje používanie sociálnych médií medzi dospievajúcimi/vysokoškolskými študentmi, povedala v e-mailovom rozhovore.
„Aj keď existuje určitá úroveň vedomia o algoritme, efekt nedostatku lajkov a komentárov je stále silný a môže ovplyvniť sebavedomie tínedžerov,“dodal Steers.
Vývoj mozgu
Algoritmické skreslenie môže ovplyvniť dospievajúcich nepredvídaným spôsobom, pretože ich prefrontálny kortex sa stále vyvíja, vysvetlila v e-mailovom rozhovore Mikaela Pisani, hlavná vedkyňa údajov v spoločnosti Rootstrap.
Efekt nedostatočného počtu hodnotení Páči sa mi a komentárov je stále silný a môže ovplyvniť sebavedomie tínedžerov.
"Mladí ľudia sú obzvlášť zraniteľní voči fenoménu 'Social Factory', kde algoritmy vytvárajú spoločenské zoskupenia na online platformách, čo vedie k úzkosti a depresii, ak nie sú splnené potreby tínedžera na sociálne uznanie," povedal Pisani. „Algoritmy sa zjednodušujú na základe predchádzajúcich nedokonalých údajov, čo vedie k nadmernému zastúpeniu stereotypov na úkor jemnejších prístupov k vytváraniu identity.
„Zo širšieho hľadiska si musíme ako spoločnosť tiež položiť otázku, či chceme algoritmy, ktoré formujú cestu našich tínedžerov do dospelosti, a či tento systém vôbec podporuje, nie potláča individuálny osobný rast?“
Vzhľadom na tieto problémy existuje rastúca potreba myslieť na tínedžerov pri navrhovaní algoritmov, hovoria odborníci.
"Na základe podnetov od vývojových špecialistov, vedcov v oblasti údajov a zástancov mládeže by sa politiky 21. storočia týkajúce sa ochrany osobných údajov a algoritmického návrhu mohli vytvoriť aj s ohľadom na konkrétne potreby dospievajúcich," Avriel Epps-Darling, doktorand študent na Harvarde, napísal nedávno. „Ak budeme namiesto toho naďalej zľahčovať alebo ignorovať spôsoby, akými sú dospievajúci zraniteľní voči algoritmickému rasizmu, škody sa budú pravdepodobne odrážať v nasledujúcich generáciách.“
Boj proti zaujatosti
Kým neexistuje riešenie, niektorí výskumníci sa snažia nájsť spôsoby, ako znížiť škody, ktoré mladým ľuďom spôsobujú neobjektívne algoritmy.
"Intervencie boli zamerané na to, aby dospievajúci rozpoznali, že ich vzorce sociálnych médií negatívne ovplyvňujú ich duševné zdravie, a snažia sa prísť so stratégiami na zmiernenie toho (napr. znížené používanie sociálnych médií)," povedal Steers.
„Niektorí vysokoškoláci, s ktorými sme robili rozhovory, naznačili, že cítia nutkanie vytvárať obsah, aby zostal „relevantný“, aj keď nechcú ísť von alebo uverejňovať príspevky,“pokračovala. „Cítia však, že potrebujú vytvárať obsah, aby si udržali spojenie so svojimi sledovateľmi alebo priateľmi.“
Konečnou odpoveďou by mohlo byť odstránenie ľudskej zaujatosti z počítačov. Ale keďže programátori sú len ľudia, je to podľa odborníkov náročná výzva.
Jedným z možných riešení je vyvinúť počítače, ktoré sú decentralizované a naprogramované tak, aby zabudli na to, čo sa naučili, hovorí John Suit, technologický riaditeľ robotickej firmy KODA.
"Prostredníctvom decentralizovanej siete sa údaje a analýzy týchto údajov zostavujú a analyzujú z viacerých bodov," povedal Suit v e-mailovom rozhovore. „Údaje sa nezhromažďujú a spracúvajú nie z jedného spracovania mysle AI v rámci limitov svojho algoritmu, ale zo stoviek alebo dokonca tisícov.
"Keď sa tieto údaje zbierajú a analyzujú, zabúda sa na staré "závery" alebo nadbytočné údaje. Prostredníctvom tohto systému algoritmus, ktorý mohol začať s odchýlkou, nakoniec túto odchýlku opraví a nahradí, ak sa ukáže, že je nesprávna."
Hoci zaujatosť môže byť odvekým problémom, môžu existovať spôsoby, ako proti nej bojovať, aspoň online. Prvým krokom je navrhovanie počítačov, ktoré sa zbavia našich predsudkov.
