Kľúčové poznatky
- Softvér na automatické vekové obmedzenie YouTube je dôvodom na obavy z obsahu LGBTQ+ na platforme.
- Spoločnosť bola poznačená kontroverziou týkajúcou sa tvorcov obsahu LGBTQ+, ktorá upevňuje pochybnosti.
- Predsudky v strojovom učení prepožičiavajú vierohodnosť myšlienke, že jeho nedokonalá implementácia filtrov pravdepodobne neprávom obmedzí prístup.
Vďaka histórii nespravodlivého zacielenia na tvorcov obsahu LGBTQ+ v procese moderovania sa nová technológia YouTube založená na AI považuje za znepokojujúci ďalší krok pre technologického giganta.
Na oficiálnom blogu YouTube minulý týždeň platforma na zdieľanie videí odhalila plány na vydanie nového automatického softvéru na „dôslednejšie uplatňovanie vekových obmedzení“na videá, ktoré sa považujú za nevhodné pre mladších divákov.
Motivovaný nedávnymi obavami o deti v aplikácii, nový systém je založený na softvéri s umelou inteligenciou na strojové učenie so schopnosťou vzdať sa ľudských moderátorov pre automatizovanejší proces. Otázka? Automatizované systémy YouTube boli obviňované z vyčleňovania obsahu a autorov z komunity LGBTQ+ len preto, aby existovali.
Aj keď to nie je zlomyseľné, čo si nemyslím, je to nedostatok podnetov od rôznych hlasov – alebo aspoň nedostatok rešpektu.
„Strojové učenie je informované a vytvárané ľuďmi a je možné, že tieto predsudky sú v ňom obsiahnuté alebo sa ich naučil samotný stroj,“povedal YouTuber Rowan Ellis v telefonickom rozhovore pre Lifewire. „Jeho zaujatosť, pokiaľ ide o obsah [LGBTQ+], bola evidentná v predchádzajúcich skúsenostiach [LGBTQ+] YouTuberov a nevidel som dôkazy, že by sa urobilo niečo, aby sa tomu zabránilo."
Baby, teraz máme zlú krv
Ellis je YouTuberka, ktorá vytvára vzdelávací obsah s feministickým a queer sklonom a v roku 2017 zverejnila video o obmedzenom režime spoločnosti. Ako prvý pokus o automatické moderovanie obsahu umožnil tento režim používateľom voliteľne predbežne zobraziť „obsah pre dospelých“z návrhov a odporúčaní na vyhľadávanie.
Získala viac ako 100 000 zobrazení a verí, že sa vedome snažila zabrániť obmedzeniu jej kanála kvôli jej hlasnému odporu proti excesom nového kroku YouTube smerom k moderovaniu. Ostatní používatelia platformy také šťastie nemali a dali o tom vedieť YouTube.
Skupinovú žalobu na YouTube podala v auguste 2019 skupina ôsmich LGBTQ+ tvorcov, ktorí obvinili spoločnosť zo Silicon Valley z obmedzovania tvorcov queer a trans videí a obsahu. V žalobe sa uvádza, že stránka používa „nezákonnú reguláciu obsahu, distribúciu a praktiky speňažovania, ktoré stigmatizujú, obmedzujú, blokujú, demonetizujú a finančne poškodzujú LGBT žalobcov a väčšiu LGBT komunitu."Stále si to razí cestu cez kalifornské súdy."
Strojové učenie je informované a vytvárané ľuďmi a je možné, že tieto predsudky sú v ňom obsiahnuté alebo sa ich naučil samotný stroj.
V júni toho istého roku si platforma získala záplavu mediálnej pozornosti po tom, čo odmietla rýchlo pokarhať populárneho konzervatívneho komentátora Stevena Crowdera za niekoľkomesačnú, homofóbnu kampaň za obťažovanie novinára a moderátora Vox Carlosa Mazu. To upevnilo to, čo Ellis povedal, že je vzorom online platformy ignorovania jedinečných výziev, ktorým čelia queer tvorcovia. Nedôvera autorov LGBTQ+ v schopnosť YouTube ukázať sa im nie je bezcenná.
„Nemyslím si, že pochopili potrebu transparentnosti, pokiaľ ide o sociálne otázky a zabezpečenie rovnosti,“povedala. „Na celom svete sú stále deti, ktoré vyrastali s myšlienkou, že byť gayom je nesprávne, a keď túto vieru začnú spochybňovať, no zistia, že je uzavretá bezpečným hľadaním alebo obmedzením, posilní to túto myšlienku, že je nesprávne, nevhodné, dospelé, perverzné a špinavé."
Zlyhanie automatického učenia
Vzhľadom na jeho žalostnú históriu týkajúcu sa tvorcov obsahu LGBTQ+ na jej platforme sa stále objavujú obavy z implementácie schopnosti softvéru strojového učenia rozpoznať vyššie normy. Don Heider, výkonný riaditeľ Centra pre aplikovanú etiku Markkula, tvrdí, že potenciál hlúposti je príliš veľké riziko na hazard.
„Je ťažké uveriť, že AI dokáže efektívne riadiť obsah z viacerých krajín s rôznymi kultúrnymi normami a štandardmi,“napísal v e-mailovom rozhovore. "AI je príliš často vnímaná ako odpoveď na zložité otázky. V tomto bode sa AI a spôsob, akým je vytvorená, snaží zvládnuť aj jednoduché úlohy, nehovoriac o moderovaní obsahu s akoukoľvek úrovňou zložitosti."
YouTube sa podľa svojho blogu rozhodol pre použitie technológie AI z dôvodu nedostatku dôsledného moderovania ľudskými moderátormi. Zvýšenie používania počítačových filtrov na odstránenie videí, ktoré sa považovali za nevhodné, sa stalo normou a implementácia rovnakých postupov pre politiku vekového obmedzenia sa považuje za ďalší logický krok.
Ako spoločnosť, ktorá sa snaží postupne zlepšovať svoje procesy po dlhotrvajúcej kritike týkajúcej sa jej vzťahu k detským spotrebiteľom, nie je toto rozhodnutie žiadnym prekvapením.
Nemyslím si, že pochopili potrebu transparentnosti, pokiaľ ide o sociálne otázky a zabezpečenie rovnosti.
Deti sa stali kľúčovou demografickou skupinou pre stránku na zdieľanie videí. V auguste firma Tubular, ktorá sa zaoberá analýzou digitálneho videa, zistila, že okrem hudobných videí je obsah zameraný na deti na prvom mieste rebríčka najsledovanejších videí na YouTube na konci mesiaca.
Záujem spoločnosti chrániť túto lukratívnu, vznikajúcu elektráreň na platforme má zmysel. Nástroje používané na presadzovanie tejto ochrany sú však stále nepríjemné pre tých, ktorí sa už ocitli pod procesmi moderovania spoločnosti.
„Obávam sa, že to narobí veľa zla a neochráni [LGBTQ+] mládež, ktorá potrebuje informatívny, úprimný a úprimný obsah, ktorý môže poskytnúť veľa [LGBTQ+] YouTuberov, no v systéme je označená ako nevhodné,“povedal Ellis."Aj keď to nie je zlomyseľné, čo si nemyslím, je to nedostatok príspevku od rôznych hlasov - alebo aspoň nedostatok rešpektu."
"V technike to vidíme neustále. Keď sa pozeráte na rozpoznávanie tváre, ktoré nedokáže odlíšiť rôzne čierne tváre, alebo keď sa pozrieme na medicínu a vidíme, že lieky boli testované len na konkrétnom pohlaví. Tieto sú rozsiahlejšie konverzácie a YouTube z toho nie je vyňatý."
