Kľúčové poznatky
- Twitter dúfa, že vo svojom softvéri na náhľad obrázkov napraví to, čo používatelia nazývajú rasovou zaujatosťou.
- Výzva technologického giganta môže byť kultúrnym odhadom, ktorý toto odvetvie potrebuje na riešenie problémov rozmanitosti.
- Nedostatok rozmanitosti Tech poškodzuje efektivitu jej technologického pokroku.
Twitter sa chystá začať vyšetrovanie svojho algoritmu na orezávanie obrázkov po tom, čo sa stal trendovou témou, ktorá podnietila väčšiu konverzáciu o otázkach rozmanitosti v technickom priemysle.
Orgán sociálnych médií sa dostal na titulky po tom, čo používatelia objavili zjavnú rasovú zaujatosť v jeho algoritme náhľadu obrázkov. K objavu došlo po tom, čo používateľ Twitteru Colin Madland použil platformu, aby upozornil na to, že Zoom nerozpoznal svojich čiernych kolegov, ktorí používali technológiu zelenej obrazovky, ale vo veľkej irónii zistil, že algoritmus Twitteru na orezávanie obrázkov sa správal podobne a zrušil priority čiernych tvárí.
Určite, je to veľký problém pre každú menšinu, ale myslím si, že existuje aj oveľa širší problém.
Do trendu sa zapojili aj ďalší používatelia, ktorí vyvolali sériu vírusových tweetov, ktoré ukazujú, že algoritmus dôsledne uprednostňuje biele a svetlejšie tváre, od ľudí po kreslené postavičky a dokonca aj psov. Toto zlyhanie svedčí o väčšom kultúrnom pohybe v technologickom priemysle, ktorý sústavne neberie do úvahy menšinové skupiny, čo sa prenieslo aj do technickej stránky.
"V menšinách sa cítia hrozne, akoby neboli dôležité, a dá sa to využiť na iné veci, ktoré môžu spôsobiť vážnejšie škody," Erik Learned-Miller, profesor informatiky na univerzite. z Massachusetts, povedal v telefonickom rozhovore.„Keď sa rozhodnete, na čo sa môže softvér použiť a aké škody môžu nastať, začneme hovoriť o spôsoboch, ako minimalizovať pravdepodobnosť, že sa to stane.“
Kanár na časovej osi
Twitter používa neurónové siete na automatické orezávanie obrázkov vložených do tweetov. Predpokladá sa, že algoritmus rozpozná tváre na zobrazenie ukážky, ale zdá sa, že má výrazné skreslenie bielej. Hovorkyňa spoločnosti Liz Kelley tweetovala odpoveď na všetky obavy.
Kelley tweetoval: "Ďakujem všetkým, ktorí to nastolili. Pred odoslaním modelu sme testovali zaujatosť a nenašli sme dôkaz o rasovej alebo rodovej zaujatosti, ale je jasné, že máme na to viac analýzy urobíme. našu prácu sprístupníme ako open source, aby ju ostatní mohli kontrolovať a replikovať."
Spoluautor bielej knihy „Technológie na rozpoznávanie tváre v divočine: Výzva na federálny úrad“, Learned-Miller je popredným výskumníkom v oblasti excesov softvéru na učenie AI založeného na tvárach. Roky diskutoval o potenciálnom negatívnom vplyve softvéru na učenie obrázkov a hovoril o dôležitosti vytvorenia reality, kde sa tieto predsudky zmierňujú podľa svojich najlepších schopností.
Mnoho algoritmov pre technológiu rozpoznávania tvárí používa referenčné súbory pre údaje, často známe ako tréningové sady, ktoré sú kolekciou obrázkov používaných na doladenie správania softvéru na učenie obrázkov. V konečnom dôsledku umožňuje AI pohotovo rozpoznať širokú škálu tvárí. Týmto referenčným súborom však môže chýbať rôznorodý fond, čo vedie k problémom, aké zaznamenal tím služby Twitter.
„Určite, je to veľký problém pre každú menšinu, ale myslím si, že existuje aj oveľa širší problém,“povedal Learned-Miller. „Súvisí to s nedostatkom rozmanitosti v technologickom sektore a potrebou centralizovanej regulačnej sily, ktorá by ukázala správne využitie tohto druhu výkonného softvéru náchylného na zneužitie a zneužitie.“
Technológia postrádajúca rozmanitosť
Twitter môže byť najnovšou technologickou spoločnosťou na poli sekania, ale toto zďaleka nie je nový problém. Technologická oblasť zostáva prevažne bielou oblasťou, v ktorej neustále dominujú muži a výskumníci zistili, že nedostatok rozmanitosti spôsobuje replikáciu systémových, historických nerovnováh vo vyvinutom softvéri.
V správe inštitútu AI Now Institute z New York University z roku 2019 výskumníci zistili, že černosi tvoria menej ako 6 percent pracovnej sily v špičkových technologických firmách v krajine. Podobne ženy tvoria len 26 percent pracovníkov v teréne – čo je štatistika nižšia ako ich podiel v roku 1960.
Menšiny sa vďaka tomu cítia hrozne, akoby neboli dôležité, a dá sa to použiť na iné veci, ktoré môžu spôsobiť vážnejšie škody.
Na povrchu sa tieto reprezentačné problémy môžu zdať všedné, ale v praxi môžu byť spôsobené škody hlboké. Výskumníci v správe AI Now Institute naznačujú, že to kauzálne súvisí s problémami so softvérom, ktorý často nezohľadňuje nebielu a nemužskú populáciu. Či už ide o infračervené dávkovače mydla, ktoré nedokážu rozpoznať tmavšiu pokožku, alebo softvér umelej inteligencie Amazonu, ktorý nedokáže odlíšiť ženské tváre od tvárí ich mužských náprotivkov, neschopnosť riešiť diverzitu v technologickom priemysle vedie k zlyhaniu technológie, ktorá si poradí s rôznorodým svetom.
„Je veľa ľudí, ktorí sa nad problémami nezamysleli a v skutočnosti si neuvedomujú, ako tieto veci môžu spôsobiť škody a aké závažné sú tieto škody,“navrhol Learned-Miller o učení obrázkov AI. "Dúfajme, že tento počet ľudí sa zmenšuje!"
