Twitter oznámil výsledky svojej otvorenej súťaže s cieľom nájsť chyby v systéme orezávania fotografií.
Výzva odmeny bola otvorená v júli po tom, čo používatelia Twitteru ukázali, že automatický nástroj na orezávanie stránky uprednostňuje tváre ľudí so svetlejšou pleťou pred tými, ktorí majú tmavšiu pleť. Vyvolalo to niekoľko otázok o tom, ako softvér uprednostnil farbu pleti a určité faktory pred ostatnými.
Úlohou bolo zistiť, aké ďalšie chyby a predsudky môže mať systém orezávania, aby sa tieto problémy vyriešili.
Na prvom mieste sa umiestnil Bogdan Kulynych, ktorého príspevok ukázal, ako môžu filtre krásy hrať s modelom hodnotenia algoritmu, ktorý naopak rozširuje tradičné štandardy krásy. Podanie ukázalo, že algoritmus uprednostňuje mladé a štíhle tváre so svetlým alebo teplým tónom pleti. Kulynych vyhral 3 500 dolárov.
Na druhom mieste sa umiestnil HALT AI, technologický startup v Toronte, ktorý zistil, že obrázky starších a zdravotne postihnutých ľudí boli vyrezané z fotografií. Tím dostal 2 000 $ za druhé miesto.
Tretie miesto a 500 dolárov získal Roya Pakzad, zakladateľ Taraaz Research, ktorý objavil, že algoritmus uprednostňuje orezávanie latinských písiem pred arabskými, čo by mohlo poškodiť jazykovú rozmanitosť.
Podrobné výsledky predstavil na DEF CON 29 Rumman Chowdhury, riaditeľ tímu META na Twitteri. Tím META študuje neúmyselné problémy v algoritmoch a odstraňuje akýkoľvek druh rodovej a rasovej zaujatosti, ktorú takéto systémy môžu mať.
Údaje získané z tejto súťaže sa použijú na odstránenie chýb a zaujatosti v algoritme orezania a pomôžu zabezpečiť inkluzívnejšie prostredie.
