Kľúčové poznatky
- ToxMod od bostonskej spoločnosti Modulate tvrdí, že rozpoznáva rušivú reč a pôsobí proti nej automaticky v reálnom čase.
- Namiesto toho, aby bol ToxMod obmedzovaný jednoduchým jazykom, používa strojové učenie na zistenie nehmotných vecí, ako sú emócie, hlasitosť a rytmus.
- ToxMod je momentálne navrhnutý na použitie s chatovacími miestnosťami v hrách, ale nie je dôvod, prečo by nemohol prísť na váš kanál Twitch.
Spoločnosť so sídlom v Bostone používa strojové učenie na vytvorenie toho, čo účtuje ako prvú službu hlasového natívneho moderovania na svete, ktorá dokáže rozlíšiť, čo sa hovorí a čo to znamená.
ToxMod je pokus vyriešiť paradox moderovania akéhokoľvek otvoreného priestoru na internete; nie je dostatok ľudí, ktorí by držali krok s dopytom, ale algoritmy, filtre a systém prehľadov nerozumejú nuansám.
S databázou ToxMod dokáže sledovať faktory v reči hráčov, ako sú emócie a hlasitosť, čo mu pomáha rozlíšiť medzi chvíľkovým výpadkom a vzorcom správania. Nedávno bol ohlásený ako doplnok k hre 7v7 amerického futbalu Gridiron, ktorá je momentálne v Steam Early Access.
„Každý vie, že obťažovanie, nenávistné prejavy a toxicita pri hlasovom rozhovore a hraní hier sú obrovským problémom. Tomu sa bežne rozumie,“povedal Carter Huffman, technologický riaditeľ a spoluzakladateľ spoločnosti Modulate, na stretnutí Google s Lifewire. „Mohli by sme vziať funkcie, ktoré sme získavali prostredníctvom tejto rozmanitosti systémov strojového učenia, a spojiť ich do systému, ktorý zohľadnil všetky tieto odborné znalosti, ktoré sme sa naučili od komunity."
Pozdravujte našich nových robotických moderátorov
Modulate pracuje na ToxMod od jesene minulého roka a začlenil ho ako jednu z troch základných služieb spoločnosti. Ponúka tiež VoiceWear, maskovač hlasu poháňaný strojovým učením, a VoiceVibe, službu agregátora, ktorá používateľom umožňuje zistiť, o čom diskutujú ľudia v ich komunitách.
Keď je ToxMod spustený v chate, môže byť naprogramovaný cez panel správcu Modulate tak, aby vykonával rôzne automatické akcie, ako je vydávanie upozornení, stlmenie hráčov alebo individuálne nastavenie hlasitosti.
Používa systém triedenia, kde jeho lokálna inštancia koná ako prvá, a až potom skontroluje potvrdenie na serveroch Modulate. Potom to konečne eskaluje do bodu, kedy by to mohlo vyžadovať ľudský zásah. Tým, že postupne prechádzate každou kontrolou, ktorú Modulate nazýva „triediace brány“, ide o to, že ToxMod dáva malému tímu moderátorov nástroje na efektívne moderovanie oveľa väčšej komunity.
„Smutnou pravdou je, že každý má skúsenosť s používaním hlasového chatu na akejkoľvek platforme, na ktorej si bol, a zistil, že to bol zlý nápad, chlapče,“povedal generálny riaditeľ Modulate Mike Pappas v rozhovore. videohovor s Lifewire. „Schopnosť ísť dovnútra a povedať: ‚Toto nie je Divoký západ. Existujú pravidlá.‘Myslím si, že je to naozaj dôležité.“
Breaking the System
Prirodzene, druhá alebo tretia otázka týkajúca sa ToxMod je, ako ho prelomiť.
S mnohými automatickými systémami moderovania, ako sú napríklad algoritmy, ktorými sa riadi Twitter, je ľahké ich hrať proti ľuďom, ktorých nemáte radi. Stačí hromadne nahlásiť svoj cieľ niekoľkými bábkovými účtami a spoľahlivo dostanú ban.
„Na základnej úrovni sa ToxMod nemusí spoliehať na tieto dodatočné hlásenia hráčov,“povedal Pappas. „Stále dokáže produkovať solídne odhady toho, akým priestupkom musíme venovať pozornosť. Nemusíte sa obávať, že by sa hráči pokúšali hrať systém, pretože v skutočnosti nie je čo hrať.
Každý vie, že obťažovanie, nenávistné prejavy a toxicita v hlasovom rozhovore a hraní hier sú obrovským problémom.
„Všetko, čo máte ako hráč pod kontrolou, je váš vlastný zvuk,“pokračoval Pappas. „Najhoršia vec, ktorú môžete urobiť, je byť menej zlý k človeku, aby sme vás neoznačili za zlého herca, čo je podľa mňa niečo blízko úspechu misie.“
Vo všeobecnosti je teda myšlienkou ToxMod aktívny pokus o reklamáciu. Mnoho hráčov v tomto bode zažilo určitú formu obťažovania od náhodných cudzincov v otvorených hlasových kanáloch, od náhodných urážok až po aktívne hrozby. Výsledkom je, že hráči majú tendenciu vyhýbať sa hlasovému chatu vo všeobecnosti a radšej sa vzdať jeho pohodlia výmenou za vlastný pokoj.
„Očakávame, že [sú zlí herci, ktorí trávia] oveľa menej času v hlasovom rozhovore, kým budú nájdení a odstránení,“povedal Pappas."To má viac než len lineárny vplyv. Keď každý vidí hlasový chat ako bezpečnejšie miesto, viac dobrých hercov je ochotných vrátiť sa k hlasovému chatu a skúsiť to. Myslím si, že všetko sa môže uberať pozitívnym smerom."
