Kľúčové poznatky
- Spoločnosti používajú umelú inteligenciu na sledovanie svojich zamestnancov.
- Amazon nainštaloval začiatkom tohto roka do svojich dodávok kamery využívajúce strojové učenie.
- Dohľad nad AI by mohol viesť k problémom so súkromím a bezpečnosťou, ak by ho používali bezohľadné spoločnosti.
Zamestnávatelia čoraz viac sledujú svojich pracovníkov pomocou umelej inteligencie a pozorovatelia tvrdia, že tento postup vyvoláva obavy o súkromie.
Začiatkom tohto roka Amazon nainštaloval do svojich dodávok kamery využívajúce strojové učenie. Spoločnosť nedávno povedala svojim vodičom, že musia súhlasiť s ich používaním. Prax dohľadu na pracovisku môže byť legálna, ale nie každý súhlasí s tým, že je etická.
„Spoločnosti používajú nástroje na monitorovanie zamestnancov už desaťročia, ale s pokrokom v technológii sa stávajú invazívnejšími,“povedala v e-mailovom rozhovore Aimee O'Driscoll, bezpečnostná výskumníčka na webovej stránke porovnávajúcej technológie Comparitech.
"Väčšinu monitorovania zamestnancov možno považovať za zásah do súkromia a dalo by sa tvrdiť, že to, čo robí Amazon, sa úplne nelíši od CCTV kamier v kancelárii."
Buďte sledovaní alebo vás vyhodia
Približne 75 000 doručovateľov Amazonu v USA musí teraz podpísať formulár „biometrický súhlas“. Formulár povolenia umožňuje kamerám poháňaným AI sledovať polohu, pohyb a biometrické údaje vodičov. Zamestnanci, ktorí dokument nepodpíšu, môžu byť prepustení.
Dohľad AI sleduje všetko, čo robia vodiči Amazonu, čím narúša predpokladané súkromie subjektu, povedal Chris Hauk, výskumník ochrany súkromia na webovej stránke Pixel Privacy v oblasti ochrany osobných údajov.
"To zahŕňa nahrávanie zakaždým, keď subjekt zíva alebo poškriabe citlivú oblasť," dodal. "Vodič má aspoň nejaké právo na zdanie súkromia vo svojom vozidle."
Dohľad nad zamestnancami prostredníctvom AI je čoraz väčší problém. Walmart patentoval technológiu AI, ktorá umožňuje počúvať interakcie zamestnancov so zákazníkmi pri pokladniach, zdôraznil O’Driscoll.
Vývojár softvéru Enaible poskytuje nástroje na zvýšenie produktivity založené na softvéri AI. Rôzne spoločnosti, vrátane Macy's, používajú analytický systém spoločnosti Microsoft, ktorý dokáže monitorovať správanie zamestnancov. Domino’s použil technológiu AI na kontrolu, či sú pizze vyrobené správne.
„Jedným z hlavných problémov je, že pri nesprávnom použití môže nedostatok súkromia viesť k bezpečnostným problémom,“povedal O’Driscoll.
"Údaje zo sledovania by mohli skončiť v rukách zločincov, alebo by samotní zlí aktéri mohli využiť sledovanie AI na cielenie obetí."
Výsledkom biometrických skenov tváre je matematická reprezentácia tváre dotknutej osoby, ktorú možno využiť na ich identifikáciu a sledovanie kdekoľvek, po zvyšok života, uviedol Ray Walsh, odborník na ochranu osobných údajov na webovej stránke ProPrivacy. e-mailový rozhovor.
„To predstavuje vážne riziká pre súkromie a bezpečnosť pre vodičov Amazonu, ktorých údaje by mohli byť narušené, prezradené alebo potenciálne dokonca zneužité vládnymi sliedičmi pomocou príkazu,“dodal.
Vzhľadom na to, že technológia AI je relatívne nová, neexistujú žiadne konkrétne usmernenia týkajúce sa jej používania týkajúce sa súkromia, povedal O’Driscoll. "To znamená, že bezpečnosť bude pravdepodobne vždy legitímnou výhovorkou pre inváziu do súkromia, takže Amazon je krytý svojimi súčasnými zámermi," dodala.
Zamestnanci majú právo ukončiť navrhované monitorovanie AI alebo s ním súhlasiť, no robia tak pri obrovskej nerovnováhe síl, O’Driscoll povedal, že dohľad nad AI by mal byť regulovaný. „Spoločnosti by v ideálnom prípade mali mať legitímne dôvody (napríklad bezpečnosť) na sledovanie AI,“dodala.
Niektoré štáty schválili zákony, ktoré obmedzujú a regulujú používanie dohľadu na pracovisku, ale chýba federálna legislatíva, zdôraznil Walsh.
V roku 2019 bol do Snemovne reprezentantov a Senátu zavedený zákon o algoritmickej zodpovednosti, ktorý bol však nakoniec zamietnutý. Podobný zákon môže byť zavedený tento rok a „dúfame, že Kongres pod vedením demokratov a Biely dom môžu zlepšiť svoje šance na schválenie,“povedal Walsh.
Neočakávajte pri práci súkromie
Nie každý si myslí, že dohľad Amazonu nad jeho vodičmi je zásahom do súkromia.
„Myslím si, že je ťažké tvrdiť, že zamestnanec má rozumné očakávania súkromia vo vozidle vlastnenom spoločnosťou,“povedal Will Griffin, hlavný etický riaditeľ spoločnosti Hypergiant v oblasti umelej inteligencie.
"Väčším problémom je, že v priebehu niekoľkých krátkych rokov budú všetci títo vodiči nahradení autonómnymi vozidlami. Akákoľvek debata o politike vodičov sa teda stane diskutabilnou, keď sa vozový park stane úplne autonómnym."
Prípad Amazonu poukazuje na potrebu odborov alebo cieleného federálneho zásahu ako spôsobu obnovenia rovnováhy síl medzi pracovníkmi Amazonu a spoločnosťou, povedal Griffin.
„Zamestnanci majú právo ukončiť alebo súhlasiť s navrhovaným monitorovaním AI, no robia tak pri obrovskej nerovnováhe síl,“dodal.
