Kľúčové poznatky
- Systémy umelej inteligencie, ktoré monitorujú dodávky, nespravodlivo penalizujú vodičov Amazonu, tvrdí nová správa.
- Systém Amazon je súčasťou rastúceho trendu spoločností, ktoré využívajú technológiu na monitorovanie svojich zamestnávateľov na diaľku.
-
Niektorý softvér AI umožňuje zamestnávateľom nepretržite monitorovať správanie zamestnancov na pozadí a kresliť vzory v ich pracovnom postupe.
Zamestnávatelia sa čoraz viac obracajú na softvér na monitorovanie zamestnancov na diaľku, čo vyvoláva obavy niektorých zástancov ochrany súkromia.
Nová správa tvrdí, že kamery poháňané AI v dodávkach Amazonu nespravodlivo penalizujú vodičov. V článku sa zistilo, že vodiči trpeli chybnými upozorneniami, nesprávnymi výsledkovými kartami vodičov, nepraktickými predpokladmi stavu premávky a vodičmi, ktorí si osvojili praktiky na obchádzanie technológie.
„Kým sa AI zlepšuje, stále sa budú robiť chyby,“povedal Raymond Ku, riaditeľ Centra pre právo a politiku v kyberpriestore na Case Western Reserve University, Lifewire v e-mailovom rozhovore. „V záujme spravodlivosti si myslím, že všetci veríme, že niekto, kto je akýmkoľvek spôsobom penalizovaný rozhodovaním AI, by si mal byť vedomý tejto skutočnosti a mal by dostať príležitosť napadnúť rozhodnutie.“
Amazon's AI Cameras
Amazon uviedol, že ako bezpečnostné opatrenie nainštaloval do svojich doručovacích vozidiel kamery poháňané AI. Kamery sú určené na monitorovanie, keď vodiči dodávky vykonávajú nebezpečné manévre, ako je jazda na znamenie zastavenia alebo nedovolené otáčanie sa.
Keď kamery zaznamenajú možné nebezpečné „udalosti“pri šoférovaní, tieto prípady sa zohľadnia vo výkonnosti pracovníkov. Nižšie skóre znižuje šancu vodičov získať bonusy, extra plat a ceny.
Vodiči Amazonu však povedali Motherboard, že sú trestaní za niektoré jazdné návyky, ktoré sa považujú za bezpečné alebo mimo ich kontroly. Amazon neodpovedal na žiadosť Lifewire o komentár.
Ku poukázal na to, že keďže vodiči súhlasili so záznamom, netrpia zásahom do súkromia podľa zákona.
„To však neznamená, že priemerný pracovník by bol spokojný so sledovaním alebo by nemal námietky, keby mohol,“dodal. "To platí najmä vtedy, keď sledovanie začne zasahovať do tradičnejších osobných priestorov."
Správa nastoľuje širšie otázky, či je možné získať prístup k údajom a použiť ich v súdnych sporoch alebo políciou a federálnymi úradníkmi, uviedla právnička na ochranu údajov Bethany A. Corbinová pre Lifewire v e-mailovom rozhovore. Mohlo by to tiež ovplyvniť zodpovednosť, zdôraznila.
„Napríklad, ak technológia AI hovorí zamestnancovi, aby sa nepozeral do bočných zrkadiel a zamestnanec má nehodu ako priamy dôsledok tejto rady, kto je na vine?“Corbin pridaný.
Growing Surveillance
S Amazonom sa dohľad nekončí. Čoraz väčší počet spoločností používa technológiu na sledovanie svojich zamestnancov na diaľku, povedal odborník na ochranu súkromia Chris Hauk Lifewire v e-mailovom rozhovore.
Napríklad marketingová firma AI Blackbelt používa systém sledovania času prideľovania, ktorý spoločnosti umožňuje autonómne monitorovať a sledovať počítačovú aktivitu svojich zamestnancov. Microsoft Workplace Analytics umožní zamestnávateľom sledovať dĺžku času zamestnanca na webových stránkach, písaní e-mailov a podobne počas pracovného dňa.
Walmart tiež pracuje na systéme, ktorý počúva zvuk šušťania tašiek alebo pípania z pokladničných skenerov, aby sledoval metriky zamestnancov a zabezpečil, že zamestnanci vykonávajú svoje úlohy správne a efektívne. Senzory môžu dokonca odpočúvať zákazníkov, keď sa rozprávajú v rade, a zistiť, či zamestnanci vítajú zákazníkov správne alebo nie.
Dozor na pracovisku je od vypuknutia pandémie čoraz bežnejší, povedal expert na ochranu súkromia Pankaj Srivastava pre Lifewire v e-mailovom rozhovore.
„Väčšina tejto technológie je umiestnená ako ‚zlepšenie produktivity‘, avšak spôsob, akým niektoré z týchto nástrojov fungujú, naznačuje väčšiu toleranciu zamestnávateľov pri monitorovaní každej činnosti svojej pracovnej sily,“dodal. „Napríklad monitorovaním toho, koľko času zamestnanci strávia pri jednotlivých úlohách, fotografovaním na diaľku, aby sa ubezpečili, že sú zamestnanci pri svojom stole, a dokonca aj sledovaním navštívených webových stránok a zaznamenávaním ťahov zamestnancov na klávesnici a pohybov myši.“
Kým sa AI zlepšuje, stále sa budú robiť chyby.
Niektorý softvér AI umožňuje zamestnávateľom nepretržite monitorovať správanie zamestnancov na pozadí a kresliť vzory v ich pracovnom postupe, povedal.
„Zamestnanec môže byť prepustený na základe jeho personalizovanej správy o výkonnosti s odvolaním sa na to, že dokončenie úlohy trvalo o niekoľko minút dlhšie ako zvyčajne,“povedal Srivastava.
"Dovidenia, prestávky v kúpeľni."
