Kľúčové poznatky
- Množstvo nových aplikácií môže byť schopných odhaliť emócie študentov.
- Intel a výrobca softvéru pre triedy Class údajne vyvíjajú softvér, ktorý bude sledovať tváre a reč tela digitálnych študentov.
- Niektorí odborníci sa obávajú, že používanie AI na monitorovanie študentov by mohlo viesť k narušeniu súkromia.
Školy by mohli čoskoro využívať umelú inteligenciu (AI) na monitorovanie emocionálnych stavov študentov.
Spoločnosť Intel a výrobca triedneho softvéru Class vyvíjajú softvér, ktorý bude sledovať tváre a reč tela digitálnych študentov. Systém údajne dokáže zistiť, či sa študenti nudia, rozptyľujú alebo sú zmätení, no niektorí odborníci sa obávajú, že softvér by mohol viesť k narušeniu súkromia.
„Takéto monitorovacie produkty založené na AI by mali byť transparentné, pokiaľ ide o to, ako sa tieto údaje používajú,“povedal pre Lifewire e-mailom Michael Huth, spoluzakladateľ spoločnosti Xayn a vedúci oddelenia výpočtovej techniky na Imperial College London. rozhovor. "Ak sa používa na sledovanie angažovanosti v kohorte študentov, kde sa angažovanosť na individuálnej úrovni nezaznamenáva, je to z hľadiska súkromia o niečo menej problematické. Ak by sa však niektoré z týchto údajov použili na ovplyvnenie hodnotenia študentov, môžete vidieť všetky druhy vznikajúcich problémov."
Watching Over Students
Class a Intel sa spojili s cieľom integrovať technológiu založenú na AI, ktorá funguje spolu so softvérom pre videokonferencie Zoom, informoval protokol. Softvér možno použiť na monitorovanie študentov, uvádza sa v správe.
„Prostredníctvom nášho partnerstva so spoločnosťou Intel budeme môcť do softvéru Class priniesť nové, pohlcujúce funkcie, ktoré sú poháňané funkciami podporovanými výskumom,“uvádza sa na webovej stránke spoločnosti. „Budeme tiež spolupracovať so spoločnosťou Intel, aby sme využili zdroje a poskytli pedagógom a študentom cenné poznatky, spoločné prípadové štúdie, biele knihy, webináre a oveľa viac.“
Intel Protokolu povedal, že softvér v triede je v počiatočnom štádiu a neplánuje sa poslať produkt na trh.
Partnerstvo so spoločnosťou Class nie je jedinou potenciálnou spoluprácou medzi softvérom Intel na čítanie emócií a inými výrobcami. Online brožúra od spoločnosti Intel ponúka novú elektronickú tabuľu s názvom Viewboard zameranú na školy. Softvér Intel „umožňuje aplikácii myViewboard posúdiť a zobraziť emocionálne stavy študentov ako okamžitú spätnú väzbu pre pedagógov,“uvádza sa v brožúre.
Class je jedným z mnohých softvérových produktov, ktorých cieľom je sledovať emócie študentov pomocou AI. K dispozícii je tiež 4Little Trees, vzdelávacia platforma na detekciu emócií, ktorá je „virtuálnym asistentom učiteľa, [ktorý] by vám pomohol výberom najvhodnejších otázok pre vás alebo vás vyzval, keď to bude potrebné,“uvádza sa na webovej stránke spoločnosti.
Ashish Fernando, generálny riaditeľ spoločnosti AI iSchoolConnect, povedal Lifewire v e-mailovom rozhovore, že AI možno vycvičiť na hodnotenie ľudského správania a vlastností bez vplyvu subjektívnych predsudkov, ktoré jednotlivci majú.
"AI dokáže vyhodnotiť podstatne väčší počet ľudských správaní, vrátane ľahko prehliadnuteľných mikrovýrazov, oveľa rýchlejšie ako človek," povedal Fernando. „Tam, kde spätná väzba mohla trvať hodiny, AI teraz dokáže poskytnúť to isté v priebehu niekoľkých minút.“
Obavy ochrany osobných údajov
Používanie AI na sledovanie ľudí rastie. Snapchat má technológiu AI, ktorá hodnotí emocionálnu úroveň skupiny ľudí na živom podujatí. Mad Street Den využíva umelú inteligenciu počítačového videnia, aby pomohla maloobchodníkom rozpoznať výrazy tváre a emócie potenciálnych kupcov. BrainQ využíva AI na pochopenie toho, ako cestujúci interagujú s autonómnymi vozidlami, ktoré používajú. A spoločnosti používajú AI na sledovanie únavy vodiča.
„Toto je skvelý prípad použitia pre bezpečnosť na cestách, ale prináša otázky týkajúce sa práv na súkromie vodičov v ich osobných vozidlách,“povedal Huth. "Budú informácie o únave zdieľané s poisťovňou alebo výrobcom auta? Alebo to len upozorní vodiča, aby zastavil a odpočinul si? To je menší problém pre komerčné vozové parky, ako sú nákladné autá, dodávky alebo kabíny."
Jedným problémom je, že informácie AI, ako napríklad pohyb svalov na odvodenie emocionálneho stavu, nemusia byť spoľahlivé, povedal Huth. "To vytvára dilemu, pretože spoľahlivejšia AI môže vyžadovať prístup k ešte citlivejším údajom, ako sú signály EEG," dodal.
Pre študentov môže byť umelá inteligencia užitočná na monitorovanie dodržiavania pravidiel počas online skúšok, keď proktor nemôže byť fyzicky prítomný. Ale toto použitie AI na tento účel je sporné, povedal Huth, pretože systém sa snaží určiť, či študent má v úmysle podvádzať alebo podvádza, a existuje skutočný potenciál pre falošne pozitívne výsledky, ktoré vedú k neoprávnenému penalizácii študentov, ktorí neurobili nič zlé..
„Akákoľvek umelá inteligencia používaná na tento účel by musela byť dostatočne robustná, aby si poradila s prestávkami na toalete, nervóznymi tikmi jednotlivých študentov (ako sú nepravidelné pohyby očí) a podobne,“povedal Huth.
