Kľúčové poznatky
- Programy umelej inteligencie ako Cogito sa snažia naučiť ľudí empatii pri jednaní so zákazníkmi.
- Odborníci sa nezhodujú v tom, či je možné, aby stroj naučil ľudí empatii, alebo či jednoducho nachádza dátové body.
- Niektorí odborníci sa tiež obávajú, že výučba empatie umelej inteligencie by mohla ľudstvo o túto emóciu pripraviť.
Predstavte si, že pracujete v call centre a zákazník vám zavolá. Odpoviete a hneď sa veci začnú vyvíjať zle. Zákazník je nahnevaný a napätie stúpa.
Začnete hovoriť veci, ktoré by ste mohli neskôr ľutovať. Zrazu sa na obrazovke počítača objaví správa. "Táto empatie – zamyslite sa nad tým, ako sa zákazník cíti. Pokúste sa nadviazať vzťah."
Nie je to skutočná osoba, ktorá vám hovorí, čo máte robiť. Je to správa od Cogito, programu umelej inteligencie, ktorý má pomôcť pracovníkom vcítiť sa do frustrovaných volajúcich a zvýšiť výkon. Cogito je jedným z rastúceho počtu programov AI, ktoré sa snažia naučiť ľudí empatii.
Je tu zjavná irónia. Ľudskí vedci sa už desaťročia snažia vytvoriť realistickejšie počítače. Teraz nám stroje hovoria, ako sa máme správať. Môže nás však softvér skutočne naučiť, ako byť empatickejší? Je to problém, ktorý by mohol mať hlboké dôsledky, keď umelá inteligencia začne prenikať do každodenného života.
AI napodobňuje ľudské správanie
Z technického hľadiska je jasné, že AI dokáže zachytiť informácie o tom, ako sa ľudia cítia, a poskytnúť spätnú väzbu.
„AI a systémy strojového učenia sú veľmi dobré pri hľadaní vzorov v údajoch,“povedal Adam Poliak, postdoktorand v odbore informatika na Barnard College v e-mailovom rozhovore.
"Ak umelej inteligencii poskytneme veľa príkladov empatického textu, umelá inteligencia môže objaviť vzorce a podnety, ktoré vyvolávajú alebo prejavujú empatiu."
AI môže byť naprogramovaná tak, aby rozbila niektoré ľudské správanie, ktoré sprevádza empatiu, a pripomenula ľuďom, aby ich vykonali, ale to nie je vyučovanie empatie.
AI, ktorá analyzuje ľudské reakcie, môže pomôcť preklenúť rastúcu priepasť medzi ľuďmi, keď komunikujeme digitálne, povedal Bret Greenstein, odborník na AI v Cognizant Digital Business, v e-mailovom rozhovore.
„Za posledný rok rástli real-time, video, hlas a správy rýchlejšie, než si ktokoľvek dokázal predstaviť, a s tým prišli obrovské výzvy pri vytváraní skutočne empatických vzťahov bez toho, aby sme skutočne trávili čas s ľuďmi,“povedal pridané.
AI môže pomôcť analyzovať a posúdiť charakteristiky, ako je tón a emócie v reči, povedal Greenstein. „To môže pomôcť osobe prijímajúcej komunikáciu lepšie porozumieť tomu, čo bolo myslené, a pomáha osobe ‚hovoriť‘tým, že ukazuje, ako by sa správy dali interpretovať,“dodal.
Zatiaľ čo spoločnosti sa ponáhľajú zarobiť peniaze na školiaci softvér AI, ako je Cogito, otázka, či môže AI naučiť ľudí empatii, zostáva otvorená. A odpoveď môže mať rovnako veľa spoločného s filozofiou ako technológiou.
Ilia Delio je teológ na Villanova University, ktorého práca sa sústreďuje na priesečník viery a vedy. Verí, že AI môže naučiť empatii.
Delio poukázal na to, že tím na MIT vytvoril roboty, ktoré dokážu napodobňovať ľudské emócie, ako je šťastie, smútok a súcit. „Zatiaľ čo sú robotické emócie naprogramované, roboty môžu interagovať s ľuďmi, a tak vytvoriť alebo posilniť nervové vzorce,“povedala.
Môže stroj pochopiť empatiu?
Odborníci definujú najmenej tri formy empatie, pričom všetky zahŕňajú schopnosť porozumieť inej osobe a vzťah k nej, povedala Karla Erickson, sociologička z Grinnell College v Iowe a autorka pripravovanej knihy Messy Humans: A Sociology of Human/Machine Relations, ktorá skúma naše vzťahy s technológiou.
„Vzťahovanie nie je niečo, čo AI dokáže, a je to základ pre empatiu,“povedal Erickson v e-mailovom rozhovore.
"AI môže byť naprogramovaná tak, aby odbúrala niektoré ľudské správanie, ktoré sprevádza empatiu, a pripomenula ľuďom, aby ich vykonali, ale to nie je vyučovanie empatie. Súvisiace, najmä pokiaľ ide o empatiu, by od poslucháča vyžadovalo potrebný kontext na to, aby sa to dalo spojiť – tým chcem povedať, že „život“AI nezahŕňa stratu, túžbu, nádej, bolesť alebo smrť."
Odborníci sa však sporia o to, či nás AI môže naučiť empatii. Časť problému spočíva v tom, že nie všetci súhlasia s tým, čo znamená „empatia“alebo „AI“. Pojem umelá inteligencia sa často skloňuje, ale momentálne to nie je ten druh inteligencie, ktorý si predstavujeme ako ľudskú inteligenciu.
Toto je čistá inžinierska práca a nerobím si také ilúzie, že dotyčná AI sama má emócie alebo emóciám skutočne rozumie.
„Tieto „empatické podnety“nemajú nič spoločné s empatiou,“povedal v e-mailovom rozhovore Michael Spezio, profesor psychológie, neurovedy a dátovej vedy na Scripps College.
"Sú to podnety z hlasov, ktoré hodnotitelia klasifikovali ako hlasy ľudí, ktorí sú podráždení/otrávení. Ide teda len o to, že sa v matematickom modeli použije ľudská odbornosť a potom sa tvrdí, že model založený na ľudských odbornostiach je inteligentné. Obmedzené prístupy strojového učenia, ako je tento, sú často medializované ako AI bez toho, aby boli inteligentné."
Na polytechnickom inštitúte Rensselaer vytvára laboratórium Selmera Bringsjorda matematické modely ľudských emócií. Cieľom výskumu je vytvoriť AI, ktorá dokáže dosiahnuť vysoké skóre v testoch emocionálnej inteligencie a aplikovať ich na ľudí. Ale Bringsjord, odborník na AI, hovorí, že každé vyučovanie AI je neúmyselné.
„Toto je však čistá inžinierska práca a nerobím si také ilúzie, že dotyčná AI sama o sebe má emócie alebo emóciám skutočne rozumie,“povedal v e-mailovom rozhovore.
Čo sa môže pokaziť?
Zatiaľ čo spoločnosti ako Cogito vidia svetlú budúcnosť výcviku ľudí AI, iní pozorovatelia sú opatrnejší.
Supportiv, online služba duševného zdravia, používa AI na to, aby každého používateľa nasmerovala v reálnom čase na základe akejkoľvek myšlienky, ktorú vyjadrí, do skupiny peer podpory špecifickej pre danú tému, ktorá dynamicky zvoláva používateľov s podobnými problémami.
Každá skupina má „supervýkonného“ľudského moderátora, ktorý udržiava textový chat bezpečný a bez trollov a môže sa objaviť, opäť prostredníctvom AI, relevantných zdrojov, odporúčaní a odporúčaní priamo do skupinovej konverzácie. Supportiv pomocou AI školí svojich moderátorov, aby boli zbehlí v rozpoznávaní intenzity emocionálnych potrieb.
„Empatia je sval, ktorý budujeme,“povedala Zara Dana, dátová vedkyňa zo spoločnosti Supportiv v e-mailovom rozhovore.
„Ak pri chôdzi začneme používať barle, naše svaly atrofujú. Nemôžem sa čudovať, cítila by sa závislá pracovníčka sebaisto, keby systém AI jedného dňa nebol online? Dokáže to urobiť pracovať efektívne? Aké sú dlhodobé účinky na pracovníkov? Ako by sa orientovali v zložitých sociálnych situáciách, v ktorých chýba umelá inteligencia?"
Aj keď používanie AI na výučbu empatie funguje, čo sa stane, keď sa začneme príliš spoliehať na AI pri trénovaní emócií? Jednou z možných nevýhod je, že ľudia sa môžu viac pripútať k robotom ako k iným ľudským osobám, pretože roboty si nemôžu vybrať proti ich programu, zdôraznil Delio.
„Ľudská schopnosť slobodnej vôle stavia ľudské jednanie do nejednoznačnejšej pozície,“povedal Delio. "Človek môže byť jeden deň súcitný a na druhý deň nemilosrdný; robot zostane dôsledne súcitný, pokiaľ nebude vycvičený, aby robil inak."
Je toho veľa, čo sa môže pokaziť, ak AI naučí ľudí, ako sa správať ako ľudia, hovoria odborníci.
Vyvinuli sme sa na spoločenské zvieratá a naša empatia je základom našej schopnosti spájať sa s ostatnými a starať sa o kolektívy, do ktorých patríme.
"Bez ľudského dohľadu by sa študent mohol naučiť niečo úplne šialené," povedal Bringsjord.
"Tón a výška hlasu sú len koreláty správania, bez akéhokoľvek obsahu. Doláre na šišky môj hlas pri vyučovaní v triede by čítali mnohí…čo naznačuje, že som naštvaný, zatiaľ čo v skutočnosti som" Som len vášnivý a prinajmenšom potrebujem empatiu."
Ak bude tréning AI ľudí prekvitať, možno sa naň spoľahneme. A to nie je nevyhnutne dobré.
„Toto školenie znehodnocuje ľudské schopnosti, ktoré sú značné, a presúva pozornosť na AI, ako keby to boli oni, ktorí majú odborné znalosti,“povedal Erickson."Vyvinuli sme sa na spoločenské zvieratá a naša empatia je základom našej schopnosti spájať sa s ostatnými a starať sa o kolektívy, ku ktorým patríme."
