Kľúčové poznatky
- Výskumníci vytvorili techniky, ktoré používateľom umožňujú hodnotiť výsledky správania modelu strojového učenia.
- Odborníci tvrdia, že metóda ukazuje, že stroje dobiehajú ľudské schopnosti myslenia.
- Pokroky v AI by mohli urýchliť vývoj schopnosti počítačov porozumieť jazyku a spôsobiť revolúciu v spôsobe interakcie AI a ľudí.
Nová technika, ktorá meria schopnosť umelej inteligencie (AI), ukazuje, že stroje dobiehajú ľudí v ich schopnostiach myslieť, hovoria odborníci.
Výskumníci z MIT a IBM Research vytvorili metódu, ktorá umožňuje užívateľovi hodnotiť výsledky správania sa modelu strojového učenia. Ich technika s názvom Zdieľaný záujem zahŕňa metriky, ktoré porovnávajú, do akej miery sa myslenie modelu zhoduje s myslením ľudí.
„Umelá inteligencia je dnes schopná dosiahnuť (a v niektorých prípadoch prevýšiť) ľudský výkon v špecifických úlohách, vrátane rozpoznávania obrazu a porozumenia jazyku, “Pieter Buteneers, riaditeľ inžinierstva v oblasti strojového učenia a AI v komunikáciách. spoločnosť Sinch, povedal Lifewire v e-mailovom rozhovore. „So spracovaním prirodzeného jazyka (NLP) dokážu systémy AI interpretovať, písať a hovoriť jazykmi rovnako ako ľudia a AI môže dokonca prispôsobiť svoj dialekt a tón tak, aby sa zhodoval s ľudskými rovesníkmi.“
Artificial Smarts
AI často prináša výsledky bez vysvetlenia, prečo sú tieto rozhodnutia správne. A nástroje, ktoré pomáhajú odborníkom porozumieť úvahám modelu, často poskytujú iba prehľad, vždy len jeden príklad. Umelá inteligencia je zvyčajne trénovaná pomocou miliónov dátových vstupov, takže je pre človeka ťažké vyhodnotiť dostatok rozhodnutí na identifikáciu vzorov.
V nedávnom článku vedci uviedli, že zdieľaný záujem môže pomôcť používateľovi odhaliť trendy v rozhodovaní modelu. A tieto poznatky môžu používateľovi umožniť rozhodnúť sa, či je model pripravený na nasadenie.
„Pri vývoji zdieľaného záujmu je naším cieľom byť schopný rozšíriť tento proces analýzy tak, aby ste na globálnejšej úrovni pochopili, aké je správanie vášho modelu,“Angie Boggust, spoluautorka článku, uvádza sa v tlačovej správe.
Shared Interest využíva techniku, ktorá ukazuje, ako model strojového učenia urobil konkrétne rozhodnutie, známe ako metódy nápadnosti. Ak model klasifikuje obrázky, metódy význačnosti zvýraznia oblasti obrázka, ktoré sú pre model dôležité, keď sa rozhoduje. Zdieľaný záujem funguje na základe porovnávania metód význačnosti s anotáciami vytvorenými ľuďmi.
Výskumníci použili Zdieľaný záujem, aby pomohli dermatológovi určiť, či by mal dôverovať modelu strojového učenia, ktorý má pomôcť diagnostikovať rakovinu z fotografií kožných lézií. Zdieľaný záujem umožnil dermatológovi rýchlo vidieť príklady správnych a nesprávnych predpovedí modelu. Dermatológ sa rozhodol, že tomuto modelu nemôže dôverovať, pretože robil príliš veľa predpovedí založených na artefaktoch obrazu, a nie na skutočných léziách.
„Hodnotou je, že pomocou zdieľaného záujmu sme schopní vidieť, ako sa tieto vzorce objavujú v správaní nášho modelu. Asi za pol hodinu sa dermatológ mohol rozhodnúť, či bude modelu dôverovať alebo nie a či ho nasadí, alebo nie, “povedal Boggust.
Zdôvodnenie rozhodnutia modelu je dôležité pre výskumníka strojového učenia aj pre toho, kto rozhoduje.
Meranie pokroku
Práca výskumníkov z MIT by mohla byť významným krokom vpred pre pokrok AI smerom k inteligencii na ľudskej úrovni, povedal Ben Hagag, vedúci výskumu v Darrow, spoločnosti, ktorá využíva algoritmy strojového učenia, povedal Lifewire v e-mailovom rozhovore.
„Zdôvodnenie rozhodnutia modelu je dôležité pre výskumníka strojového učenia aj pre toho, kto rozhoduje,“povedal Hagag. „Prvý chce pochopiť, aký dobrý je model a ako ho možno vylepšiť, zatiaľ čo druhý chce v model vybudovať pocit dôvery, takže musí pochopiť, prečo bol tento výstup predpovedaný.“
Hagag však varoval, že výskum MIT je založený na predpoklade, že rozumieme ľudskému chápaniu alebo ľudskému uvažovaniu alebo ich môžeme komentovať.
„Je tu však možnosť, že to nemusí byť presné, takže je potrebné viac pracovať na pochopení ľudského rozhodovania,“dodal Hagag.
Pokroky v AI by mohli urýchliť vývoj schopnosti počítačov porozumieť jazyku a spôsobiť revolúciu v spôsobe, akým AI a ľudia interagujú, povedal Buteneers. Chatboty dokážu naraz porozumieť stovkám jazykov a asistenti AI môžu skenovať text, aby našli odpovede na otázky alebo nezrovnalosti.
„Niektoré algoritmy dokážu dokonca identifikovať, kedy sú správy podvodné, čo môže pomôcť firmám aj spotrebiteľom vyradiť spamové správy,“dodal Buteneers.
Ale, povedal Buteneers, AI stále robí chyby, ktoré by ľudia nikdy neurobili. „Aj keď sa niektorí obávajú, že umelá inteligencia nahradí ľudské pracovné miesta, realita je taká, že vždy budeme potrebovať ľudí, ktorí budú pracovať s robotmi AI, ktorí im pomôžu udržať ich pod kontrolou a udržať tieto chyby na uzde a zároveň zachovať ľudský kontakt v podnikaní,“dodal.
