Kľúčové poznatky
- Zdá sa, že systém AI s názvom DALL-E2 vytvoril svoj vlastný systém písomnej komunikácie.
- Niektorí odborníci tvrdia, že zdanlivý jazyk môže byť len nezmysel.
- Je to príklad toho, aké ťažké je interpretovať výsledky pokročilých systémov AI.
Zdá sa, že umelá inteligencia (AI) vyvinula svoj vlastný jazyk, no niektorí odborníci sú voči tomuto tvrdeniu skeptickí.
Zdá sa, že systém umelej inteligencie typu text-to-image spoločnosti OpenAI s názvom DALL-E2 vytvoril svoj vlastný systém písomnej komunikácie. Je to príklad toho, aké ťažké je interpretovať výsledky pokročilých systémov AI.
„Vzhľadom na veľkosť a hĺbku veľkých modelov je veľmi ťažké vysvetliť správanie modelov,“povedala pre Lifewire v e-mailovom rozhovore Teresa O'Neill, riaditeľka architektúry riešení pre porozumenie prirodzeného jazyka v spoločnosti iMerit. "Toto je jedna zo základných výziev a v niektorých prípadoch aj etické problémy s čoraz silnejšími modelmi. Ak nevieme vysvetliť, prečo sa správajú tak, ako sa správajú, môžeme predvídať ich správanie alebo ho udržať v súlade s našimi normami a očakávaniami?"
Rozhovory AI
Študent informatiky Giannis Daras nedávno poznamenal, že systém DALLE-2, ktorý vytvára obrázky na základe zadávania textu, by za určitých okolností vrátil nezmyselné slová ako text.
"Známe obmedzenie DALLE-2 je, že zápasí s textom," napísal v článku publikovanom na predtlačovom serveri Arxiv. "Napríklad textové výzvy ako: "Obrázok slova lietadlo" často vedú k vygenerovaným obrázkom, ktoré zobrazujú nezmyselný text."
Ale, napísal Daras, za zdanlivým blábolom môže byť metóda. „Zisťujeme, že tento vytvorený text nie je náhodný, ale skôr odhaľuje skrytý slovník, ktorý si model, zdá sa, vyvinul interne,“pokračoval. "Napríklad, keď je naplnený tento nezmyselný text, model často vyrába lietadlá."
Vo svojom tweete Daras poukázal na to, že keď bol DALLE-2 požiadaný o titulkovanie konverzácie medzi dvoma farmármi, ukázalo sa, že sa rozprávajú, no bubliny boli naplnené tým, čo vyzeralo ako nezmyselné slová. Daras však zistil, že tieto slová majú pre AI svoj vlastný význam: farmári hovorili o zelenine a vtákoch.
Nicola Davolio, generálny riaditeľ technologickej spoločnosti Hupry, ktorá spolupracuje s AI, vysvetlil Lifewire v e-mailovom rozhovore, že jazyk je založený na symboloch, ktoré sa systém DALL-E2 naučil spájať s určitými konceptmi. Napríklad symbol pre „pes“môže súvisieť s obrázkom psa, zatiaľ čo symbol pre „mačka“môže súvisieť s obrázkom mačky. DALL-E2 vytvoril svoj jazyk, pretože mu umožňuje efektívnejšie komunikovať s inými systémami AI.
S hádankami, ako je zjavne skrytý slovník DALL-E2, je zábavné zápasiť, no zdôrazňujú aj ťažšie otázky…
„Jazyk sa skladá zo symbolov, ktoré vyzerajú ako egyptské hieroglyfy a nezdá sa, že by mali nejaký konkrétny význam,“dodal. „Symboly sú pre ľudí pravdepodobne bezvýznamné, ale systému umelej inteligencie dávajú dokonalý zmysel, keďže bol natrénovaný na miliónoch obrázkov.“
Výskumníci sa domnievajú, že systém AI vytvoril jazyk, aby mu pomohol lepšie pochopiť vzťahy medzi obrázkami a slovami, povedal Davolio.
„Nie sú si istí, prečo systém AI vyvinul svoj jazyk, ale majú podozrenie, že to môže mať niečo spoločné s tým, ako sa učil vytvárať obrázky,“dodal Davolio. „Je možné, že systém AI vyvinul svoj jazyk, aby zefektívnil komunikáciu medzi rôznymi časťami siete."
Záhady AI
DALL-E2 nie je jediný systém AI, ktorý vyvinul svoj interný jazyk, zdôraznil Davolio. V roku 2017 systém AutoML spoločnosti Google vytvoril novú formu neurónovej architektúry nazývanú „detská sieť“po tom, čo sa rozhodol, ako najlepšie dokončiť danú úlohu. Túto detskú sieť nedokázali interpretovať jej ľudskí tvorcovia.
„Tieto príklady sú len niekoľkými príkladmi, v ktorých systémy AI vyvinuli spôsoby robenia vecí, ktoré nevieme vysvetliť,“povedal Davolio. "Je to novovznikajúci fenomén, ktorý je fascinujúci a alarmujúci v rovnakej miere. Ako sa systémy AI stávajú zložitejšími a autonómnejšími, môžeme sa stále viac ocitnúť v situácii, keď nerozumieme, ako fungujú."
O'Neill povedala, že si nemyslí, že DALL-E2 vytvára svoj vlastný jazyk. Namiesto toho povedala, že dôvod zjavného lingvistického vynálezu je pravdepodobne o niečo prozaickejší.
„Jedným z možných vysvetlení je náhodná náhoda – v takom veľkom modeli by mohol platiť kúsok z Murphyho zákona: ak sa môže stať zvláštna vec, pravdepodobne sa stane,“dodal O'Neill. Ďalšou možnosťou, ktorú navrhol výskumný analytik Benjamin Hilton vo vlákne na Twitteri, v ktorom sa diskutuje o Darasových zisteniach, je, že forma frázy „apoploe vesrreaitais“napodobňuje formu latinského názvu zvieraťa. Takže systém vytvoril novú objednávku Aves, dodal O'Neill.
„S hádankami, ako je zjavne skrytý slovník DALL-E2, je zábavné zápasiť, no zároveň zdôrazňujú aj závažnejšie otázky týkajúce sa rizika, zaujatosti a etiky v často nevyspytateľnom správaní veľkých modelov,“povedal O'Neill.
