Kľúčové poznatky
- Nový výskum naznačuje, že možno neexistuje spôsob, ako ovládať superinteligentnú umelú inteligenciu.
- Časopis tvrdí, že ovládanie AI by si vyžadovalo oveľa pokročilejšiu technológiu, než akú v súčasnosti vlastníme.
- Niektorí odborníci tvrdia, že skutočne inteligentná AI tu môže byť skôr, ako si myslíme.
Ak ľudia niekedy vyvinú superinteligentnú umelú inteligenciu, možno nebude existovať spôsob, ako ju ovládať, hovoria vedci.
AI bola dlho propagovaná buď ako liek na všetky problémy ľudstva, alebo ako apokalypsa v štýle Terminátora. Zatiaľ sa však AI nepriblížila ani k inteligencii na ľudskej úrovni. Podľa nedávneho článku publikovaného v časopise Journal of Artificial Intelligence Research by však mohlo byť pre ľudí príliš zložitým problémom, ak by sa niekedy vyvinula.
"Superinteligentný stroj, ktorý ovláda svet, znie ako sci-fi," uviedol v tlačovej správe Manuel Cebrian, jeden zo spoluautorov článku.
"Ale už existujú stroje, ktoré vykonávajú určité dôležité úlohy nezávisle bez toho, aby programátori plne rozumeli tomu, ako sa to naučili. Vynára sa preto otázka, či by sa to v určitom momente nemohlo stať nekontrolovateľným a nebezpečným pre ľudstvo."
Už čoskoro v super počítači vo vašom okolí
Časopis tvrdí, že ovládanie AI by si vyžadovalo oveľa pokročilejšiu technológiu, než akú v súčasnosti vlastníme.
V rámci svojej štúdie tím vytvoril teoretický zadržiavací algoritmus, ktorý zaisťuje, že superinteligentná AI nemôže za žiadnych okolností ublížiť ľuďom, a to tak, že najprv nasimuluje správanie AI a zastaví ho, ak sa považuje za škodlivé. Autori však zistili, že takýto algoritmus nie je možné zostaviť.
"Ak problém rozdelíte na základné pravidlá teoretickej informatiky, ukáže sa, že algoritmus, ktorý by prikázal AI, aby nezničila svet, by mohol neúmyselne zastaviť jej vlastné operácie." Iyad Rahwan, riaditeľ Centra pre ľudí a stroje v Inštitúte Maxa Plancka pre ľudský rozvoj v Nemecku, uviedol v tlačovej správe.
"Ak by sa to stalo, nevedeli by ste, či zadržiavací algoritmus stále analyzuje hrozbu, alebo či prestal obsahovať škodlivú umelú inteligenciu. V dôsledku toho je zadržiavací algoritmus nepoužiteľný."
Skutočne inteligentná AI tu môže byť skôr, ako si myslíme, tvrdí Michalis Vazirgiannis, profesor informatiky na École Polytechnique vo Francúzsku. „AI je ľudský artefakt, ale rýchlo sa stáva autonómnou entitou,“uviedol v e-maile pre Lifewire.
"Kritickým bodom bude, ak/keď nastane singularita (t.j. keď agenti AI budú mať vedomie ako entita), a preto si budú nárokovať nezávislosť, sebakontrolu a prípadnú dominanciu."
Singularita prichádza
Vazirgiannis nie je sám, kto predpovedá bezprostredný príchod super AI. Skutoční veriaci v hrozbu umelej inteligencie radi hovoria o „jedinečnosti“, o ktorej Vazirgiannis vysvetľuje, že AI nahradí ľudskú inteligenciu a „že algoritmy AI si potenciálne uvedomia svoju existenciu a začnú sa správať sebecky a kooperatívne.“
Podľa Raya Kurzweila, riaditeľa inžinierstva Google, jedinečnosť príde pred polovicou 21. storočia. „Rok 2029 je konzistentný dátum, kedy som predpovedal, že AI prejde platným Turingovým testom, a teda dosiahne ľudskú úroveň inteligencie,“povedal Kurzweil pre Futurism.
Ak si nevieme upratať svoj dom, aký kód máme požiadať AI, aby ho dodržiavala?
"Nastavil som si dátum 2045 pre 'Singularitu', kedy znásobíme našu efektívnu inteligenciu miliardkrát tým, že sa spojíme s inteligenciou, ktorú sme vytvorili."
Nie všetci odborníci na AI si však myslia, že inteligentné stroje sú hrozbou. AI, ktorá je vo vývoji, je pravdepodobnejšie, že bude užitočná pre vývoj liekov a nevykazuje žiadnu skutočnú inteligenciu, povedal konzultant AI Emmanuel Maggiori v e-mailovom rozhovore. „Okolo AI je veľký humbuk, vďaka čomu to znie, že je naozaj revolučná,“dodal. „Súčasné systémy AI nie sú také presné, ako sa uvádza v médiách, a robia chyby, aké by človek nikdy neurobil.“
Prevezmite kontrolu nad AI hneď
Regulácia AI tak, aby neunikla našej kontrole, môže byť náročná, hovorí Vazirgiannis. Spoločnosti, nie vlády, kontrolujú zdroje, ktoré poháňajú AI. "Dokonca aj samotné algoritmy sa zvyčajne vyrábajú a nasadzujú vo výskumných laboratóriách týchto veľkých a silných, zvyčajne nadnárodných subjektov," povedal.
"Je teda evidentné, že vlády štátov majú čoraz menšiu kontrolu nad zdrojmi potrebnými na kontrolu AI."
Niektorí odborníci tvrdia, že na ovládanie superinteligentnej AI budú ľudia musieť riadiť výpočtové zdroje a elektrickú energiu. „Sci-fi filmy ako Matrix predpovedajú dystopickú budúcnosť, kde ľudí využíva AI ako zdroje bioenergie,“povedal Vazirgiannis.
"Aj keď je to na diaľku nemožné, ľudstvo by sa malo uistiť, že existuje dostatočná kontrola nad výpočtovými zdrojmi (t.j. počítačové klastre, GPU, superpočítače, siete/komunikácie) a samozrejme elektrárne, ktoré dodávajú elektrinu, ktorá je absolútne škodlivé pre funkciu AI."
Problém s ovládaním AI je v tom, že výskumníci nie vždy rozumejú tomu, ako sa takéto systémy rozhodujú, povedal v e-mailovom rozhovore Michael Berthold, spoluzakladateľ a generálny riaditeľ softvérovej firmy KNIME pre vedu o údajoch. „Ak to neurobíme, ako to môžeme ‚kontrolovať‘?“
Dodal: „Nechápeme, keď sa na základe pre nás irelevantných vstupov urobí úplne iné rozhodnutie.“
Jediný spôsob, ako kontrolovať riziko používania AI, je zabezpečiť, aby sa používala len vtedy, keď je toto riziko zvládnuteľné, povedal Berthold. „Povedzme to inak, dva extrémne príklady: Nedávajte AI na starosť vašej jadrovej elektrárni, kde malá chyba môže mať katastrofálne vedľajšie účinky,“dodal.
"Na druhej strane, AI predpovedá, či by sa teplota v miestnosti mala trochu zvýšiť alebo znížiť, môže to stáť za to malé riziko v prospech komfortu bývania."
Ak nedokážeme ovládať AI, mali by sme ju radšej naučiť mravom, povedal bývalý počítačový inžinier NASA Peter Scott v e-mailovom rozhovore. "V konečnom dôsledku nemôžeme zabezpečiť ovládateľnosť AI o nič viac, ako dokážeme zabezpečiť kontrolovateľnosť našich detí," povedal.
"Vychovávame ich správne a dúfame v to najlepšie; doteraz nezničili svet. Aby sme ich vychovali dobre, potrebujeme lepšie pochopiť etiku; ak si nevieme upratať vlastný dom, čo kód máme požiadať AI, aby ho nasledovala?"
Ale všetka nádej pre ľudskú rasu nie je stratená, hovorí výskumník AI Yonatan Wexler, výkonný viceprezident výskumu a vývoja v spoločnosti OrCam. „Hoci pokroky sú skutočne pôsobivé, ja osobne verím, že ľudskú inteligenciu netreba podceňovať,“povedal v e-mailovom rozhovore. "My ako druh sme vytvorili celkom úžasné veci, vrátane samotnej AI."
Hľadanie stále inteligentnejšej AI pokračuje. Ale možno by bolo lepšie zvážiť, ako kontrolujeme svoje výtvory, kým nebude príliš neskoro.
