Kľúčové poznatky
- Špičkový výskumník hovorí, že AI je už pri vedomí.
- Iní odborníci na AI však tvrdia, že počítače majú ďaleko k získaniu kognitívnych schopností na úrovni ľudí vrátane vedomia.
- Určenie, či je niečo vedomé, môže byť zložité.
Myšlienka vedomej umelej inteligencie (AI) vyvoláva obrazy strojov, ktoré ovládajú svet, ale odborníci sa nezhodujú v tom, či tento koncept brať vážne.
Popredný výskumník AI nedávno tvrdil, že AI je už teraz inteligentnejšia, než si myslíme. Ilya Sutskever, hlavný vedec výskumnej skupiny OpenAI, na Twitteri napísal, že „je možné, že dnešné veľké neurónové siete sú trochu pri vedomí“. Iní odborníci na AI však tvrdia, že je príliš skoro na to, aby sme niečo také určili.
„Aby si bola entita vedomá, musí si byť vedomá svojej existencie vo svojom prostredí a toho, že kroky, ktoré vykoná, ovplyvnia jej budúcnosť,“povedal Charles Simon, generálny riaditeľ FutureAI, v e-mailovom rozhovore pre Lifewire. "Ani jedno z toho sa v súčasnej AI nenachádza."
Nadčlovek?
Sutskever už predtým varoval, že superinteligentná AI môže spôsobiť problémy. V rozhovore v dokumentárnom filme o AI iHuman povedal, že pokročilá umelá inteligencia „vyrieši všetky problémy, ktoré dnes máme“, ale zároveň varoval, že „majú potenciál vytvoriť nekonečne stabilné diktatúry.“
OpenAI bola založená ako nezisková organizácia, ktorej cieľom bolo predchádzať rizikám, ktoré predstavujú inteligentné počítače, ale uskutočnila aj výskum zameraný na vytvorenie AI.
Zatiaľ čo mnohí vedci odmietli Simonovo tvrdenie, že AI je pri vedomí, má aspoň jedného známeho obrancu. Počítačový vedec z MIT Tamay Besiroglu obhajoval Sutskevera v Tweete.
„Vidieť toľko prominentných [strojové učenie] ľudí, ktorí sa vysmievajú tejto myšlienke, je sklamaním,“napísal Besiroglu na Twitteri. „Znižuje mi to nádej v schopnosť tejto oblasti vážne prijať niektoré z hlbokých, zvláštnych a dôležitých otázok, ktorým budú nepochybne čeliť v priebehu niekoľkých nasledujúcich desaťročí.“
Čo je vedomie?
Dokonca aj určenie, či je niečo vedomé, môže byť zložité. Výskumník AI Sneh Vaswani povedal Lifewire v e-maile, že vedomie má viacero štádií. Umelá inteligencia urobila „slušný zásah“do prvých fáz, povedal.
„Stroj dnes dokáže porozumieť emóciám, vybudovať si osobnostný profil a prispôsobiť sa ľudskej osobnosti,“dodal. "Ako sa AI vyvíja, posúva sa smerom k pokročilým štádiám vedomia rýchlejšie, než dokážeme pochopiť."
Existuje mnoho definícií vedomia a niektorí by tvrdili, že stromy a mravce sú do istej miery vedomé, čo je myšlienka, ktorá „rozširuje definíciu nad rámec bežného používania“, povedal Simon. Tvrdí, že sebauvedomenie je chápanie seba samého ako vedomej entity.
„Vedomie aj sebauvedomenie sa prejavujú v množstve správania, ako je prejavovanie vlastného záujmu, ale aj vo vnútornom pocite,“povedal Simon. "Ak sú AI skutočne vedomé, budeme schopní pozorovať správanie, ale budeme mať len málo vedomostí o vnútornom pocite. Je možné predstierať vedomie pomocou knižnice vedome vyzerajúceho správania, ako je označovanie sa ako "ja", ale skutočne vedomá entita je schopná plánovať a zvážiť viaceré výsledky."
Vaswani je optimistický, pokiaľ ide o výsledok vytvorenia superinteligentnej AI, aj keď Elon Musk patrí medzi tých, ktorí varovali, že vedomá umelá inteligencia by mohla viesť k zničeniu ľudstva.
„Keď AI úplne nadobudne vedomie, dotvorí „neúplnú“spoločnosť: Ľudia a AI budú existovať spolu,“povedal Vaswani. „Spoločne dosiahneme väčšie ciele a AI hladko zapadne do nášho sveta.“
Niektorí odborníci na AI tvrdia, že samotný koncept vedomej AI je viac sci-fi ako realita. Tento problém má tendenciu príliš zdôrazňovať roboty v štýle „terminátorov“a nie veľmi reálne potenciálne škody spôsobené neobjektívnou AI, ktorá už existuje, uviedol Triveni Gandhi, zodpovedný vedúci AI spoločnosti Dataiku v e-maile pre Lifewire.
„Možno nebudeme čeliť ďalšej Ex Machina, ale čelíme niekoľkým skutočným výzvam,“povedal Gándhí. „Je to vidieť na zneužívaní silne zaujatej AI na predpovedanie nákladov na zdravotnú starostlivosť, v náborových nástrojoch, ktoré nespravodlivo odfiltrujú životopisy, alebo v modeloch úverových pôžičiek, ktoré posilňujú existujúce nerovnosti.“
AI nie je vo svojej podstate dobrá alebo zlá, sú to len údaje, ktoré robia to, čo im prikážeme robiť, tvrdí Gándhí.
„Ľudské predsudky si nájdu cestu do dátových modelov a modelov strojového učenia, takže by sme mali mať jasno v tom, aké dáta používame, prečo sme sa rozhodli použiť AI v tejto funkcii a ako sú tieto voľby prezentované ľuďom ovplyvnený systémom AI,“dodal Gándhí.
