Je přirozené, že si lidé začínají uvědomovat potenciál umělé inteligence a její možnou samostatnost a nezávislost na lidské rase. Určitě si vzpomenete na spoustu filmů či knih. (Zběžně např. Terminátor; Matrix; Třinácté patro; 2001: Vesmírná odysea, Já, robot; AI: Umělá inteligence, Blade Runner; THX 1138; Mechanické piáno či R.U.R.) A je také typicky lidské, že se obáváme něčeho, co by mohlo být silnější než my sami.
Mají obavy z přetechnizování dnešního světa a z inteligentnější robotické rasy reálný základ? Měli bychom brát na vědomí poselství výše zmíněných děl? Jsou roboti dalším stupněm evoluce? Budou moct někdy prožívat emoce? Jaký je vlastně rozdíl mezi robotem a člověkem? Čeká nás jako lidstvo apokalypsa? A pokud ano, lze ji nějak předejít?
Na některé otázky se pokusím odpovědět v následujícím zamyšlení. Jak ale sami brzo zjistíte, je to úvaha, která přináší více otázek než odpovědí...
Co je to svoboda a nezávislost
Nelze začít jinak, než definováním svobody. Svoboda je mytickým pojmem, který je dnes hojně používán a samozřejmě také hojně definován. Pro toto zamyšlení bude dostačující říci, že nezávislost a svoboda jsou dva koexistující faktory, které jsou pro lidský život nesmírně důležité, a které jsou na sobě závislé. Nemůžeme být nikdy stoprocentně svobodní, budeme-li na někom závislí. A nemůžeme být stoprocentně nezávislí, nebudeme-li svobodní.
Z této jednoduché definice je jasné, že nikdy nebudeme absolutně svobodní a nezávislí. Vždy nás bude něco omezovat a vždy tady bude něco, na čem budeme závislí. Jediné, o co tedy skutečně jde, je míra této svobody a závislosti. A právě tato míra stoupá zároveň s technickou vyspělostí.
Závislost na technice
Ať už si to uvědomujeme nebo ne, jsme přímo či nepřímo závislí na technologii. Je to logické, technika je pro nás nástrojem a člověk má genetické předpoklady nástroje vytvářet, zdokonalovat je a ulehčovat si s nimi život. Inteligentní robot je pak jen kauzálním následkem. Většina aspektů naší planety vznikla v důsledku přirozeného vývoje a principu selektivity. Silný druh přežil, slabší vyhynul. Člověk toto pojetí nenaboural, jen ho zdokonalil. Silný totiž už najednou neznamená hustotu chlupů v kruté zimě či špičaté zuby a drápy, nýbrž inteligenci, díky které jsme schopni se kvalitněji ošatit a ozbrojit. Člověk je v podstatě slabý, a proto si vytváří zbraně a stroje, aby mohl svou slabost kompenzovat a jako druh nejenom přežít, ale i dominovat planetě. Člověk je ale také tvorem, který si chce věci zjednodušovat. Proto vytváří další a další nástroje, které za něj budou dělat těžkou práci, ohřejí mu jídlo či zajistí jeho bezpečí a zábavu. Dříve nebo později se proto lidská rasa dostane do stádia, kdy bude vytvářet tzv. umělou inteligenci (dále jen AI) pro maximální zjednodušení a zefektivnění svých nástrojů. Tyhle stroje postupně překonají své stvořitele, neboť technika se rozvíjí mnohem rychleji než člověk. Člověku trvá jednu celou dlouho generaci, než předá své informace potomkům. Stroje jsou schopni udělat takovou generaci během chvilky. Jaké to může mít důsledky?
Jaký je rozdíl mezi člověkem a strojem?
Ještě před tím, než se pokusím nahlédnout do budoucnosti, se pokusím odpovědět na zásadní otázku. Jaký je rozdíl mezi člověkem a strojem?
Většinu lidí napadne jako první láska. Emoce. Vědomí. Spirituálně řečeno – duše. Vědci zatím nedokážou vědomí v mozku lokalizovat, neznají jeho složení a netuší, jak vzniká. Veškeré teorie zůstávají jen a pouze teoriemi – i když je pravděpodobné, že některé z nich se pravdě blíží mílovými kroky. Prozatím ale nejsme schopni měřit a zkoumat vědomí jinak, než jeho projevem – tedy tím, jak se chováme, jsme schopni zkoumat to, co cítíme. Hawking se proto vyjádřil k problematice rozdílu člověka a počítače tak, že nemá cenu zabývat se tím, jestli má počítač vědomí, protože to nejsme schopni pochopit – chápeme jen již zmíněné projevy, tedy chování a inteligenci.
Paradoxem je, že vědomí nejsme schopni pochopit ani u ostatních lidí. Ve stylu filmu Truman Show určitě každého alespoň jednou napadlo, jak si můžeme být jisti, že ostatní lidé prožívají, a že nejsou jen pouhými iluzemi, herci, roboty či projekcemi? Jak? Jistí si být můžeme asi stejně, jako jsme si jistí v tom, že roboti nemají duši. Věříme v to. Tenhle filozofický problém se nazývá zombie argument a jedinec, jež nemá vědomí, ale chová se tak, jako by ho měl, se nazývá Chalmersova zombie. Opět jsme tedy u toho, že vědomí a duši zkoumáme jen tím, jak se u jedince projevuje. A jestliže vytvoříme robota schopného imitovat lidské vědomí, emoce a chování tak dobře, že jej na první pohled nerozeznáme od člověka, bude ve výsledku mezi člověkem a strojem nějaký rozdíl?
I když je tato otázka provokativní a jistým smyslem i znepokojující, prozatím nejsme schopni vytvořit takhle složité AI. Ač počítače v mnohém překonaly člověka a v mnohém jsou mu dobrými konkurenty – počítače dnes dokážou malovat, psát pohádky, skládat hudbu a porazí člověka ve většině stolních hrách (nejznámějším příkladem je šachový souboj programu Deep blue proti Garrymu Kassparovi) – stále nejsou jako my. Slavný Turingův test, který zkoumá rozdílnost mezi člověkem a strojem již od padesátých let, ještě nikdy nevyšel stoprocentně pozitivně a tak je Loebnerova cena 100 000 dolarů za AI, jejíž odpovědi budou nerozlišitelné od odpovědí člověka, stále aktuální. Rozdíl tedy tady zatím je – je ale výsledkem nedokonalosti našich vědomostí a technologické vyspělosti, nebo je dán z podstaty naší přirozenosti? A bude někdy překonán?
Závislost techniky na nás
Už jsme si přiznali, že jsme závislí na technologiích. Závislost je ale vzájemná. Ani stroje nejsou nezávislé a svobodné. Potřebují lidstvo k tomu, aby je zdokonalovalo. Potřebují algoritmy, které jim „naťukáme do hlav“ a především máme v rukách pořád možnost je vypnout. Stačí vypojit stroj z elektřiny či vytáhnout baterky a jsme opět páni tvorstva. Žijeme tedy ve fázi, kdy se vzájemně potřebujeme. My potřebujeme stroje k tomu, aby nám ulehčovali život, a stroje potřebují nás k tomu, aby mohli existovat. Bude to tak trvat věčně?
S velkou pravděpodobností ne. Nebude to trvat dlouho a díky vlastní pohodlnosti se zbavíme pojistky. Proč by měl někdo kontrolovat robota, jak pracuje, když je bezchybný? A co se dá očekávat, když stvoříme stroj inteligentní tak moc, že dokáže přeříznout mateřskou šňůru od lidstva sám a stát se nezávislým? Co si počneme pak? Až budou stroje na nás nezávislé, zatímco my na nich stále budeme? Pokusím se Vám nabídnout několik téměř cyberpunkových scénářů. Možná se Vám budou zdát přitažené za vlasy či jako obrovské fantazírování, osobně se ale domnívám, že fáze nezávislosti techniky na lidské rase je otázkou několika dekád, a je proto důležité zamyslet se nad následujícími aspekty. Nabízím tedy pět možných cest, které nás v (ne)daleké budoucnosti mohou potkat:
Z DŮVODU DÉLKY NEBYLY SCÉNÁŘE ZAHRNUTY DO ČLÁNKU. POKUD VÁS ČLÁNEK ZAUJAL, CELÝ SI JEJ MŮŽETE PŘEČÍST DÍKY ODKAZU POD ČLÁNKEM. DĚKUJI ZA POCHOPENÍ
Je to všechno vůbec reálné?
Ač o takovýchto možnostech vídáváme filmy, slýcháváme o nich v muzice a čteme o nich knihy, stále se nějak bráníme možnosti, že by to všechno bylo někdy možné. Proč by to ale možné nebylo? Já osobně se domnívám, že nás dříve nebo později výše popsaný vývoj potká a budeme muset udělat závažná rozhodnutí. Na druhou stranu jsem možná přecenil AI, a tento příspěvek patří spíše do červené knihovny, než že by se dal považovat za relevantní esej a kvalitní analýzu budoucnosti. Je to tedy všechno vůbec reálné?
To nechávám na Vás a Vaší fantazii.
Původní a nezkrácená verze vyšla v K zamyšlení. Dostupné online zde:
http://www.kzamysleni.cz/svoboda-pretechnizovanem-svete-ceka-nas-lidstvo-apokalypsa/
