Student World

(pokračování včerejčího rozhovoru s Ivanem M. Havlem)

"Počítače v našem lidském slova smyslu šachy vlastně nehrají, podobně jako by je nehrál člověk, který by figurkami pouze nezúčastněně posouval podle nějakých dopředu připravených tabulek. Minimálně by to nebyla žádná ‚hra‘," vysvětluje Ivan Havel meze současných přístupů k umělé inteligenci.
Foto Tomáš Malý

Až dosud jsme mluvili především o lidském myšlení. Jaký to má vztah k umělé inteligenci?

Pokud porozumíme tomu, jak se lišíme od současných počítačů, může to představovat významný impuls i pro tvůrce umělé inteligence. Jeden z rozdílů, kterého si kybernetici povšimli, spočívá v tom, že organismy žijí v přirozeném prostředí, zatímco počítače, respektive software, sídlí v prostředí virtuálním. Ale robot už zase ne, ten už opět přebývá "ve světě". Robot je vlastně stále počítač, na jeho vstupu už ovšem nejsou data, ale svět.
V průběhu vývoje oboru umělé inteligence se samozřejmě vystřídala celá řada směrů, dlouho převládal funkcionalismus, pak se objevil konekcionismus (především v souvislosti s nástupem neuronových sítí). To jsou vesměs věci dobře známé, zajímavé však je, že nyní se možná nějak propojí i tyto dva přístupy.
Ale přesto si myslím, že zde při vývoji inteligentních umělých systémů narazíme na určité limity, dané mj. právě existencí vnitřních prožitků. Jak je chcete naprogramovat? Podle mého názoru vlastně nevíme, co bychom měli vytvořit. "Prožitek" může jen těžko představovat zadání pro programátora…

Takže jste přesvědčen, že počítače onoho řekněme vědomí nebo subjektivity nedosáhnou?

Myslím, že ne, ale nemám, jak bych své stanovisko odůvodnil. Především to eventuální "vnitřní prožívání počítače" zvenku stejně nepoznáme.
Pak zde zůstává např. ještě dosti zajímavá otázka "intencionality", tedy záměrného jednání. Představte si to třeba následujícím způsobem. Ptáme se, zda počítače dokáží hrát šachy. S takovým tvrzením by leckdo souhlasil, vždyť šachové programy skutečně porážejí nejlepší lidské velmistry. Ale co to v jejich podání znamená?
Znamená to snad, že třeba šachy hrát chtějí? Že mají radost, když v partii zvítězí? To jistě ne – proto v našem lidském slova smyslu šachy vlastně nehrají, podobně jako by je nehrál člověk, který by figurkami pouze nezúčastněně posouval podle nějakých dopředu připravených tabulek. Minimálně by to nebyla žádná "hra".
Takže je zase třeba upřesnit, co myslíme tím, že počítač dejme tomu hraje šachy nebo dělá něco jiného včetně toho zmíněného myšlení – často se tyhle různé diskursy příliš nerozlišují a výsledkem mohou být četná nedorozumění.
Aby to ale nevypadalo, že jsem v oblasti umělé inteligence jen a pouze pesimistický. Složité systémy samozřejmě vykazují celou řadu tzv. emergentních (= z nižších úrovní nevyplývajících) jevů, které můžeme jen těžko dopředu předvídat, modelovat apod. Zítřejší systémy umělé inteligence si snad „v sobě“ či „ze sebe“ vytvoří leccos pozoruhodného (a nejspíš si to i vytvoří), pouze pochybuji, že by to nějak přímo odpovídalo tomu, jak své vědomí prožíváme my sami.

V oboru umělé inteligence existuje celá řada různých metafor a myšlenkových experimentů – Turingův test, Chalmersova zombie, Čínský pokoj… Jaký z těchto modelů máte v oblibě a jaký je podle vás naopak zavádějící?

Všechny tyto myšlenkové experimenty jsou svým způsobem podnětné. Pouze vždy musíte vědět, o čem vlastně vypovídají, promyslet jejich souvislosti, to, co z nich eventuálně dále vyplývá – a mít napaměti, že vždy mají své hranice. Třeba ten výše uvedený případ s počítačovým šachem ukazuje na limity Turingova testu.

Zmínil jste, že oproti "klasickým" počítačům by nám mohli být podobnější roboti, protože také pobývají v přirozeném světě. Jaký máte názor na Kevina Warwicka, který je dnes zřejmě nejmediálnějším výzkumníkem na poli robotiky, téměř by se dalo říci robočlověkem?

Warwicka znám osobně, je to fajn člověk, ale jeho knihy jsem už opakovaně kritizoval…

Souhlasíte s tím, že je to spíše show, prostě pouťová věda?

Ano, je to trochu vypočítané na efekt. Warwick patří k lidem, kteří se svými přednáškami objíždějí svět; když jsem ho slyšel, neřekl nic opravdu převratného, měl s tím nicméně ohromný úspěch. To ovšem také patří k dnešní vědě, tak se ona živí.
Mně jde ale spíše o něco jiného: Warwickovy knihy mají takovou, jak to říct, "primitivní logiku". On třeba začne s tím, že stroje budou brzy obsahovat více prvků než má člověk neuronů, a proto budou inteligentnější. A pak pokračuje: Protože stroje budou inteligentní, budou chtít ovládnout svět (takže předpokládá, že touha po moci je nutným průvodním projevem inteligence). A protože se přitom střetnou s člověkem a protože budou inteligentnější než on, tak ho ovládnou.
Rozumějte mi dobře – já samozřejmě nemohu vyloučit, že něco podobného skutečně nastane. Ale způsob, jakým to Warwick odvodí, ta jakási "samozřejmost" jeho výkladu, když každý z nastíněných problémů je ve skutečnosti docela sporný – to nepokládám za právě seriózní přístup.

A koho byste tedy doporučil našim čtenářům k dalšímu studiu? Jiný za vašich kolegů, profesor Jozef Kelemen, připravil materiál o Marvinu Minském. Co si myslíte o něm?

Sleduji Minského myšlenky od 60. let, kdy se ještě zabýval spíše matematikou než umělou inteligencí. Za velmi zajímavou pokládám např. jeho knihu Society of Mind – kooperativnost může skutečně s lidskou inteligencí úzce souviset. Právě čtu rukopis jeho nové knihy „Emoční stroj“ – z názvu vidíte, oč mu asi jde. (Poznámka redakce: V knize Society of Mind pokládá Marvin Minsky lidskou mysl za jakési společenství specializovaných výpočetních agentů. Rukopis knihy Emoční stroj viz web.media.mit.edu/~minsky/. Podrobnosti o Minském viz http://www.scienceworld.cz/sw.nsf/ID/857EC4EF4741630BC1256E9700492103?OpenDocument&cast=1)

Když jsme zde asi před rokemhovořili o kognitivní vědě s profesorem Jaroslavem Peregrinem, přiznal se k oblibě knih Daniela Dennetta.

Dennett píše také čtivě, ale v mnoha ohledech s ním nesouhlasím. Když to velmi zjednoduším, je to redukcionista, který pokládá vědomí za jakousi iluzi, vytvořenou paralelními procesy v našem mozku.
(poznámka redakce: rozhovor s prof. Peregrinem viz http://www.scienceworld.cz/sw.nsf/ID/F411A0F81DA95C3FC1256E970048FBF6?OpenDocument&cast=1

A koho byste ještě doporučil?

Johna Searla. V řadě věcí se neshodnu ani s ním, ale píše pěkně a jeho texty pokládám za inteligentní.
(Searle viz http://www.scienceworld.cz/sw.nsf/ID/3FB0074560BEAAFCC1256E970048FEEC?OpenDocument&cast=1)
Obecně: Knihy, které o možnostech vědeckého přístupu k vědomí vycházely a vycházejí, bývají často hodně spekulativní (čímž nemám na mysli science-fiction); za pozornost v tomto ohledu stojí třeba Roger Penrose, který si vysloužil odpor z řady stran, ale dá se na něm ocenit odvaha, s níž své provokativní názory formuloval. I mezi takovými na pohled výstředně působícími ideami pak nakonec na "burze nápadů" často vykrystalizuje něco, co má hlavu a patu… (poznámka redakce: matematický fyzik a spolupracovník Stephena Hawkinga Roger Penrose přišel mj. s teorií o nealgoritmickém charakteru lidského myšlení; navrhl také, že lidský mozek by mohl fungovat na principu kvantového počítače).

První díl
Jak chcete naprogramovat prožitek?
http://www.scienceworld.cz/sw.nsf/ID/349B0553E0066C92C1256EC2004B6230?OpenDocument&cast=1

Třetí díl
O počítačovém šachu dotřetice: Myšlení nahlas
http://www.scienceworld.cz/sw.nsf/ID/63CB3CB5901595C4C1256EC2004E5991?OpenDocument&cast=1

autor Pavel Houser