Skryté dilema robotiky

Člověk |

Všeobecně se soudí, že robot je tím lepší, čím více přijme tento náš svět za svůj a snad, kdoví, i spolu s našimi pocity při jeho prožívání.

Skryté dilema robotiky



Pohlédne na automat
Pohlédne na sebe sama
Alespoň na okamžik
Vypadá sám jak člověk

Hans Magnus Enzensberger

Man is a robot with defects.
Emile Cioran

V jedné z dramaticky napjatých scén akčního sci-fi filmu Já, roboti mrkne titulní robot výmluvně okem, aby svému lidskému partnerovi nenápadně naznačil, že co řekl, nesmí brát vážně. Toto mimické gesto neměl naprogramováno, sám je odkoukal od lidí a vůbec poprvé použil právě ve zmíněné scéně.
Právě jsem napsal slovo „odkoukal“ a hned mne napadá, že to vůbec není banalita. Zdalipak odkoukávající bytost může být jiného typu a jiné kultury než bytost odkoukávaná? Napodobovat gesta jen tak, jak se jeví navenek, je přece něco zcela jiného než rozumět jejich významu, užívat je právě pro tento význam a s jasným záměrem. Právě tak se od nás (diváků) čeká, že v dotyčné filmové scéně pochopíme jednání robota, protože si pamatujeme jinou, dřívější scénu, kdy náš robot zahlédl člověka dělat totéž. Hleďme, jak vysoký stupeň sociální inteligence! Učit se řeči těla od bytosti tak odlišné, a to na základě jediné zkušenosti.
Víme, co dovedou filmové střihy, triky a digitální editace. Dovolují mísit realitu s imaginací v libovolném poměru a zhotovovat bytosti, jejichž inteligenci, intuici a emoce nelze než obdivovat. Ale i reální roboti z plechu, drátů a čipů v laboratořích výzkumných center jsou každým dnem sofistikovanější a i napohled se mohou čím dál tím míň lišit od humanoidních robotů ze sci-fi filmů. Příkladem je robot „Kismet“ Massachusettské techniky v USA, který výrazem tváře, pozicí těla, gesty a směrem pohledu předvádí klid nebo hněv, odpor, údiv či zaujetí, veselost nebo zármutek. Podobní „emoční“ roboti opravdu existují a kvapem se zdokonalují.
Dnes již není problém vsadit (či vysadit) kognitivního robota do reálného světa a naprogramovat nebo nacvičit jej, aby se v dané situaci choval jako člověk, či přesněji jak si experimentátor myslí, že by se v takové situaci choval člověk. Robota lze naučit nejen správně přemisťovat figurky na šachovnici, ale i vyhrávat. Roboti dokážou kráčet po schodech, hrát fotbal, montovat automobily, vozit se po Marsu, tvářit se šťastně nebo nešťastně, mluvit, hrát si na lidi.
Něco však chybí. Jaksi roboty nedovedeme – či ještě hůř: nevíme, zda nedovedeme – přimět, aby to vše prožívali vnitřně tak jako my či aspoň podobně jako my: nejen kráčet, ale i chtít kráčet, něco opravdu pocítit ve chvíli, kdy dají mat, dostanou gól nebo smontují automobil. Aby je toulky po Marsu opravdu bavily. Aby se nešťastně nejen tvářili, ale aby přitom nešťastní též byli. Říkají-li něco, aby si to i opravdu mysleli. A vůbec, aby věděli, že jsou.
Stvořitelé robotů umisťují své důmyslné výtvory do našeho světa, do světa, který si my, lidé, zjednáváme svým lidským konáním, vnímáme lidskými smysly, o němž mluvíme a rozmýšlíme pomocí lidských pojmů. Všeobecně se soudí, že robot je tím lepší, čím více přijme tento náš svět za svůj a snad, kdoví, i spolu s našimi pocity při jeho prožívání. Nezdá se, že by se někdo trápil případným konfliktem mezi tímto naším, lidským světem (do něhož ovšem náleží i fyzické tělo robota) a světem nutně ne-lidským (pokud vůbec nějakým), který by si zjednával – a snad i prožíval – robot sám. Obvyklý postoj odborníků je ovlivněn novověkou vědou: snažme se naše pojmy a výpovědi formulovat pokud možno „objektivně“, nezávisle na subjektu, dokonce nezávisle na typu subjektu (zda je to člověk, robot, mimozemšťan či chobotnice).
Pokud oproti tomuto objektivistickému postupu postavíme subjektivní zkušenost, objeví se charakteristická dualita pohledů na ten či onen aspekt dané situace: vnitřní oproti vnějšímu čili subjektivní oproti objektivnímu. Tak například čas, který vnitřně prožíváme v asymetrické triádě minulost-přítomnost-budoucnost, v níž „čistá přítomnost je neuchopitelným postupem minulosti hlodající budoucnost“ (Henri Bergson), považujeme vnějšně, z odstupu za něco objektivního, absolutního, homogenního a měřitelného. Stejně vnějšně lze pohlížet i na prostor, přičemž vnitřně prožíváme týž prostor spíše jako individuální pole otevřených možností. Podobnou dualitu mezi subjektivním a objektivním uchopením lze předvést i pro mnohé jiné situační modality, jako jsou například tělesnost, jednání, smysl situace a vztah k druhým.
Tato dualita vede k řadě alternativních postojů vůči ideálu dokonalého robota jako něčeho, co má být člověku podobné. Uvedu jen pět.
První postoj se omezuje pouze na vnější podobu (vzhled) a na obdobné chování v obdobných situacích. Vnitřní, psychická stránka je pak buď irelevantní, nebo se o ní prostě nedá rozumně mluvit. Tento postoj je objektivistický: vše jako by mělo absolutní (nikoliv jen intersubjektivní) význam, nezávislý na tom, kdo se nachází v dané situaci, ba ani na tom, zda jde o robota nebo o člověka.
Dle druhého postoje by se ideální robot měl člověku podobat i v tom, jak vnitřně prožívá svět a jaký je svět, který prožívá. Měl by ho prožívat stejně jako my. Nehledě na obtíže s ověřováním to ovšem musí někde narazit na rozpor mezi ne-lidskou zkušeností robota a lidskou zkušeností člověka.
V třetím postoji má robot rovněž své vlastní vnitřní prožitky, ty však nemohou a nemají být podobné prožitkům lidským. Spíše by měly být v souladu se specifickou kovovou tělesností robota a s jeho životní minulostí (podoba s člověkem by spočívala právě v možnosti takového souladu). Co by to ale bylo za prožitky, to nevím.
Zaujmeme-li čtvrtý postoj, nic nebrání tomu, abychom mluvili o vnitřních prožitcích robota, pokud je umíme popisovat zcela objektivně, nezávisle na typu prožívajícího subjektu. Pak by principiálně mělo smysl srovnávat svět robota a svět člověka, v obou případech včetně světa vnitřního. Problém je v něčem jiném: kdo a odkud posoudí tento vnitřní svět? V obou případech.
Konečně pátý postoj se zdánlivě podobá prvnímu a je rovněž opatrnější verzí předchozího postoje. Prostě přijmout skutečnost, že o vnitřním životě robota nic nevíme, ale zároveň konstatovat, že jsme to my, kdo stanoví, zda robot je myslící a rozumějící bytostí. Toto paradigma vede k teorii vědomí robotů, jejíž hypotézy můžeme testovat už nyní, kdy myslící roboti ještě nebyli sestrojeni. Máme je totiž v našich představách, mýtech, románech a filmech. Nějak se liší od lidí, nějak od ostatních strojů, nějak je potřebujeme a nějak se k nim vztahujeme. Všechno bez ohledu na to, jak budou v budoucnu konstruováni a zda se vůbec podaří v nich probudit jakousi malou, divnou, robotí „duši“. Co určuje, zda se rozhodnu druhého vnímat jako věc, nebo naopak respektovat jej jako oduševnělou, vnitřně prožívající bytost?
Náš filmový robot mrknul okem opravdu proto, aby komusi naznačil, že řečené nesmí být bráno vážně. Tečka.
Dilema pro konstruktéry robotů zůstává. Je tu však ještě jiná otázka, schovám si ji na jindy: co nás, lidi, vůbec svádí k tomu, abychom se pokoušeli – ať už ve fantazii nebo ve skutečnosti – vyrábět něco, co je nám podobné?

Tento text je úryvkem z knihy
Ivan M. Havel: Zjitřená mysl a kouzelný svět
Dokořán 2013
O knize na stránkách vydavatele
obalka-knihy



Úvodní foto: historicair, wikipedia, licence obrázku GFDL, Creative Commons Uveďte autora-Zachovejte licenci 3.0 Unported




Související články




Komentáře

29.07.2014, 08:26

.... ñïñ çà èíôó....

12.04.2013, 21:01 wrunx

To je těžké...

kde navíc máme jistotu, že city, prožitky atd. nejsou jen balast, jehož okovy teprve nová strojová civilizace dokáže ze sebe setřást, tak jako my jsme ze sebe setřásli velkou část středověkého dusivého tmářství...? Však, koneckonců, se od přirozenosti chováme víceméně antropocentricky - člověk je nám mírou věcí. Možná, že lidstvo jednou z tohoto líbezně sobeckého snu samo procitne - anebo možná z něj bude někým probuzeno... ;-)

12.04.2013, 07:04 cc

...

Proč teda nesestavit řízení projevu robota jako multiagentní prostředí právě z takových citových předstíračů? Soudím, že pak na tom bude jako člověk.

11.04.2013, 15:53 wrunx

Jen mě tak napadá

co je větším "symbolem" prožitku - nějaké elektrochemické procesy v biologickém prostředí, anebo nějaké elektrické procesy v technickém prostředí? Dle čeho se dá soudit, že je jedna fyzikální veličina větším prožitkem než jiná? :-D

Napsat vlastní komentář

Pro přidání příspěvku do diskuze se prosím přihlašte v pravém horním rohu, nebo se prosím nejprve registrujte.