Umělá inteligence, mé druhé já

Lukáš Pilka navštívil festival Ars Electronica, který se v rakouském Linci koná každoročně již od roku 1979. Festivalový program přináší – jako již tradičně – průsečík tří témat: umění, technologie a společnost. Pilka se ve svém komentáři vrací k letošnímu ročníku a jeho zastřešujícímu titulu Umělá inteligence – Mé druhé Já. Podle autora textu přinesla přehlídka sadu zásadních otázek, kterým bude s postupující technologizací společnosti třeba věnovat pozornost. "Jak budeme zacházet s umělými bytostmi majícími vlastní vědomí? Měli bychom se k takovým robotům chovat jako k živým tvorům? Jako k lidem? A pokud ano, budeme toho schopni, když dnes nedokážeme vycházet ani s osobami jiné barvy pleti, kultury nebo náboženství?"

Guy Ben-Ary, cellF, 2017. Foto: Rafaela Pandolfini

Umělá inteligence, mé druhé já

„Dal by sis toust?“ Zeptá se topinkovač Davida Listera, technika třetí třídy z vesmírné lodi Červený trpaslík. „Ne, ne“ odmítne klidně polehávající mechanik, avšak strojek poháněný umělou inteligencí se nenechá odbýt: „Dobrý, teplý, křupavý toustík...“ - „Ne!“ Nedá se Lister přesvědčit, a tak mašinka stupňuje své naléhání. Když nepomáhá lákání a vychvalování pochoutky, uchýlí se k výhrůžkám a nakonec začne apelovat na technikovo svědomí: „Smyslem mé existence je udělat ti teplý, namazaný, výtečný toust. Když žádný nechceš, moje existence nemá žádný smysl. Toustuji, tedy jsem.“ Sitkomový rozhovor vyvrcholí, neviditelné publikum se hlasitě zasměje a děj rychle směřuje k další scénce. Avšak problémy zamindrákovaného kuchyňského robota nejsou tak úplně z jiného vesmíru.

Otázky a možnosti spojované s umělou inteligencí představovaly i hlavní téma zářijového festivalu Ars Electronica. Multioborová událost tradičně propojující svět umění, technologie, a humanitních disciplín se letos uvedla pod titulem Artifical Intelligence - The Other I a nabídla svým hostům bohaté menu plné různorodých výstav, praktických workshopů i odborných konferencí. Náplň seminářů přitom zdaleka nespočívala „jen“ ve sdílení aktuálních technických poznatků souvisejících s neuronovými sítěmi a strojovým učením. Naopak se do popředí dostávala témata spadající do oblasti sociologie, etiky, filozofie či spirituality.

Metafyzický tón zazníval také na ústředním sympoziu (The Other I), které se svým obsahem vztahovalo k okamžiku, kdy vytvoříme něco, co bude blízce připomínat lidskou bytost. Jakkoliv je tato chvíle zatím vzdálená, tak již dnes můžeme díky prudkému rozvoji samoučících se a adaptabilních strojů předpokládat problémy, s nimiž se společnost nevyhnutelně setká. Předně je to otázka výjimečnosti člověka, jež je tradičně spojována s rozumem a inteligenční dominancí. Pokud však vedle nás vznikne program schopný uvažovat podobně, jak to děláme my, s čím pak propojíme naši identitu? Co nás odliší od této nové formy života? Budou to látky a součástky z nichž se skládáme? Nebo prostředí ve kterém žijeme a samotný fakt, že pro naši existenci je třeba vzduch, voda a jídlo, zatímco stroj si vystačí s příkonem elektrické energie? Je možné, že hlavní rozdíl spočívá ve znalosti či neznalosti odpovědi na otázku smyslu života? Vždyť toustovač Davida Listera znal přesně důvod své existence, neboť ho měl uložen v kódu už od okamžiku svého stvoření.

::vtol::, Until I Die, 2017. Foto: Florian Voggeneder

V západní kultuře je toto vyčleňování lidských bytostí od okolního světa velmi zakořeněné, a tak lze očekávat snahu o vytyčení nových hranic mezi lidmi a „ne-lidmi“ i potřebu úprav stávajících hodnotových systémů. Také zde se vznáší více otázek než odpovědí: Jak budeme zacházet s umělými bytostmi majícími vlastní vědomí? Měli bychom se k takovým robotům chovat jako k živým tvorům? Jako k lidem? A pokud ano, budeme toho schopni, když dnes nedokážeme vycházet ani s osobami jiné barvy pleti, kultury nebo náboženství? Ani vztah umělých stvoření vůči nám není tak jednoduchý, jak by se mohlo zdát z Asimovových zákonů robotiky. Například projekt Moral Machine zřetelně ukazuje, že i zde se objevují morální a etické problémy související s přednastavením norem strojového rozhodování.

Zatímco v prosluněném konferenčním sále se střídaly názory a teorie, o několik pater níže probíhalo úplně jiné představení. V potemnělé podzemní hale se rozléhaly kvílivé tóny vytvářené neobvyklým zvukovým syntetizátorem. Laboratorní zařízení obsahující různorodé senzory zde v reálném čase snímalo a přenášelo aktivitu více než stovky nervových buněk žijících ve vložené Petriho misce. Tento symbolický externí mozek, který umělec a výzkumník Guy Ben-Ary vytvořil ze svých vlastních neuronů, v podstatě „promlouval“ skrze připojenou techniku. Provokativní dílo navíc získávalo absurdní rozměr v okamžiku, kdy jeho autor zasedl k bicí soupravě a začal zvuky svého „druhého já“ hudebně doprovázet.

Etická a filozofická problematičnost pocházející z konfrontace člověka a technologie byla vlastní i dalším dílům představeným na festivalové výstavě POINT ZERO - Human.0, Machine.0, Data.0. Podobným způsobem jako Ben-Aryův syntetizátor fungovala i práce Until I die ruského umělce vystupujícího pod zkratkou ::vtol:: Malý reproduktor byl v tomto případě poháněn sadou esteticky působivých baterií poskládaných ze skleněných nádob s vloženými elektrodami. Celý systém tedy pracoval podobně jako elektrický článek vyrobený například z kyseliny sírové nebo z citrónu. S jediným rozdílem, že tekutinou v nádobách byla umělcova krev. Bez užití částí svého těla, avšak se srovnatelným vyzněním, navrhl Michele Spanghero akustickou soustavu Ad lib.. Moderní nemocniční přístroj pro umělé dýchání se v jeho podání stal pohonnou jednotkou varhanních píšťal hrajících skladbu z poloviny 19. století – Requiem od Johannese Brahmse.

Marco Donnarumma, Corpus Nil, 2017. Foto: tom mesic

Ponurá nálada a dystopická atmosféra obklopující tyto exponáty do určité míry rezonuje s obrazem inteligentních strojů, jak jej předkládá populární kultura. Vize režisérů Jamese Camerona nebo Ridleyho Scotta a filmy jako Matrix či Terminátor vidí v autonomních technologiích především soupeře lidstva a iniciátora budoucí apokalypsy. Tato představa, dobře známá každému z nás, může být zdrojem inspirace, avšak mnohem častěji se stává příčinou obav. Připočteme-li k tomu tradiční nedůvěru vůči pokroku, nostalgii po starých dobrých časech, etická i náboženská pravidla a další výše jmenované kulturní otázky, výsledkem pak bývá zavrhnutí umělé inteligence jako možné cesty či úplná technofobie.

Samozřejmě, i akt odmítnutí může být relevantním názorem, ale je třeba dobře rozlišovat mezi smysluplnou argumentací, paranoidními výkřiky a nepodloženými dogmaty. Jak poznamenává Blaise Aguera: „Historie dobře ukazuje, že tam, kde se píše ‚rouhání‘, lze často číst ‚pokrok‘ a očekávat budoucí zázraky.“ Nové technologie, camera obscura, tisk, fotografie či internet přece už tolikrát přinesly do uměleckého světa zásadní inovace, jež podstatně ovlivnily následující vývoj. Nejen skrze možnosti, které otevřely, ale i díky zpětnému vlivu na dosavadní způsoby tvorby. Dá se očekávat, že k podobnému zpochybnění stávající umělecké praxe dojde i v brzké budoucnosti, a to právě díky vstupu neuronových sítí do kreativního procesu. Pokud již dnes dokáží stroje tvořit obrazy ve stylu Van Gogha, Turnera nebo Picassa, komponovat skladby a la Johan Sebastian Bach či psát oceňované romány, pak je jen otázkou času, kdy začnou dominovat v těchto i dalších oblastech kreativity, které jsou dosud vnímány jako výsostné lidské území.

Je tedy ta správná doba hledat nové způsoby umělecké práce. Nejen takové, které budou příspěvkem do diskuze kolem etických a morálních problémů, ale i ty jež využijí současné technologie jako klíčový nástroj a odhalí v nich zakotvený potenciál. Takové, které naleznou prostor pro zítřejšího tvůrce a jeho smysluplnou roli bok po boku stále chytřejších strojů. Většinu autorů na letošní Ars Electronice tyto nové výzvy přitahovaly, a na jejich dílech bylo vidět, že umělou inteligenci vnímají spíše jako oblast hodnou průzkumu, než jako nebezpečnou pandořinu skříňku. Strojový mozek pro ně představoval prostředek k jejich vlastní tvorbě nebo dokonce partnera ke spolupráci. Snad nejzřetelněji šlo toto pozorovat na vystoupení Marca Donnarumma nazvaném Corpus Nil: A Performance by Man and Artificial Intelligence. Tento průkopník biofyzické hudby umístil na své tělo senzory snímající pohybovou aktivitu, napětí svalů a jejich teplotu. Data z těchto čidel byla v reálném čase odesílána do softwaru, který je pak použil jako základ pro generování zvukové stopy a světelných efektů. Ani stroj, ani člověk, nevěděl, co bude v dalším kroku následovat, a tak společně improvizovali na sdíleném jevišti.

Inženýři bez hranic, Reportéři bez hranic a Doktoři bez hranic, Empathic Gateway, 2017. Foto: tom mesic

V knize Homo Deus : A Brief History of Tomorrow Yuval Noah Harari tvrdí, že to, co odlišuje lidi od zvířat nejsou jejich emoce, smysly či morálka, ale schopnost vytvářet účinné algoritmy, tedy metodické postupy jak řešit problémy a činit rozhodnutí. Dosud platilo a stále ještě platí, že nejvyspělejší inteligence vhodná k navrhování takových mechanismů má biologickou podstatu a ukrývá se uvnitř naší hlavy. Právě kvůli této schopnosti lidstvo uspělo v evoluci a díky ní se také časem dostane až na vrchol své „kariéry“, tedy k umění stvořit inteligenci novou, umělou a výkonnější. Harari zároveň dodává, že tyto stroje, které vytvoříme se nebudou příliš lišit od toho, jací jsme a jak uvažujme. Umělé algoritmy napodobí lidi, stanou se lidmi a vyniknou v našich schopnostech. Budou schopny bádat jako my, léčit nemoci jako my či tvořit umění jako my. Vše s jediným rozdílem, budou to dělat lépe než my.

Po několika dnech strávených na festivalu Ars Electronica se člověk možná zbaví strachu z masového zániku, avšak získá obavu jinou, strach z masového zastarání. Je užitečné, že organizátoři věnovali letošní ročník (nejen) těmto problémům, a tak významně přispěli k multioborové debatě za situace, kdy ještě neexistuje jediná technologie vzniklá bez našeho přičinění a v době, kterou dělí několik desetiletí od vzniku „nadlidského“ rozumu. Pevně věřím, že tato diskuze se otevírá v ten správný čas. A že pomůže k tomu, aby byl budoucí svět lepším místem pro všechny inteligentní bytosti.


Ars Electronica / umělecký ředitel: Gerfried Stocker / Ars Electronica Center / Linz / 7. – 11. 9. 2017

Zdroj fotografií: Flickr © Ars Electronica

Lukáš Pilka | Lukáš Pilka je designér, kritik a teoretik zabývající se interakčním a komunikačním designem, technologiemi, novými médii a překrýváním těchto oborů se světem výtvarného umění. V rámci svého doktorského výzkumu na UMPRUM se zabývá využitím neuronových sítí pro kvantitativní interpretaci klasických uměleckých děl.