Umělá neinteligence a umění nedokonalosti

Lukáš Pilka navštívil festival Ars Electronica v rakouském Linci, který tradičně propojuje umění, technologie a společenské vědy. Stejně tak jako minulý rok se v textu zamýšlí nad hlavním festivalovým tématem, kterým se tentokrát stalo možné pozitivní pojetí pojmu „chyba“ jako „umění nedokonalosti“ a zahrnulo do sebe různé umělecké přístupy a myšlenkové proudy, jež byly prezentovány jak na výstavě, tak i na ústředním festivalovém sympoziu. Jednalo se především o zkoumání přítomných i budoucích vlivů technologií na naši společnost: „Dá se říct, že nejpoutavější umělecká díla z letošní přehlídky byla zaměřena právě na sociální dopady, které tyto ‚neutrální‘ stroje mají či mohou mít, zkoumala přehlížené kulturní rysy, upozorňovala na možná nebezpečí nebo zviditelňovala zakódované stereotypy.“

LarbitsSisters, BitSoil Popup Tax & Hack Campaign, 2018. Foto: tom mesic

Umělá neinteligence a umění nedokonalosti

Představte si šedý a temný svět, v němž má každý člověk strnulou tvář bez jediného náznaku emocí. Zástupy lidí zde mechanicky pochodují, neohlížejí se jeden na druhého a veškerou svou pozornost věnují pouze všudypřítomným obrazovkám a šumivému hlasu z reproduktorů: „Dnes slavíme první výročí nařízení o vyčištění informací. Vytvořili jsme zahradu čisté ideologie, kde každý pracovník může vzkvétat chráněn před škůdci šířícími falešná poselství…“ Projev velkého bratra je najednou přerušen. Do potemnělé monochromatické haly plné nehybného publika vbíhá hrdinka v zářivě červených šatech, roztáčí se a odhazuje obří kladivo směrem k největšímu displeji. Následuje blesk, monitor exploduje, prostor prostoupí světlo a objeví se nápis: „V lednu 1984 Apple Computer představí Macintosh. A vy uvidíte, že 1984 nebude jako 1984.“

Slavná orwellovská reklama v režii Ridleyho Scotta byla namířena proti americké technologické společnosti IBM, která tehdy dominovala počítačovému trhu v západním světě. Značka však navzdory svým úspěchům budila také určitou nedůvěru, byla spojována s kontrolními systémy státního aparátu a úzce spolupracovala se zbrojním průmyslem vrcholící studené války. Reklamní sdělení reagovalo na tuto špatnou pověst a vyslalo skvěle fungující zprávu – technologie zavedeného konkurenta právem vzbuzuje obavy, ale Apple nabízí alternativu, světlejší a jasnější budoucnost. S úderem letícího kladiva na velkoplošnou obrazovku tak mohl začít věk digitálního optimismu tažený Stevem Jobsem, Stevem Wozniakem, Leem Felsensteinem a dalšími „květinovými inženýry“, kteří se z někdejších hippie a levicových idealistů postupně proměnili v kybernetické byznysmeny.

Prudký rozvoj informačních technologií, osobní počítač, komunitní a kolaborativní ideály, neúcta k autoritám, nástup internetu, dot-com kultura, časopis Wired, obhajování absolutní svobody slova, obrovské komerční úspěchy a další fantastické příběhy nabalené kolem Sillicon Valley naplnily 90. léta vírou, že mikročip má odpověď na každý problém trápící naši společnost. Toto optimistické a často nekritické nahlížení na digitální inovace sice u někoho skončilo s nástupem nového milénia, u mnohých však panuje do dnešních dnů.

V titulu letošní Ars Electronicy v rakouském Linci stálo „Chyba, umění nedokonalosti“, což v kombinaci s tradičně širokým záběrem festivalu, rozprostírajícím se na pomezí umění, technologie a společenských věd, otevíralo prostor pro celou řadu různých přístupů. Organizátoři konference a kurátoři hlavní přehlídky uváděli téma ve vztahu ke změně klimatu, ekologickým problémům, sociálním konfliktům i lidem jako biologickým organismům podléhajícím evolučním změnám. Gerfried Stocker, umělecký ředitel celé události, vyzdvihoval dvojznačnost pojmu chyba, který lze podle něj vnímat nejen jako nežádoucí výsledek, ale také ve smyslu odlišnosti od předpokládaného, tedy jako možný zdroj nečekaných myšlenek a nápadů.

Merredith Broussard, host ústředního sympozia a autorka knihy Artificial Unintelligence, zase upozornila, že jedním z nejpalčivějších omylů současnosti je právě onen pokračující technošovinismus vyznačující se neopodstatněným přesvědčením, že kdyby měl svět k dispozici více počítačů a správně je využíval, tak by sociální potíže brzy zmizely a nastala by digitálně zprostředkovaná utopie.[1]

Meredith Broussard na sympoziu pořádaném v rámci festivalu Ars Electronica 2018. Foto: vog.photo

Broussad poukazuje na falešnou představu, že počítače jsou více „objektivní“ nebo „nezaujaté“, protože zpracovávají otázky a odpovědi na základě matematického přístupu. Tyto inovace však nejsou neutrální, ale plné otisků jejich tvůrců a uživatelů, obsahují kulturní vzorce včetně etnických, genderových, morálních a dalších sociálních předsudků. „Zvládli jsme využít digitální technologii k posílení ekonomické nerovnosti ve Spojených státech, usnadnila nám distribuci a užívání nelegálních drog, podkopali jsme skrze ní ekonomickou udržitelnost svobodného tisku, vyvolali krizi kolem fake news, zpochybnili hlasovací právo a pracovní ochranu zaměstnanců, pomohla nám lépe sledovat občany, rozšířit různé pseudovědy, obtěžovat lidi on-line (zejména ženy a ‚nebělochy‘), vyrábět létající roboty shazující bomby na lidi, krást identity a miliony čísel platebních karet, prodávat nekonečné množství osobních dat a zvolit Donalda Trumpa za prezidenta. To není lepší svět, který slibovali technologičtí evangelisté. Je to úplně stejný svět se stejnými typy lidských problémů, který tu existoval od počátku věků. Nyní jsou však problémy ukryté v kódu a databázích, což je dělá hůře viditelné a snadněji přehlédnutelné.“ [2]

Dá se říct, že nejpoutavější umělecká díla z letošní přehlídky byla zaměřena právě na sociální dopady, které tyto „neutrální“ stroje mají či mohou mít, zkoumala přehlížené kulturní rysy, upozorňovala na možná nebezpečí nebo zviditelňovala zakódované stereotypy. To se týkalo také participativní instalace Help Me Know the Truth americké autorky Mary Flanagan. Při vstupu do galerie byl každý návštěvník požádán o pózu před kamerou, program jej vyfotil a uložil si jeho portrét do své databáze. Následně na něm provedl nepatrné změny, vygeneroval dvě drobně odlišné verze a obě varianty pak začal promítat na dotykových obrazovkách na stěnách místnosti. Na každé z nich se navíc objevila výzva k výběru jednoho z dvojice portrétů, která byla někdy formulovaná skrze pozitivně laděné otázky typu „Kdo vypadá šťastněji?“, „Kdo je milejší?“ nebo „Kdo má andělskou tvář?“, jindy však byla postavena na úroveň rozsudku: „Vyber oběť“, „Kdo je kriminálník?“ či „Urči teroristu“. Na displejích se střídaly tváře, hosté volili dle pokynů a program si pokaždé uložil označenou variantu. Poté opět provedl jemné změny a dvě nové modifikace znovu promítl na monitory. Čím více cyklů obraz absolvoval, tím více se do něj promítaly naše stereotypní představy. Nakonec jsme mohli vidět takřka dokonalého vraha či dobrodince, jehož podobizna byla vygenerována na základě společně sdílených předsudků.

Do jaké míry se tyto navyklé vzorce přenášejí do technologií a softwaru určeného k automatickému rozpoznávání obrazu a strojové vizuální identifikaci? Nedávno jsme četli o tom, že neuronové sítě dokáží na základě pouhé fotografie odhadnout, jaké má daná osoba politické názory, sklony ke kriminalitě, výši IQ nebo sexuální orientaci. Práce Mary Flanagan podobné analýzy zdařile zpochybňuje a ptá se, jak moc jsou tyto výsledky relevantní. Můžeme si být jisti, že takto vypadá zločinec, nebo si jen myslíme, že takto zločinci obvykle vypadají?

Mary Flanagan, Help Me Know the Truth, 2018. Foto: Mary Flanagan

Jiný problém často spojovaný se současnými digitálními prostředky představují velká data, respektive nerovnost v přístupu k nim. Velká data jsou ropou dneška, data se těží, s daty se obchoduje, data se kradou. Kdo má data, je chytřejší, dokáže lépe podnikat, vládnout i manipulovat. Jeden z řečníků na hlavní konferenci, biolog a datový analytik Ernst Hafen, nazval věk, v němž žijeme, dobou datového feudalismu, kdy Google, Facebook nebo Apple využívají svého dominantního postavení, nedostatečné legislativy i špatného společenského povědomí a nastavují pravidla, která nedávají uživatelům na výběr: „Buď nám věnujete svůj datový obraz, nebo odejdete z digitálního světa.“ Avšak nejsou to jen tito velcí hráči, kdo profituje z cenné suroviny. Jak trefně poznamenává Juval Harari, naše data často lehkomyslně rozdáváme kdekomu výměnou za aplikace „zdarma“ či videa s hrajícími si kočičkami. Jde o podobný princip, jako když domorodí indiáni prodávali svá území evropským kolonizátorům za hrsti barevných korálků.[3]

Na nekritický přístup k této nové datové ekonomice reagovala v Linci také belgická umělecká skupina Larbits Sisters se svou participativní prací Bitsoil Popup Tax. Jejím základem je on-line program automaticky prohledávající příspěvky na Twitteru. Pokud v textu některého z nich najde klíčové slovo značící zájem o datovou problematiku (např.: #value of data, #fair share, #data tax apod.), pak pod daný status přidá komentář vyzývající k účasti na aktivistické kampani. Do ní se každý uživatel může zapojit tak, že si „nakliká“ svého vlastního robota, jenž bude pravidelně psát maily a tweety upozorňující na negativa kolem velkých dat. Mezi adresáty si vybere, zda chce pravidelně oslovovat předsedu vlády své země, ředitele některé z největších internetových korporací nebo své přátele a známé. Poté už jen nastaví frekvenci rozesílání zpráv a může sledovat, jak mu v jeho peněžence přibývají Bitsoily – virtuální měna generovaná digitální angažovaností.

Nejde však jen o to, kdo z dat těží, ale také jak jsou vytvářena. Již zmiňovaná Merredith Broussard v tomto směru uvádí, že ani databáze nejsou neutrálním matematickým zdrojem, jak by se snad na první pohled mohlo zdát. Tabulky a skripta jsou navrhovány, vytvářeny a často i plněny lidmi z masa a kostí, kteří jsou omylní, mají své preference a myšlenkové zázemí. Data jsou sociální konstrukcí a jako taková podléhají kulturním vzorcům.[4]

Zcela jinak se k tématu chyby postavila rakouská novomediální umělkyně Alexandra Ehrlich Speiser, která se zabývala 3D tiskem a možnostmi jeho zneužití. Od této modelovací metody její příznivci často očekávají mimo jiné osvobození produktového trhu podobným způsobem, jako osobní počítač a internet proměnily svět hudby a videa. V jejich vizích si za pár let už nebudeme jezdit pro hrnečky a židle do Ikey, ale jednoduše si je stáhneme a pak vytiskneme v kůlně na zahradě.

Alexandra Ehrlich Speiser, Useless Weapons Series, 2018. Foto: Alexandra Ehrlich Speiser

Toto odstranění bariér spojených s běžnou distribucí zboží však s sebou může přinést i stinné stránky. Cody Wilson, americký aktivista za právo na držení zbraní, takto již řadu let experimentuje s tisknutím součástek i celých střelných zařízení. Zdrojové soubory jeho pistole Liberator jsou volně k dispozici na internetu, a tak prakticky kdokoliv s 3D tiskárnou může začít experimentovat s její výrobou. I když jsou výsledky zatím nedokonalé (zejména kvůli nevhodným vlastnostem plastového materiálu používaného v běžných 3D tiskárnách), přemýšlet o problémech, které mohou tyto experimenty přinést, je více než na místě. Právě takto přemýšlí Ehrlich Speiser, když ve své práci Useless Weapons podvratně manipuluje se zdrojovým kódem 3D modelů zbraní, vkládá do něj antimilitaristická prohlášení a poté sleduje změny, které její zásahy způsobily na podobě objektu. Tyto záměrně vytvářené glitche ničí výsledky tisku a esteticky poutavým výstupem ilustrují budoucí problém.

V roce 1999, rok před prasknutím tzv. dot-com bubliny, publikovali Anthony Dunne a Fiona Raby knihu Hertzian Tales, která je dnes vnímána jako manifest kritického designu. Oba autoři v ní popsali tvůrčí přístup, jehož záměrem je vytvářet a sdílet kritické perspektivy, podněcovat veřejnou debatu a směřovat tak pozornost ke společenským, kulturním, politickým nebo etickým problémům. V podstatě se jedná o metodu stojící na pomezí umění, designu, vědy a sociálního výzkumu, snažící se skrze konceptuální objekty ilustrovat opomíjené, očekávané či obávané dopady technologického, ekonomického nebo politického pokroku na každodenní život.

Nyní se nacházíme ve vzrušující době, kdy každý obor prochází technologickou transformací. Dnes už nemluvíme pouze o matematice či informatice, ale také o výpočetní biologii, výpočetní chemii, výpočetních sociálních vědách, digitálních humanitních vědách a dokonce i o kvantitativních dějinách umění. Uměleckých děl, která kriticky zkoumala způsoby, jak inovace ovlivňují a utvářejí společnost, bylo na Ars Electronice k vidění obstojné množství. Někdy více a někdy méně přesvědčivě se vystavujícím autorům dařilo vytvářet vize a scénáře alternativních budoucností, činit tyto představy hmatatelnými a srozumitelně je předkládat návštěvníkům. Zdá se, že přibývá umělců a umělkyň, kteří vnímají nové technologie nejen jako přitažlivý nástroj tvorby, ale také jako předmět hodný hlubší reflexe. To považuji za skvělou zprávu, protože, na rozdíl od reklamy na Macintosh, technologie není dobrá či špatná. Neexistují hodné nebo zlé mikročipy, andělské ani ďábelské algoritmy, přátelské nebo nebezpečné databáze. Existují jen správné nebo chybné způsoby jejich využití.

[1] BROUSSARD, Meredith. Artificial Unintelligence: How Computers Misunderstand the World. Cambridge, MA: MIT Press, 2018, s. 14.

[2] Ibid. s. 235.

[3] HARARI, Yuval Noah. Homo Deus: A Brief History of Tomorrow. New York: HarperCollins Publishers, 2017, s. 361.

[4] BROUSSARD, Meredith. Artificial Unintelligence: How Computers Misunderstand the World. Cambridge, MA: MIT Press, 2018, s. 69.

Ars Electronica / umělecký ředitel: Gerfried Stocker / Ars Electronica Center / Linz / 6. – 10. 9. 2018

Zdroj fotografií: Flickr © Ars Electronica