Ne/kontrolovaný výstup

Nástup umělé inteligence hlásí postupně většina oborů lidské činnosti, byť to není vždy tak, jak bychom si představovali. Umělecká tvorba není výjimkou. Jakub Stejskal se v komentáři zabývá otázkou, jak je to s uměleckostí AI tvorby.

DALL.E-2: Ne/kontrolovaný výstup: Meze tvořivosti a generativní AI

Ne/kontrolovaný výstup: Meze tvořivosti a generativní AI

V zatím posledním filmu Davida Cronenberga, Zločiny budoucnosti (2022), postava slavného umělce nechává své tělo produkovat nové, doposud neznámé vnitřní orgány. Ty mu pak jeho umělecká partnerka tetuje a při veřejné performanci odoperovává. Cronenbergův film je mimo jiné kinematografickou úvahou o podstatě umění a jeho vztahu k technologii. Kanadský režisér umně operuje s představou, že uměleckou tvorbu nemůžeme mít nikdy pod plnou kontrolou, protože zcela neovládáme sami sebe – jsme sami sobě černou skřínkou. Ve filmu je toto téma ještě podtrženo biologickými proměnami, kterými v jakési zdivočelé, nerovnoměrné evoluci a v podivné symbióze s biotechnologickými stroji procházejí lidská těla. Umělecká dvojice z filmu se snaží držet rovnováhu mezi kontrolou a nekontrolovaností ve světě, kde se rozdíl mezi technologickými nástroji kontroly a nekontrolovatelnou přirozeností smazává.

Hledání rovnováhy mezi kontrolou a ztrátou kontroly je klíčové pro mnoho uměleckých kultur, i když se projevuje různě: jako kontakt s nadpřirozenem v pravidly svázaném rituálu, jako technická zručnost coby projev nelidské inspirace nebo také jako osvobození od přílišné kontroly. Podle filozofa C. Thi Nguyena na kvalitách, které nalézáme v umění, není v principu nic nepostihnutelného, co by třeba nějaká umělá síť založená na strojovém učení nemohla identifikovat místo nás. Důraz na to, že smysl umění musí být zakoušen v osobní, bezprostřední zkušenosti s ním, tak je podle něj spíš sociální normou, která chrání prostor umění před vypočitatelností, jež čím dál víc ovládá naši technologickou civilizaci. Instituci umění potřebujeme, abychom si mohli prožít nevypočitatelnost za kontrolovaných podmínek.

Je snadné vidět, proč se nabízí vnímat algoritmizaci kultury, tedy postupné zvětšování podílu umělé inteligence na kulturní produkci, jako proces nekompatibilní s takto chápanou institucí umění. Generátory textů a obrazů na bázi hlubokých umělých neuronových sítí se zdají být zjevným nepřítelem umělecké tvořivosti, protože jejich hlavní devízou je napodobování očekávatelných vzorců lidského jednání a tvoření. Algoritmizace ale není jen důsledek nejnovější technologické revoluce; spíše nachází živnou půdu v obecnějším procesu, který charakterizuje současné stadium globální kultury. Existence subkultur již neznamená možnost úniku před logikou trhu ovládající masovou zábavu středního proudu. Kulturní průmysl se úspěšně přizpůsobil fragmentárnosti a vytváří kulturní zboží šité na míru subkulturnímu vkusu – tak, aby se nikomu v cílové skupině nepříčilo v krku. Stačí si pustit jakýkoli ze zaměnitelných žánrových produktů Netflixu z poslední doby a zamyslet se, co zásadního se změní, až jeho scénář a produkci za lidi zhotoví umělá inteligence (Netflix v létě uprostřed herecké a scenáristické stávky v Hollywoodu inzeroval manažerské místo se zaměřením na strojové učení s platem až devět set tisíc dolarů ročně). Tato tendence se ale může týkat i „vyšších“ etáží kultury.

DALL.E-2: Umění zrcadlí problémy společnosti

Prefabrikovaně cílit na hladkost recepce může paradoxně i umění „vysoké“, které si zakládá na svém kritickém odstupu od skutečnosti, jako třeba nedávná výstava Daniela Boyda v berlínském Gropius Bau. Jeho obrazy jsou zhusta složené z transparentních koleček nebo bublin, skrze které rozpoznáváme výjevy útočící na postkoloniální černé svědomí bílé civilizace. Jednoduchý princip a šablona jak z Photoshopu znejasňují rozdíl mezi figurou a pozadím, konturou a výplní, a tak mají zpochybňovat imperiální narativy ilustrované obrazy. Vše je pro jistotu ještě polopatě vysvětlené v doprovodných textech. Výstava je připravená k bezproblémové konzumaci uvědomělým kosmopolitním obecenstvem, jehož civilizační svědomí je zatížené dostatečně na to, aby vědělo, že má zanechat opravdu kritický odstup spolu s bundou v suterénní šatně.

Podobně román Normální lidi Sally Rooney (2018, čes. 2020) o mileniálech a pro mileniály hladí i přes všechny probírané krize světa a duše své cílové čtenářstvo po srsti. Je příznačné, že se pochybnosti stravující dvě hlavní postavy skoro vůbec netýkají nejistoty o jejich intelektuální brilantnosti. „Život je těžký, ale aspoň nejsme/nejste blbí“ je elitářská zpráva, kterou v sofistikovanějším hávu podává nejen román, ale v zoufalé a kontraproduktivní snaze o obhájení svého smyslu i humanitní fakulty, z nichž se rekrutuje čtenářstvo románu, takto předpřipravené s vděkem jeho zprávu polykat.

Problém Boydovy výstavy a románu Rooney pochopitelně netkví v tom, že by cílily primárně na specifický segment diváctva nebo čtenářstva (které umění to nedělá?). Problémem je, že se ostentativně hlásí k tradici umění nastavovat společnosti zrcadlo, aby ve skutečnosti hráli do karet již ustálených identit. Tento efekt sebepotvrzení opět patří k výrazným a často vzpomínaným charakteristikám současné společnosti s jejími do sebe uzavřenými sociálními bublinami, kde v názorech našeho okolí slýcháme jen odrazy vlastního přesvědčení. Takové společenské rozpoložení vytváří živnou půdu pro algoritmizaci kultury, jak to dobře dokazuje hojné používání botů při utužování politických příslušností na sociálních sítích.

Právě v reakci na romány, jako jsou ty od Rooney, nedávno napsala kritička Olivia Kan-Sperling, že „úkolem psaní by mělo být nám připomínat cizost jazyka, uchopit tuto technologii, kterou každý den používáme, a vnutit jí revoluce – nečekané obraty a zákruty“. Tento výrok nijak nevybočuje ze standardních moderních či modernistických formulací úkolu umění. Pozoruhodné na něm ale je, že jej Kan-Sperling obrací proti současné „vysoké“ literatuře a na obhajobu naprostého spodku literární žánrové pyramidy, totiž fanfikce. Podle Kan-Sperling najdeme dnes větší tvůrčí svobodu a touhu experimentovat v příbězích zasazených do fikčních světů již existujících literárních či audiovizuálních děl (či do světa hudebních hvězd) a psaných jejich fanynkami a fanoušky.

Fanfikce je přitom žánr literatury, v němž se generativní umělá inteligence rychle zabydluje. Například character.ai, chatbot hojně využívaný v jejích komunitách, umožňuje vytváření fikčních postav, které se „učí“ své charakteristiky na základě dodaných informací i další interakce s uživatelkami a uživateli. Velké jazykové modely se navíc dokážou „školit“ na volně dostupných rozsáhlých databázích fanouškovské literatury. Když se tvůrkyně a tvůrci fanfikce brání, že aplikace na generování příběhů parazitují na jejich tvorbě bez adekvátní kompenzace nebo protiprávně, paradoxně používají stejné argumenty, které proti nim často vytahovala profesionální spisovatelská obec. V obou případech se jedna strana brání, že druhá strana parazituje na plodech její tvůrčí práce, protože rezignuje na tvořivost, tedy onu kontrolovanou nekontrolovanost, kterou umění připisujeme. Zjevně nelze hranice umělecké tvořivosti jednoduše rýsovat podle dělení na umění profesionální a amatérské, vysoké a nízké. Tak proč by tomu mělo být jinak i s dělením na umění lidské a algoritmické?

DALL.E-2: Umělá inteligence jako umělec

Co dělá hlavní postavu Cronenbergova filmu umělcem, je, že jeho tělo „tvoří“ nové orgány nevypočitatelně, nekontrolovatelně. Obavy z algoritmizace kultury jsou projevem úzkosti ze ztráty takové nevypočitatelnosti. Tento obrázek se ale komplikuje, když si uvědomíme, že se svou údajně bytostně lidskou nevypočitatelností naopak umělým sítím na bázi hlubokého učení nápadně podobáme. Tak jako my jsme sami sobě černými skřínkami bez schopnosti kontroly vnitřních orgánů, ale i zlozvyků a společenských patologií, tak i komplexnost parametrů hlubokých umělých sítí takřka zabraňuje podchycení parametrů, kterými se řídí. Známé příklady rasistických nebo jinak zcela nemístných výlevů chatbotů demonstrují dobře tento problém. Ten často přichází na přetřes v diskuzích o obrovském potenciálu generativní umělé inteligence pro herní průmysl. Představa, že se herní umělá inteligence bude schopna zdokonalovat v reakci na chování hráček a hráčů či že bude schopna vytvářet vždy nové úrovně a situace, a to do značné míry autonomně, je velice lákavá. Co ji brzdí, jsou právě obavy z její přílišné autonomie, tedy z nelogických odklonů od herního plánu, z nelidských interakcí a nekonsekventního chování. Generativní umělá inteligence utržená od řetězu se může začít projevovat jako rakovinné bujení – podobně jako nové orgány umělce ve Zločinech budoucnosti, které svého hostitele zabijí, pokud se včas neodoperují.

Cronenberg tedy ve svém filmu přirovnává uměleckou tvorbu ke kontrolovanému zhoubnému bujení, což je paradox, a proto se také celý proces na konci vymkne kontrole. To ale ve filmu neznamená, že hostitel/umělec umírá, jen se stává jiným. Když nahradíme biologickou metaforu technologickou, umělecká tvorba nám z toho vychází jako kontrolované generování hlubokých umělých sítí: nechceme nad ní mít plnou kontrolu, protože to by šlo proti jejímu smyslu, ale nechceme ji ani nechat bez vnější kontroly, protože pak ztrácí smysluplný kontakt se svým obecenstvem. Třeba není tak daleko doba, kdy se tato metafora stane doslovnou. Podle Kan-Sperling nám fanfikce dává výbornou příležitost uskutečňovat jeden z bytostně lidských způsobů vytváření krásy – tvoření umění z již existujícího umění. Chce se dodat, že pak nám může být jedno, jestli umění k tomuto cíli dospěje čistě lidskými, nebo i nelidskými prostředky – hlavně když při tom nebude chtít mít všechno pod kontrolou.