Klíčová otázka, kterou bychom si tedy měli klást v politice, vědě i umění, by mohla znít takto: Jak se můžeme vrátit k demokratickému ideálu společného rozhodování? Zvláště pro umělce by pak mohlo být důležité zjištění, že rozmach umělé inteligence znamená především nově zkoumat, co to znamená být člověk.
Nebude umělých lidí, protože to není potřeba,
píše Stanisław Lem ve svém filosofickém opusu o budoucnosti lidstva Summa technologiae. Opravdu? Vše, co od nástupu křemíkové revoluce zažíváme, se jeví vyvracet tuto tezi klasika vědeckofantastického žánru. A nástup umělé inteligence, jenž děsí i rozradostňuje globální kosmopolitní třídu (protože deklasovaní mají docela jiné starosti než diskutovat s ChatGPT), jako by dával za pravdu spíše posthumanistům: singularita se blíží! Tedy dějinný bod, po němž biologická evoluce, jež v lidské historii přešla v kulturní, bude definitivně nahrazena novou, nepředvídatelnou a člověka přesahující evolucí digitální.
Samozřejmě tyto dva pohledy jsou v rozporu jen zdánlivě. Ve skutečnosti totiž úvahy o umělé inteligenci vždy obsahovaly jak prastarý mýtus o stvoření nového Adama, tak i apokalyptickou vizi zániku člověka. Posthumanisté jsou prozíravější a přiklání se spíše k nové variantě vyprávění o velkém třesku: co bude po vzniku umělé inteligence, je těžko si představit, protože s tou lidskou nebude mít co do svých schopností a šíře mnoho společného. Aktivisté jako Max More, Hans Moravec nebo Nick Bostrom takový zlom vítají, každý po svém – škála utopických představ o budoucnosti je skutečně široká. Od prodloužení lidského života přes zásadní vylepšení tělesných schopností až po digitalizaci duší, umožňující tělo odhodit. Otevírá se snad k tomu cesta ve chvíli, kdy každý má již na internetu možnost vést rozhovor se strojem, který toho četl a viděl více než kdokoliv z lidí?
Ať už nahlížíme na umělou inteligenci s nadějí, nebo s obavami, je dobré získat si odstup a podívat se na iluze vlastní tržišti, na němž se prodávají technologické produkty, prohlubuje se komodifikace lidí a jejich života a vizionáři míchají vědu se starobylou mytologií. V židokřesťanské civilizaci je hluboce zakořeněn mýtus o stvoření, ale i o vzpouře a zavržení, a tyto obrazy se promítají i do divokých diskusí o umělé inteligenci. Na jedné straně se novým způsobem zapojujeme do dlouhé alchymistické tradice usilující zopakovat božský akt a vytvořit homunkula, vedle toho panuje obava, že toto dílo může svému původci říci satanské „Ne!“ a otevřít pekelné brány. O tom ostatně píše i Lem ve zmíněné knize. Kdykoliv máme tendenci se konfrontovat s vizemi „nového člověka“ nebo „zániku lidstva“, zastavme se a pozorujme, jak v nás působí sekulární podoba biblického příběhu, v níž se do pozice Boha staví sám člověk.
Samozřejmě jakákoliv stvořitelská pozice je ze své podstaty riziková. I proto můžeme s úlevou přijmout zprávu, kterou ve své knize Živoucí hmota podává filosofka Jane Bennettová. Žádnými stvořiteli být nemůžeme. Abychom se do takové pozice mohli pasovat, musel by existovat přímý příčinný vztah mezi naším svobodným, vědomým a nezávislým jednáním a jeho účinky. Taková „silná teorie účinků“ je ale filosoficky neobhajitelná. Už jen proto, že dnes z výzkumů lidské mysli dobře víme, jak málo máme svoje vědomí pod kontrolou. Adekvátnější je pojímat rozum jako jednoho z výrazných a mocných aktérů v celé síti viditelných i nezbadatelných spolutvůrců našeho jednání. Lidské tělo, v němž je mozek uložen, je pouze nejviditelnější část tohoto komplexu, který se rozprostírá za hranice pokožky do světa, v němž žijeme.
To lze velmi dobře ukázat například na řízení automobilu, jízdě na kole či milování. Žádné z těchto jednání není možné bez souhry těla a mysli, bez naučené schopnosti orientovat se a reagovat v prostředí, bez nabyté citlivosti ke svému okolí a k druhému člověku. Jde o získané schopnosti, které jsou uložené v celé naší individualitě, a kdyby nám někdo vyňal mozek z hlavy a digitalizoval jej, ztratíme je. Dobře to zná každý, kdo prodělal nějakou výraznou chorobu, operaci anebo se zásadním způsobem změnil jeho tělesný stav. Najednou má pocit, jako by se znovu musel učit pohybovat, vnímat postoj, mění se jeho prožívání světa.
Klasický myšlenkový experiment „mozek v kádi“, jenž od Reného Descarta v různých podobách uvažuje o lidské mysli jako o něčem oddělitelném od těla, co lze – moderním pohledem – klidně i naskenovat a uploadovat do internetové sítě, je nedůvěryhodný. Roztrhuje člověka. Identita, vnímání i myšlení takové debiologizované mysli už by bylo nelidské. Podobně „umělá inteligence“ není novým Adamem, protože stejně jako umělá ruka nebo mechanické srdce je pouze strojovou analogií určitého lidského orgánu, či dokonce pouze jeho části. Lidskou mysl netvoří jen inteligence, ale i emoce, paměť a spousta neprozkoumaných prvků duše, které jsou nevykořenitelně napojeny na naši tělesnost.
Výzkum umělé inteligence se rozvíjel po druhé světové válce jako jeden z plodů vědeckotechnické revoluce, k níž přispěl válečný průmysl a následná redistribuce technologických znalostí z poražených zemí do těch vítězných (zmiňme jen americkou operaci „Kancelářská sponka“, která do západního výzkumu zapojila i podílníky na válečných zločinech, jako byl tvůrce střely V-2 a esesák Wernher von Braun). Kybernetizace se v souvislosti s utopií automatizované společnosti i studenoválečnickými vojenskými úkoly, které byly skryty pod vesmírný program, rozjela jak ve Spojených státech amerických, tak i v Sovětském svazu.
Teprve „křemíková revoluce“, jejímž centrem se stalo kalifornské Silicon Valley, nicméně přinesla netušenou akceleraci vývoje a přenesla jeho plody do civilní každodennosti. Rozmach domácích počítačů, satelitů, mobilních telefonů, ale i ostatní automatizované spotřební elektroniky šel ruku v ruce s transformací západního hospodářského systému. Ten po ropné krizi a zhroucení brettonwoodského peněžního systému v sedmdesátých letech vyměnil průmyslovou logiku preferující velké organizační komplexy za logiku síťovou.
Umělá inteligence v tehdejší podobě pomohla radikálně změnit tržní mechanismy. Nejen tím, že přispěla k rozšíření elektronického obchodu, automatizované a personalizované reklamy a zefektivnila výrobu, ale rovněž z trhu práce vytěsnila dosavadní model trvalého zaměstnání s výrazným podílem dělníků a nahradila jej „znalostní ekonomikou“. To vedlo nejen k vzestupu kosmopolitní třídy, někdy nazývané po vzoru průmyslového proletariátu „kognitariát“ (aniž by byla tato analogie dostatečně promyšlena), ale i k prekarizaci práce, novým sociálním rizikům a nejistotě, stejně jako k rušení celých oborů a kvalifikací. Nakonec se zdá být ohrožené i samotné umění, neboť stroje malují, píší a hrají.
Ještě než se před zhruba deseti lety objevil fenomén „deep fake“ a lidé po celém světě se začali děsit dokonalosti, které počítače dosáhly při vytváření videí, obrázků, ale i při psaní textů, zasáhla umělá inteligence do globálního světa více, než se na první pohled zdá. Stala se nástrojem demokratizace, neboť zpřístupnila dříve nedostupné nástroje komunikace široké populaci. Pohleďme jen na to, jak si dnes může pořídit skvělou fotografii či video prostřednictvím mobilu a pár aplikací každý, a to bez sebemenší znalosti exponometrie či vyvolávání. Stejně tak ale pomohla i elitám, jež po (jejich zájmům nepříznivé) politice sociálního státu převzaly iniciativu a s výraznou pomocí nových technologií od sedmdesátých let válcují všechny výdobytky veřejné politiky ve prospěch ideje „volného trhu“. Podobně by bylo možné hovořit i o koncentraci moci důsledkem globalizace a dalších fenoménech současnosti, na jejichž negativních i pozitivních důsledcích má umělá inteligence lví podíl.
Kybernetická utopie totiž nevychází z představy, že dojde ke stvoření člověka; taková vyprávění lze spíše hledat v populární kultuře a filosofických myšlenkových experimentech. Cílem kybernetiky, na jejímž počátku stál ve čtyřicátých letech dvacátého století americký matematik Norbert Wiener, bylo využít poznatků z fungování živých organismů pro konstruování strojů, které by umožňovaly automatizovat, zefektivnit a zpřesnit řízení informačních toků, plánování a rozhodování. Umělá inteligence se již dávno zapojuje do rozhodování o našich životech a z tohoto hlediska je diskuse o chatovacích botech nebo generování textů a obrázků vlastně docela marginální problém.
Lidstvo totiž nestojí před hrozbou, že by bylo nahrazeno stroji; dokonce se můžeme i domnívat, že stroje lidstvo nezničí (pokud tak nebudou naprogramovány člověkem). Je ale konfrontováno s krizí demokracie, neboť rozhodování a řízení společnosti je dnes v globálním měřítku spojeno s procesy, které běžný člověk není schopen ani zahlédnout, natož pak jim porozumět. Umělá inteligence má člověku ulehčit a učinit jeho rozhodnutí kvalifikovanější, ve skutečnosti se ale ekonomika, výroba, ale třeba i školství proměňuje tak, aby přijalo logiku síťových informačních toků, a bylo tak čitelné pro stroje, které mohou tyto toky vyhodnocovat a navrhovat změny.
Volný trh byl před více než dvěma sty lety ideou vycházející z předpokladu, že prostřednictvím obchodního styku lidé uplatňují svoje soukromé zájmy a jejich prostřednictvím i morální postoje, proto pro první politické ekonomy, jako byl Adam Smith, představoval trh ideální nástroj pro řízení společnosti – měl být (a nikdy nebyl) dokonalým odrazem společenského étosu a projevem společenských postojů a tužeb. V současnosti lze říci, že jsou tyto postoje a touhy kontrolovány a modelovány umělou inteligencí a s její zvyšující se dokonalostí se rozhodovací procesy čím dál tím více vzdalují běžnému člověku. A to navzdory iluzi, že sociální sítě vytvářejí dokonalou veřejnou sféru přístupnou všem – jejich algoritmy (což je jedna z forem umělé inteligence) naši komunikaci řídí v souladu se strategickými a obchodními rozhodnutími nadnárodních společností.
Problém je rovněž v tom, že umělá inteligence potřebuje ke svému rozhodování co nejkomplexnější baterii informací o našem chování, schopnostech, myšlení. A tak spolu s tím, jak větší a větší části našich životů svěřujeme technologii, která v sobě obsahuje zesíťované prvky umělé inteligence (od počítačů přes automobily až po vysavače či chytré žárovky), tím více jsme čitelní pro ten složitý ekonomicko-technologický komplex, který ve skutečnosti pracuje v zájmu poměrně úzké skupinky lidí. „Kapitalismus dohledu“, jak tento režim nazývá psycholožka Shoshana Zuboffová, se projevuje nejen zvýšenou zranitelností (naše identita může být kdykoliv ukradena), ale i obchodovatelností našich životů a nakonec i zvýšením tlaků, které na nás mohou instituce a podniky vyvíjet.
Pokud stále věříme osvícenskému ideálu, že o své budoucnosti bychom se měli rozhodovat společně a že není žádné nezpochybnitelné autority a nesesaditelného pána, potom je potřeba přehodnotit diskusi o umělé inteligenci, jež se zabývá především starou apokalyptickou mytologií anebo je redukována na módní boj s dezinformacemi, fake news a deep fake. Pravdou je, že naše životy, soukromí a intimita jsou ohroženy více než v minulosti. Není to však jen proto, že naše data mohou být zneužita. Ztrácíme kontrolu nad svými životy, soukromím a intimitou a delegujeme rozhodování nad nimi na ekonomicko-technologické komplexy, které jsou programované novou profesní třídou, jež zhusta plní servisní roli pro ekonomické a politické elity.
Vedle programátorů, jak píše španělský sociolog informační společnosti Manuel Castells v knize Komunikační moc, se na řízení společnosti totiž podílejí „přepínači“, tedy lidé, kteří jednotlivé prvky ekonomicko-technologického komplexu spojují a rozpojují, a modelují tedy chování umělé inteligence tím, že globální síť zaplétají a rozplétají. Patří tam nejen politici a byznysmeni, ale i velké množství aktérů, jejichž existenci si vůbec neuvědomujeme. Programátoři a přepínači jsou ti, kteří díky nástupu umělé inteligence získávají reálnou moc a již by se měli v příběhu o budoucnosti lidstva objevit namísto vědeckofantastických příběhů o vzpouře strojů.
Tato reorganizace společnosti a mocenských pozic v ní, která stále probíhá, zároveň proměňuje náš náhled na budoucnost ve světě umělé inteligence. Podstatná je totiž otázka, jak se vedle lidského soukromí a podílů na rozhodování o společnosti posouvá i podoba práce. Prekarizace, tedy systematická nejistota způsobená opouštěním klasického průmyslového modelu zaměstnanosti a přenesením rizik na pracovníky, je jen jedním z projevů této změny. Zániky celých oborů a profesí mimo to hrozí nejen vytvořit davy nezaměstnaných (a možná nezaměstnatelných), ale také ještě prohloubit již zmíněný demokratický deficit.
Profesionální práce byla v moderní době založena na představě autonomie pracovníka, tedy na skutečnosti, že rozhodnutí lékaře, pedagoga nebo třeba novináře je založené na jeho zkušenostech, expertíze a morálce. Pokud se část těchto profesních úkonů přenese na umělou inteligenci, otevře se i otázka, na jakém základě a s jakým oprávněním stroje rozhodují o morálních otázkách s tím spojených. Jde o takové věci jako vyhodnocování, kdo a jak má být ošetřen, o čem a jak je potřeba psát zpravodajství, jaké hodnoty přenášet při výuce.
Americký seriál Simpsonovi v díle nazvaném „Nevzdělávání Lízy Simpsonové“ svým typickým satirickým způsobem ukazuje, jak je důraz na technologie v politice, ekonomice, ale i vzdělávání dvousečný. Ve Springfieldu je založena progresivní škola vedená „mentorem“ Zanem Furlongem, která má připravovat děti na kompetence budoucnosti. Řídí se akronymem STEM – věda, technologie, inženýrství a matematika (který je i v naší realitě heslem dne, s nímž se operuje ve strategických politických plánech) a slibuje přizpůsobovat výuku talentu a schopnostem dětí tak, aby na trhu síťové společnosti budoucnosti uspěli. Pod lákavým humanistickým a futuristickým nátěrem se ale nakonec skrývá hořká pravda: akronym neznamená science–technology–engineering–math, ale sponge-bathing–toileting–elderly massage (koupání, záchodování, masáž seniorů). „Práce budoucnosti“ se ukazuje jako krušná vize otrockých „vedlejšáků“ v sociálních službách, protože to jediné nenahradí stroje.
Klíčová otázka, kterou bychom si tedy měli klást v politice, vědě i umění, by mohla znít takto: Jak se můžeme vrátit k demokratickému ideálu společného rozhodování? Zvláště pro umělce by pak mohlo být důležité zjištění, že rozmach umělé inteligence znamená především nově zkoumat, co to znamená být člověk. A to nikoliv tak, že bychom jej vytrhávali z prostředí a hledali jedinečnost, ale naopak v souladu s myšlenkami Jane Bennettové prozkoumávali jeho propojenost s prostředím.
Důraz na to, co sdílíme, mimo jiné posiluje demokratický ideál. Společný rozhovor o budoucnosti totiž nesmí být pouze technicistní debatou expertů a elit, ale společným hledáním odpovědi na otázku po „dobrém životě“. Tedy ptát se nad rámec efektivity řízení, jak mají vypadat naše životy, aby byly více lidské? Jak píše filosofka Martha Nussbaumová ve své knize Křehkost dobra, je to naše zranitelnost a nedokonalost, na níž lze vymezení lidskosti založit. Protože nikdo z nás není chráněn nejen před důsledky umělé inteligence, ale ani nás samotných. A tuto roli v umělecké tvorbě už z principu nikdy nebude moci zastat žádný stroj – protože jsme to jen my, kdo o sobě samých může v demokracii rozhodovat.
Fotogramová koláž autora
Mnohí výskumníci a výskumníčky upozorňujú aj na obrovskú potrebu inklúzie rodových, rasových a národnostných skupín pri príprave, trénovaní a testovaní dátových algoritmov LLM.
Podobně jako při generování poezie, tak i při vytváření prozaických textů znamenalo zveřejnění jazykového modelu GPT-2 enormní kvalitativní skok kupředu. Přesto však první výsledky byly dokladem právě jen zmíněného skoku, nikoli však ještě jazykově bezchybného výsledku.
Vzpomněl si na barvoslepého umělce, kyborga Neila Harbissona, který díky voperovaným senzorům vidí barevně a v jiné dimenzi vnímá a tvoří umění. Když mu někdo ve spánku pošle po internetu třeba modrou barvu, jeho sny budou modré nebo se mu bude zdát o azurovém moři a nebi. Jindy ho paleta barev probudí do světa, který se jeví mnohem hezčí než ten současný.
Bylo to dost odlišné místo, kde si všichni šlehali a v poryvech a vlnách burácela hudba. Hodně často to působilo jako válečná zóna, ale pak, když jste se pohybovali dostatečně pomalu, se všechno na okamžik ustálilo, jako němá odpověď na modlitbu, kterou jste zpívali.
