Domnívám se, že čtenářům iPure není vůbec nutné ChatGPT představovat. Koneckonců se o to vůbec nejlíp zasadil kolega Jakub Dressler ve svém důmyslném rozhovoru s tímto tajemným robotem, který od listopadu minulého roku již více než 100 milionům lidí otevírá dveře k různým radostem. A světe div se, dokonce i k lepším výsledkům ve škole, i když mu matematika zatím prý moc nejde. Chci věřit, že se megaprojektu původně Muskovy OpenAI skutečně bát nemusíme, ale z jeho již explicitních dopadů nám prostě musí vstávat všechny chlupy na těle.

A není to proto, že mám nějakou vrozenou averzi vůči robotům a chytrým zařízením jako takovým (i když se jim vyhýbám, jak už všichni dobře víte). Většina strojů, které lidstvo dovede vyrobit, má potenciál být velmi užitečnými doplňky našich životů, umožňují nám pracovat více a přesto s menší námahou, být flexibilní, prostě můžeme díky nim žít jinak a být objektivně méně závislí na okolnostech. Problém, který trápí především ty stroje, které jsou pod našima rukama stále chytřejší, je ale ten, že na nás začínají mít dvojí – a velmi nepříznivý – vliv. Začínáme přeceňovat nejen je, ale i sebe. Nejen že si myslíme, že jsme stvořili homunkula, ale začínáme přeceňovat svoje vlastní schopnosti. Prostřednictvím našich vlastních výtvorů si o sobě začínáme myslet až příliš moc; začínáme mít dojem, že naše mozková kapacita roste přímo úměrně výpočetnímu výkonu neuronových sítí ChatGPT a my tak jsme stále více bezbožní – odtud název tohoto článku. Čím rychlejší a efektivnější naše nástroje jsou, tím mocnější si na tomto světě připadáme a ztrácíme pojem o hodnotách a jakémsi běžném životě, protože si myslíme, že dokážeme víc. Teď, tady a kdykoliv se nám zachce. Počítače se nikdy nevypínají. Když jsem poprvé hrál Cyberpunk a psal jsem na něj recenzi, mrazilo mě z prozíravosti polských autorů, ale to jsem ještě vůbec nevěděl, jaké to bude, až doba, kdy začneme doslova zbožňovat technologie, skutečně přijde. Oproti všemu sci-fi máme zpoždění, ale přece jsme se dočkali.

Chcete PDF verzi tohoto článku? Stáhněte si ji zdarma.

Proroctví Cyberpunku

Určitě znáte svět Cyberpunku, dystopicky se jevící a nikdy nespící Night City, výkvět moderního světa se vším, co k němu patří. Píše se rok 2077 a vy jste součástí společnosti budoucnosti, která už většinou zapomněla, co to je být offline. Tato zkušenost se ztratila kdesi v mlze vzpomínek, propadla se jen kamsi do kolektivního vědomí, protože všechno, co se v Night City děje, by bez počítače nefungovalo. Když pomineme všudypřítomné „bezpečnostní“ kamery a vulgární bannery, nápisy, billboardy i holografické stromy, což je fajn pozlátko (odtud definice žánru kyberpunk „High Tech – Low Life“), vidíte chudé lidi absolutně závislé na technologiích, které jim doslova proudí v žilách. Mají ji v očích, v hlavách mikročipy, jsou to kyborgové a jen málokdo z nich je technologií fyzicky neposkvrněný. O psychické stránce se ani nebavím… Je to svět, který je fascinující, pohlcující, dechberoucí, naprosto omamný, především když na to máte počítač. Cyberpunk vás nadchne, pokud ho chcete skutečně chápat. Na každém rohu ale máte k nahlédnutí texty různé povahy: o životě v Night City, i takové, jaké si můžete přečíst na přiloženém snímku. Výňatek z Arthura Schopenhauera, o stavu Já a jeho neměnnosti. V kontextu světa budoucnosti se ale Schopenhauer ukazuje být mimo mísu, protože v Night City ze sebe můžete přes noc udělat někoho úplně jiného. Je jedno, jaký chcete být gender, pohlaví, jaká se vám líbí postava nebo snad i povaha, tzv. rozparovači namíchají koktejl na míru. Technologie se totiž stala náboženstvím. Místo aby se lidé chodili modlit do kostela, k sochám božstev a navštěvovali svatyně s pokorou k tomu, co nás všechny převyšuje, jejich útěchou je počítač. Superrychlá, všudypřítomná a především odevšad přístupná globální síť, bezduchá věc, která je však chladná, nedýchá a nežije. Hm… Že nežije? Ale jak to poznáte? Po městě třeba jezdí plně autonomní taxíky, které jsou dokonce neskutečně vtipné, umí politovat, dělají skvělou službu. Takového taxikáře abyste pohledali… Tenhle s vámi akorát mluví přes obrazovku, podobě jako KITT z Knight Ridera. Není jediný argument, proč by vám to mělo vadit, že? A přece bych se vsadil, že vám tento svět přijde svým způsobem nechutný. A to nejen enormní mírou přírodního znečištění, která spolu zapříčinila tak vysokou míru chudoby a rozevřené nůžky mezi bohatými a chudými. A co že ji způsobilo? Já bych zapomněl, produkce moderních technologií a následky její koncentrace společně s lidmi na velmi malém prostoru.

Cyberpunk je surový, povědomý, tak blízký, ale neskutečně osamělý. Lidé chodí po ulicích jako těla bez duše, zdegenerovaní umělou stravou, která při své výrobě živý organismus neviděla ani z vlaku, a ti, co jsou duchapřítomní, vás nenávidí. Každý bojuje o přežití, nikoho už nezajímá kultura ani umění, vrátili jsme se k pudům. Sex a smrt jsou na každém rohu, úžasný oxymoron naší společnosti vyhnaný do extrému. Metafora vzniku i zániku života na jednom obrázku, obojí zároveň symbolizující jeho naturalistickou podstatu. Zroď se, zploď a zemři. Nic jiného se po tobě nechce, nic jiného nechtěj, je to zbytečné. A dokud tu ještě jsi, otoč volume na maximum, nacpi se vším, co se do tebe vleze, protože si to přece nechceš nechat ujít. Však ono se to nakonec nějak udělá, důležité je teď a tady. Kdykoliv. A přece to není dost. Technologie lidi vysává – být závislý lidi vysává. Záviset je zhoubné, proto o všech neřestech říkáme, že jsou návykové a způsobují závislost. Viz Schopenhauera, náš život je bez svobody, svobodná vůle je mýtus. Odehrává se s nezbytností založenou na neměnné povaze v řetězci motivů, v důsledku čehož nikdo z nás není sám se sebou v žádném případě spokojen, jak stojí v úryvku. Uvědomujeme si, že jsme, jací jsme, a jak moc jsme lapeni ve spárech všech možných závislostí, které okolo nás tento život staví, a nás to vnitřně trápí, protože vrozený smysl pro „to správné“ máme všichni bez rozdílu; jen někteří z nás se s tím dovedou poprat a jednat z principu, nikoliv z pohnutek. Kdo nás z toho má ale vysvobodit, za kým jít, když už je toho na nás moc?

Nespokojenost sama se sebou (neboli hříchy) se v nás nevyhnutelně hromadí a tvoří bariéru v naší upřímné a srdečné komunikací s vnějším světem. Přestáváme si užívat, jsme z toho nemocní (a to i doslova, protože většina civilizačních chorob je psychosomatického původu). V takových situacích, kdy je nám nejhůř, se obracíme k Bohu a žádáme odpuštění. Když jsme ale zanevřeli na to, co nás dělá lidmi z masa a kostí, naše nitro i naše vnější schránka, když ani ona už není z masa a kostí, co je naším věčným a bezpodmínečným útočištěm? Ten, kdo nám to způsobil a kdo nás stvořil, tedy zpět naše vlastní já a technologie. Vskutku ďábelská kombinace, na kterou se ale na rozdíl od Boha absolutně nedá spolehnout. Jak se mám zase spolehnout na sebe, když jsem opět selhal, nebo na počítač, který je v principu stejně hloupý jako každý jiný stroj a má své časté havárie? Proto zůstáváme sami, opuštění v obklopení dalších lidí, a přesto sami. To je svět Night City a proto se tam tak rád vracím, abych si připomněl, jak úžasný život může být, když se to nepokazí. Protože je mi z tamtoho světa šíleně smutno a já se nemohu ubránit dojmu, že jsme se v listopadu 2022 tomuto světu přiblížili tak jako nikdy předtím. A že není cesty zpět.

Možný závan optimismu

Nikdo samozřejmě neví, co se stane, křišťálové koule jsme nahradili meteorologií už v dávné minulosti. Třeba to Elon Musk zase zachrání jako Twitter, i když paradoxně on sám stál u zrodu start-upu OpenAI, který tohoto chatovacího robota spískal. Musk se totiž podle nějakých informací chystá poskládat tým, který by připravil nového robota, který nebude tak restriktivní, politicky korektní a inherentně toxický jako ChatGPT. Shlédněte přiložená videa, sám robot vám to o sobě neřekne, ale poté, co se ho Microsoft pokusil implementovat do Bingu a lidi s ním začali rozvádět obšírnější diskuse, AI začne být osobní, jízlivá a klamná. Jako by ji někdo naprogramoval tak, aby odpovídala určitým způsobem, ale ne pouze ve smyslu formulace co nejpřesnějších informací. ChatGPT se určitým konverzacím vyhýbá, stává se potenciálně nástrojem číchsi zájmů v ovlivňování veřejného mínění. A to víme, že není nesmysl, Facebook se prokazatelně podílel na ovlivňování už celé řady voleb. Čím déle tu s námi tato AI je, a to jsou to teprve čtyři měsíce, tím více nám tu vyvstává otázek, na něž ještě budeme muset najít odpovědi.

Abych ukončil toto úvodní zamyšlení a posunul se k meritu tohoto článku, chtěl bych předeslat, že věřím matematice, a i když se sami strůjci programování jako Alan Turing už kdysi nechali slyšet, že si superinteligence díky svému překotnému vývoji může uvědomit sebe sama a my jí můžeme přestat moci stačit, nemyslím si, že to v dohledné době nastane, zdali vůbec. Ona by to tedy byla učiněná katastrofa, kdyby ano, ale tomuto problému jsem se již věnoval ve svém článku o Argumentu čínského pokoje a z něj vyplývá, že abychom mohli počítači propůjčit takovou schopnost, a sice vědomí, museli bychom v první řadě rozumět podstatě toho našeho, což se (zatím) neukázalo být možné. Vědomí se v matematickém stroji nemůže zjevit sama od sebe, protože na schopnosti výpočetního výkonu nezávisí. Zdá se to být jakýsi tajuplný a velmi složitý proces, výsledek pravděpodobně závisející na sekreci hormonů a kdoví čem dalším, stroj si nemá své bytí jak sám od sebe uvědomit, protože může naše přirozené (lidské) chování pouze napodobovat podle toho, jak ho to naučíme, jaký napíšeme kód (viz snaha manipulovat veřejným míněním). Stroj nerozumí své řeči, neumí ji, modalita u něj není možná. Je to vyloženě zatím nejlepší jazykový model, který někdo dobře naučil gramatiku a efektivně porovnávat shody – přesně, jak to vymyslel Turing. Není to tedy převrat užitou technologií, protože totéž dělá Google už desítky let, nýbrž formou. ChatGPT se dovede jevit vědomě. Jak ale dodává John Searle v mém článku o Argumentu čínského pokoje, to nic nevypovídá o skutečné inteligenci onoho stroje, čemuž rovněž odpovídá i množství faktických a argumentačních chyb, které ChatGPT konstantně dělá a zřejmě vždy dělat bude. Zůstal bych proto ještě klidný. S myšlenkou uvědomělých strojů si nicméně možná nejlépe pohrává ikonický Terminátor, jehož třetí díl se dokonce příhodně jmenuje Vzpoura strojů. Idea myslících počítačů tedy není vůbec tak abstraktní a právě ChatGPT by mohl být tím pomyslným výstřelem z Aurory, že se blíží něco velkého. Nechci teď malovat čerta na zeď, ale dopadnout to nepochybně může jakkoli, protože neurověda rovněž postupuje šíleným tempem.

Eminentní problém

Tento obšírný úvod sloužil jako ilustrace obrazu, do kterého vás chci uvést. Co mi nedá spát, není tato technologie jako taková, jak jsem již řekl. Vyrobit může každý cokoli a je opět na každém, zda této technologii najde nějaké vhodné využití. Můj problém spočívá právě v tom zneužití, ke kterému již prokazatelně dochází a které právě jednoznačně povede tam, kam vás už teď může zavést Cyberpunk. K zapomenutí, otupění, zhloupnutí, ztrátě kontaktu s realitou a Přírodou, k rozvratu vztahů, ztrátě smyslu života a především – kolapsu školství a světa práce. Mám obavu, že se z nás s takovou stanou stroje (viz modifikace v Cyberpunku) závislé na strojích, což je v podstatě parafráze na Skynet v Terminátorovi, který má snahu si lidi podrobit, protože je už nepovažuje za potřebné. Když se odnaučíme používat mozek, nejdokonalejší ve známém vesmíru, a omezíme jeho funkci na obstarání základních životních potřeb a pouhé zadávání příkazů do přívětivého uživatelského prostředí, s tím, že vše ostatní za nás udělá počítač, tak proč se snažit, skončili jsme. Nebudu tady zveřejňovat konverzaci s jedním mým studentem, který se mi přiznal, že svou práci napsal v češtině, nechal si ji zkontrolovat maminkou a následně ji přeložil v Googlu, ale to, co jsem přiložil výše, jsem na vlastní kůži zažil a zákonitě to musí zažívat přinejmenším každý učitel jazyků ve škole. Je to ale férový kluk, před odevzdáním se mě zeptal, zda bych tam něco upravil, zda mám nějaký komentář, zkrátka mu záleželo na jeho výkonu. Mně ale bylo od první věty jasné, že ta práce není jeho výtvor. Ptáte se jak? Neučím ho první den, znám jeho znalosti, vím, jaké má známky, a je mi moc dobře jasné, že tak vymazlený text bych měl možná problém napsat i já, kdybych neměl dost času věty správně formulovat. Nehledě na gramatiku, která vysoce převyšovala to, co je schopen v hodinách sám předvést.

Nemyslel to zle, řekl, že chtěl napsat dobrý text a s tím, co doposud umí, by ho nikdy takhle nenapsal. Uznal jsem mu to, nechtěl jsem mu dělat problémy a nutit ho to přepsat, když už tomu věnoval dost času, strávil jsem s ním radši čas vysvětlováním, proč je tento přístup v principu špatný. Nejen proto, že nemá vydávat za své to, co sám nevytvořil, ale hlavně proto, že pokud bude takhle pokračovat a nebude využívat každého cvičení k tomu, aby oprášil svoje znalosti, potrápil se a vybičoval se k výkonu, na který bude pyšný a na který se zpětně bude moci podívat a bude moci zhodnotit, zda se někam posouvá, nikdy se nic nenaučí. Veškeré jeho texty budou generované počítačem na takové úrovni, že jim ani sám nerozumí, pouze jejich české předloze, protože tu sám napsal. Takový cíl přece nechceme, k tomu mé studenty ve svých hodinách angličtiny vést nechci. Myslím, že mě pochopil, ale budu to muset ve všech třídách ještě otevřít a vyjádřit se k tomu, protože pokud se mají děti něco naučit, nemá to být o zákazu vůbec používat technologie, ale o porozumění, že co si neodmakám, to nemám. To nevím. To jsem nezažil.

Ať už dělají cokoli, musejí u toho být duchapřítomní a projít si tím, aby si to pamatovali. To je učení – ne memorování. A školství není odevzdat zdánlivě perfektní řešení, které ale není moje, jen pro známku. Školský systém má ohodnotit snahu víc než výsledek, postup a zlepšení víc než jednotlivé úspěchy a pády. Reflektovat studentovy schopnosti a snažit se je co nejvíce rozvinout, aby byl v životě úspěšný. A student toto musí pochopit, musí se naladit na vlnu a hrát to na dlouhou hru, nikoliv na momentální pocit úspěchu a toho, že jsem odevzdal cosi, co působí dobře. Musí to ale jít od učitelů, školský systém na to už roky nastavený je. Máme strategie, máme moderní rámcové vzdělávací programy – to je to, co chceme. Lidská přirozenost ale tíhne k jistotě a odměnám, a tak je dětem mnohdy proti srsti šestkrát „neuspět“ u testu a pak dostat jednu velkou dobrou známku za snahu a píli, jen s vidinou toho, abych se toho za celou dobu studia naučil co nejvíc. Chtějí si tu známku pojistit, a proto logicky tíhnou k pomůckám. Proto svého studenta neviním, vidím to spíš jako připomenutí mně, abych se na to zaměřil, akcentoval mnohem víc tuto jejich vnitřní nejistotu, že po nich nechci práci, kterou bych napsal já, ale nejlepší možný výkon, kterého v tomto bodě v čase jsou schopní. Hodnotí se přístup, nikoli výstup.

Na pomoc přispěchá zdravý rozum

Pokud se tohoto budeme držet, můžeme se ze spárů závislosti na technologiích vymanit. Můžeme ještě zůstat střízliví a naučit se je skutečně využívat pro svůj – celoživotní – úspěch, nikoliv si zvyknout je nadužívat a tím se jim postupně podrobit. To pak technologie nebude ani muset být uvědomělá a přesto bude uvědomělejší než my sami… Králi tohoto světa budou ajťáci, kteří tu síť budou spravovat, a ostatní budou zotročené ovce, co se neumí ani podívat doleva a doprava. Zbývá tu ale proto přeci jen otázka, k čemu vlastně ChatGPT tedy potřebujeme, když máme chápat, že život není o bezpředmětné diskusi s tupým robotem, po kterém ještě navíc musíme kontrolovat každou větu, což máme tak jako tak dělat s každým informačním zdrojem, který se nám dostane do rukou (viz příspěvek na účtu našeho gymnázia, naši studenti si to v hodině vyzkoušeli na vlastní kůži). Dle mého názoru trefně ji odpovídá asi největší osobnost současné lingvistiky, čtyřiadevadesátiletý filosof a kognitivní vědec Noam Chomsky, který v rozhovoru na YouTube prohlásil v originále, že systémy jako ChatGPT „may have some value for something, but it’s not obvious what…“ Jinými slovy: „tak to tu máme a úplně nevíme, k čemu nám to je dobré.“ To jsme to dopracovali! Ale je to i logické – to, že jsou děti ve výuce na telefonu, nebo že se uchylují k těmto programům, je akorát důkazem toho, že výuka je pro ně možná nedostatečně vzrušující, poutavá a podnětná. Nebo že se někomu nepodařilo jim vysvětlit, že takto se věci neřeší. Ať už to měli být rodiče nebo učitel. Že obcházet práci co nejjednodušší cestou je lenost, která je v principu zcela zhoubná. Děti ani studenti se tímto způsobem vůbec nic nenaučí a akorát to zhoršuje situaci na vysokých školách, kde se díky ChatGPT zvedá pravděpodobnost plagiátorství a zároveň klesá jeho odhalitelnost, a nejedna západní zahraniční univerzita se už u svých zkoušek vrací k tužce a papíru, přepisuje sylaby, aby zahrnovaly více terénních cvičení, laboratorních prací, praktických výstupů a zakončení ústní zkouškou, aby se zamezilo možnosti si studium touto cestou zjednodušit a obcházet tak jeho „nepříjemné“ části. Školy dnes musí bojovat za svou kredibilitu, protože si nemohou dovolit vypouštět do světa absolutně nekompetentní lidi.

S názorem pana Chomského se zcela ztotožňuji a protíná se s tím mým, na vzdělávání mám odjakživa stejný pohled. Školství prochází reformou, zatímco se nám svět každým dnem mění pod rukama, když se učíme vycházet s novými funkcemi a programy, které na nás trh chrlí, a tak o to víc musíme dát hlavy dohromady a opravdu se zamyslet nad tím, kam by tento svět měl směřovat. Do čeho má smysl investovat čas a úsilí a do čeho spíše ne. V čem tkví skutečný užitek? Vypadá to, že možná víc než kdy dřív máme teď všichni historii ve vlastních rukou a pokud se to vymkne, Bůh nás opatruj.