Mágia, veda, technika a AI O architektoch zajtrajšieho boha a ich umelom mesiášovi

Komentátor The New York Times Ross Douthat si v marci 2023 uvedomil, že v posledných týždňoch písal najmä o troch javoch: neidentifikovateľných lietajúcich objektoch na americkej oblohe, nadšení určitých kruhov pre halucinogény, ktoré majú sprostredkovať skúsenosť s nadprirodzenými entitami, a o prudkom nástupe umelej inteligencie.

Hoci sa zdajú ako úplne rozdielne témy, majú spoločný impulz: „Túžba stretnúť alebo vynájsť nejaký druh nie-ľudského vedomia, ktoré by nám mohlo pomôcť urobiť kroky, na ktoré sami nemáme.“

Podľa Douthata je základ tejto túžby starý ako ľudstvo. Cítiť ju v príbehoch o džinoch a golemovi, v snahe o priazeň bohov či víl alebo v alchymistickom remesle, ktoré snúbi vedu s mágiou v spoločnej snahe o ovládnutie prírody.

Aj prví teoretici náboženstva posmelení úspechom svojich prírodovedeckých kolegov to na konci 19. storočia videli podobne. Podľa antropológa Jamesa Frazera bola primitívna mágia v podstate rovnakým počinom o dosiahnutie majstrovstva nad naším svetom ako moderná veda. Len s tým rozdielom, že veda naozaj fungovala.

Ako povedal spisovateľ Arthur C. Clark, autor scenáru k filmu 2001: Vesmírna odysea: „Každá dostatočne pokročilá technológia je na nerozoznanie od mágie.“

Douthat sa však nazdáva, že veda dnes narazila na sovje limity. Éra veľkých objavov, ktorá dávala tušiť svetlú budúcnosť, zostala zakliata v 20. storočí. Podobne ako my podľa súčasného chápania zákonov fyziky zostávame uväznení na našej planéte, prinajlepšom v hraniciach slnečnej sústavy.

Nerudove verše „my bychom vzhůru k nebesům a jsme zde Zemí spjatí“ platia aj po 150 rokoch neustáleho pokroku. A nielen to – hoci sme vďaka vede radikálne zlepšili svoje materiálne zabezpečenie, no hlavné problémy, ktoré trápili ľudstvo od jeho počiatku, nevyriešila. Na konci čoraz dlhšieho života stále čaká smrť, naše spoločnosti majú ďaleko od harmonickej utópie, na svoj denný chlieb si musíme ešte vždy zarobiť prácou a človek zostáva vo svojej podstate problematickým tvorom.

Problém predpovedí o AIUž zajtra nás nahradí spoločnosť robotov, ale vývoj sa spomaľuje a bublina praská

Juraj Valach

Dokonalé šťastie sa stále vznáša míle nad nami. Od čias, keď v rovnako nedosiahnuteľnej výške lietali kondory nad hlavami juhoamerických Indiánov, sa nezmenilo nič. Už jasne cítime, že naša „fungujúca mágia“ má svoje limity.

Ako píše Douthat, keďže veda stratila svoje čaro, obraciame sa inam. No pokusy o použiteľný kontakt s ufónmi sú ako lapať paru do dlane a podobne étericky sa nášmu materialistickému svetonázoru javia aj stretnutia s duchovnými bytosťami, ktoré ponúkajú halucinogény. Nedá sa na to spoľahnúť.

Zatiaľ čo AI funguje. Podobne ako veda na prelome 19. a 20. storočia zrazu dokáže to, čo pre pár rokmi nik nečakal. A rovnako sľubuje, že umožní ešte viac.

Vyvolávanie duchov

Odkedy sa novinár The New York Times Ezra Klein v roku 2018 presťahoval do San Francisca, pravidelne sa stretával s vývojármi umelej inteligencie. Zistil, že celá táto kultúra je veľmi zvláštna: „Vytvárajú silu, ktorej nerozumejú, tempom, ktorému často nemôžu uveriť.“

Prieskum medzi expertmi na AI z roku 2022 zistil, že podľa týchto ľudí je asi desaťpercentná šanca, že nová technológia vyhubí ľudstvo alebo mu aspoň vážne uškodí. Prečo by vôbec niekto chcel pracovať na projekte s takouto hrozivou vyhliadkou, pýta sa Klein.

Vývojárom sa väčšinou veľmi nechce odpovedať, ale keď novinár trochu zatlačí, často dostane odpoveď „akoby z pohľadu AI“. Mnohí podľa neho „cítia, že majú zodpovednosť priviesť na svet túto novú formu inteligencie“.

Sam Altman, šéf OpenAI, ktorá vyvíja ChatGPT, ešte v roku 2017, kým nebol taký známy, napísal kratučký blog. Začína sa tvrdením, že väčšina ľudí zo Silicon Valley v tomto čase tipovala, že to bude niekedy medzi rokmi 2025 a 2027, keď ľudia a stroje splynú alebo umelá inteligencia aspoň nahradí človeka.

AI už vtedy pomáhala dizajnovať ďalšie čipy na vývoj AI. Táto spoluevolúcia, ako to Altman nazval, sa „pravdepodobne nedá zastaviť“. Myslieť si, že nikdy nevytvoríme nič rozumnejšie ako sme my, je podľa neho dôsledkom „ľudskej arogancie a zlyhaním ľudskej predstavivosti“.

Svoju nadradenosť nad zvieratami obhajujeme vyššou inteligenciou. Preto keď nás v nej AI ďaleko predbehne, možno nakoniec usúdi, že rozdiel medzi ľuďmi a šimpanzmi ani nestojí za reč, dumá Altman.

Neurovedec Peter JedličkaMozgová bunka dokáže oveľa viac ako počítačový neurón. Nekontrolovanej umelej inteligencie sa neobávam

Jakub Lipták

Splynutie s technológiou tak má byť najlepším možným scenárom, lebo „ak dva rôzne druhy chcú to isté, no dosiahnuť to môže len jeden – v tomto prípade byť dominantným druhom na planéte a mimo nej –, dôjde ku konfliktu“.

Takže možnosť, že AI nás nakoniec zničí, jej tvorcovia prijímali už dlho predtým, než svet očarili ChatomGPT a jeho súrodencami. Ako novinár Klein poeticky zhŕňa svoj dojem: „Nie sú to naivky, ktoré veria, že ich volanie môžu počuť len anjeli. Veria, že môžu privolať démonov. No aj tak volajú.“

Ale či ide naozaj len o básnickú metaforu, prestáva byť jasné. Pretože v tomto duchu mágie o umelej inteligencii píšu aj jej nadšenci.

Počítačový vedec na Texaskej univerzite Scott Aaronson na zverejnenie chatbotov v roku 2023 reagoval slovami: „Prebudil sa mimozemšťan – a, priznajme, že ide o mimozemšťana, ktorého sme stvorili my sami, golema, skôr stelesneného ducha všetkých slov na internete ako koherentnú bytosť s nezávislými cieľmi.“

Bývalý CEO Googlu Eric Schmidt so spoluautormi v jednej eseji napísal, že AI prináša rozchod s osvietenskou vedou. Jej sme verili, lebo každý replikovateľný experiment sme si mohli overiť. Ale, ako posolstvo jeho textu zhŕňa Douthat, dnes sme „vytvorili inteligenciu, ktorá dokáže poskytovať odpovede podobne ako orákulum (...): prostredníctvom procesov, ktoré sú pre nás neviditeľné, navždy mimo nášho chápania, také komplexné, že ich nemožno odlíšiť od činnosti nadprirodzenej mysle“.

Optimisti

Pracujme chvíľu s hypotézou, že tvorcovia AI zvolávajú anjelov, pretože sa zdá, že viacerí poprední protagonisti tohto vývoja tomu naozaj veria.

Najradikálnejší technooptimisti dlhodobo prichádzajú z radov transhumanistov. Jeden v pravdách viery svojho nového „transnáboženstva“ Terasem píše, že prácou na AI systémoch „tvoríme Boha“. Aj mladá transhumanistka z Oxfordu pre The Guardian tvrdí, že „staviame Boha“.

Ale tento názor sa postupne presúva do mainstreamu.

Spoluzakladateľ technologického magazínu Wired vo svojej knihe What Technology Wants (Čo chce technológia) z roku 2010 napísal, že „viac z Boha vidíme v mobile ako v žabe“. Ostrieľaný expert Googlu a „krstný otec Sillicon Valley“ Ray Kurzweil má v otázke, či Boh existuje, jasno: „Ešte nie.“

Nedávno začali s podobným nadšením hovoriť aj ľudia pri kormidle vývoja.

Sam Altman (OpenAI) v septembri 2024 napísal: „Verím, že budúcnosť je taká svetlá, že pokúsiť sa ju opísať by jej dnes urobilo medvediu službu; charakteristickou črtou veku inteligencie bude obrovská prosperita.“

AI a digitálne súkromieUmelá inteligencia akceleruje všetko. Aj špehovanie

Juraj Valach

Superinteligencia príde hádam rádovo o tisícky dní, možno to potrvá dlhšie, ale Altman je pevne „presvedčený, že sa tam dostaneme“.

CEO AI startupu Anthropic (chatbot Claude) Dario Amodei pred rokom zverejnil rozsiahlu esej s názvom Stroje láskyplnej milosti. Tento zvláštny nadpis si požičal z krátkej básne Richarda Brautigana zo 60. rokov. V nej si autor predstavuje, ako nad nami „všetkými bdejú stroje láskyplnej milosti“, zatiaľ čo sa ľudstvo vrátilo k harmonickej existencii s prírodou, pretože vďaka pokroku techniky už nik nemusí pracovať.

(Báseň silno odporúčam prečítať, je písaná jednoduchou angličtinou a výborne zosobňuje najidealistickejšie predstavy AI optimistov.)

Referencia na toto dielo je priliehavá: Amodei (mimochodom skvelý nomen omen) chce vo svojej eseji ukázať, „ako by mohol vyzerať svet s mocnou umelou inteligenciou, ak by všetko išlo podľa plánu“. Úsvit nového sveta by vraj mohol prísť už v roku 2026:

„Vyliečenie skoro všetkých chorôb, biologická a kognitívna sloboda, (...) koniec chudoby, renesancia liberálnej demokracie a ľudských práv.“ To všetko pod dohľadom strojov láskyplnej milosti. Každý bude prekvapený a mnohí „doslova dojatí k slzám“.

Hoci Amodei nemá jasnú predstavu, kde budú ľudia hľadať prácu a zmysel, keď ich stroje vo všetkom predbehnú, nepovažuje to za zásadný problém: „Väčšina ľudí nie je najlepšia na svete v ničom a zdá sa, že im to nijako zvlášť nevadí. (...) Ľudia tiež veľmi radi vykonávajú činnosti, ktoré nemajú žiadnu ekonomickú hodnotu.“

Čo sa týka problému zamestnania, Amodei skrátka dúfa, že pri dostatočnej snahe sa to nejako vyrieši, i keď dnes ešte nevieme ako.

Zdroj jeho optimizmu sa ukazuje v posledných odsekoch. Všetko podľa neho – aspoň štatisticky – nakoniec vedie k spolupráci a harmónii, pretože tak veci fungujú najlepšie.

Menuje „jednoduché intuície“ ako spravodlivosť, kooperácia, zvedavosť a autonómia, s „ktorými sa ťažko polemizuje“ a ktoré majú na rozdiel od deštruktívnych impulzov tendenciu kumulovať sa. „Ak sa dovedú k logického záveru, vedú nakoniec k právnemu štátu, demokracii a osvietenským hodnotám“, čo AI v podstate len urýchli a posilní.

„Tak či onak,“ znejú posledné slová Amodeiho eseje, „je to záležitosť transcendentnej krásy. Máme možnosť zohrať aspoň malú rolu v jej uskutočňovaní.“

Realisti

Amodeiho firma Anthropic vznikla v roku 2021 odštiepením sa od OpenAI, pretože sa mu nepáčil tamojší prístup k bezpečnosti. Anthropic mal byť pomalšou a zodpovednejšou verziou AI spoločnosti. Ale Amodei dnes hovorí to isté ako Altman.

Môžeme sa pýtať, či sú za tým obrovské investície s nejasným návratom alebo úprimná viera. V každom prípade, ako na svojom substacku zhŕňa Dave Karpf, tam, kde by sme chýbajúce kroky k dosiahnutiu nepredstaviteľného ešte donedávna nahradili slovom mágia, dnes Altman a Amodei kladú pojem superinteligencia. Urobíme to a to, potom mávneme čarovným prútikom a voilà, svetové problémy sú preč.

Ale aby sa táto mágia mohla udiať, sú potrebné konkrétne kroky. Karpf je skeptický, že to, čo navrhujú predáci technovývoja, čiže exponenciálne zväčšovanie modelov (škálovanie), prinesie úspech. A aj keby prinieslo, cestou treba vyriešiť zásadné prekážky v podobe nedostatku čipov a energie.

Nemali by nás formovať strojePozor na katolícku umelú inteligenciu

Lily M. Abadal

Optimisti tvrdia, že i to za nás vyrieši umelá inteligencia lepšími dizajnami čipov a prielomom v studenej fúzii (hypotetická jadrová reakcia, ktorá by mala vyriešiť energetické problémy ľudstva) – len ju treba naďalej vyvíjať. Zdá sa, že aj mágiu dosiahneme kúzlami.

Aj spomínaný Ross Douthat si myslí, že samotnú inteligenciu možno preceňujeme. Ani keď pred ňu dáme prívlastok „umelá“, nemusí dosiahnuť všetko, čo si od nej sľubujú kremíkoví alchymisti:

„Akoby stačilo len naštartovať superinteligenciu a zrazu bude schopná presvedčiť ľudí, aby urobili čokoľvek, alebo bude vedieť predpovedať budúcnosť. Nie som si istý, či akákoľvek inteligencia môže zájsť tak ďaleko, pokiaľ sa nestane skutočne božskou.“

Karpf naznačuje, že vizionári zo Sillicon Valley sa stali obeťou magického myslenia, pretože superinteligencia je ich jedinou odpoveďou na problémy, ktoré nás dnes trápia: „AGI (všeobecná AI, pozn. red.) musí prísť čoskoro, pretože musí. Musíme sa dostať z tejto kaše a ako inak, ak nie prostredníctvom AGI?“

Obviňuje ich z toho, čo bojovní ateisti zvykli vyčítať kresťanom – že pohľad uprený na (digitálneho) boha vedie k ignorovaniu skutočných katastrof tohto sveta.

Pesimista

Spisovateľ Paul Kingstnorth, technologický pesimista, má vo svojej knihe Against the Machine (Proti Stroju) podkapitolu s názvom Čo ak to nie je metafora? Krátko cituje spomínaných transhumanistov, ktorí veria, že „staviame Boha“, a pýta sa, čo vlastne staviame.

Pomáha si myšlienkami ezoterika Rudolfa Steinera. Tento filozof nadviazal na okultistické hnutia, ktoré vznikli v 19. storočí vo vákuu vytvorenom úpadkom kresťanstva. Okrem toho, že založil waldorfské školstvo, vytvoril aj antropozofiu, náuku kombinujúcu gnózu, mystiku a kresťanstvo.

Steiner na prelome 19. a 20. storočia predvídal, že tretie milénium bude dobou čistého materializmu, ale „táto éra ekonomiky, vedy, rozumu a technológie zároveň pripravovala cestu tomu, čo ju zároveň vyvolalo, vzniku určitej duchovnej bytosti“.

Podľa neho existujú tri nadprirodzené bytosti, ktoré sa v plnosti času zhmotnia, aby pomohli ľudstvu v jeho spirituálnom vývoji. Lucifer v jeho ponímaní pobáda preč od matérie k čisto duchovnej existencii, zoroastriánsky démon Ahriman je opakom, „prejavuje sa vo všetkom fyzickom – hlavne v ľudskej technológii – a jeho svetonázor je vypočítavý, ‚chladný‘ a racionálny“.

Tretí, Kristus, spája podľa Steinera oba extrémy. Do nášho sveta sa vnoril v podobe Ježiša z Nazaretu. Ahrimanov čas príchodu sa ešte nenaplnil, no od 15. storočia jeho moc rastie a už-už klope na dvere.

Skôr než AI zmení svetBublina praskne a veľa ľudí príde o veľa peňazí

Kristína Votrubová

Pravoslávny kresťan Kingsnorth túto teológiu odmieta, ale Ahriman sa mu ako metafora pre náš technologický vek pozdáva:

„Predstavte si, že nejaká bytosť čistej materiality, nejaká bytosť protikladná dobru, nejaká chladná inteligencia z ľadovej sféry sa snaží prejaviť sa tu. Akú formu by na seba zobrala? Isto nie nešikovné ufúľané telo z mäsa a kostí. Ale sieť káblov a kobaltu, miliardu malých kremíkových mozgov.“

Podľa neho je dnešná globálna sieť počítačov telom, pre ktoré vzniká myseľ. Substrátom, na ktorej by sa mohla uchytiť.

Ale ako Steinerov Ahriman ani tento „boh vo výrobe“ nie je neutrálny. Prináša so sebou určitú paradigmu myslenia. Pripútava nás k našej pozemskosti, sľubuje naplnenie transcendentných túžob bez prekročenia hraníc materiálneho sveta.

Kingsnorth spomína počítačového vedca Davida Blacka, ktorý si už v roku 1986 všimol, že hodiny strávené pri počítači mu menia myslenie, ktoré sa stáva „exaktnejším a rafinovanejším“, zatiaľ čo stráca toleranciu voči „nejasnostiam či protichodným názorom“.

Stojí za zmienku, že mnohé duchovné tradície vidia najlepšiu šancu na rozlúštenie hádanky života v tajomstve či (zdanlivom) paradoxe. Zenoví majstri svojich zverencov nechávajú meditovať nad nelogickými koanmi a autor Knihy Jób chce zmieriť Božiu dobrotu s utrpením na svete pomocou príbehu, ktorý nedáva žiadne exaktné odpovede.

Kremíková logika človeka mení. Odpúta ho od nejasnej kvalitatívnej sféry dobra, krásy aj múdrosti, ktorá sa rodí zoči-voči tajomstvu, k chladnej, presne vymeranej oblasti kvantifikovateľných veličín.

Možno je príznačné, že príchod Antikrista sa spája s bytosťou, ktorej meno sa hodí do éry internetových prezývok: Šelma666, alebo krajšie TheBeast666. Teológ Ratzinger v tomto označení videl ešte hlbší zmysel:

„Človeka musí interpretovať počítač, čo je možné iba vtedy, keď sa preloží do čísel. Šelma je číslo a premieňa sa na číslo. Boh však má meno a volá po mene. Je osobou a hľadá osobu.“

Umelá inteligenciaSme blízko Šelme?

P. Benedict Kiely

Kresťan

Všetky tieto reči o budúcich bohoch a nebi, ktoré chceme z výšin stiahnuť na našu zem, nachádzajú svoje ozveny v biblických textoch. Príbeh o babylonskej veži, prvé prikázanie (nebudeš mať iných bohov okrem mňa) alebo, ako sme už naznačili, Apokalypsa.

Všimol si to aj oxfordský matematik a kresťanský apologéta John C. Lennox. Nedávno vydal knihu s názvom Boh, AI a koniec histórie: Ako rozumieť Zjaveniu sv. Jána v ére inteligentných strojov, v ktorej píše, že systémy AI začínajú vykazovať vlastnosti podobné tým, ktoré zvyčajne pripisujeme rôznym božstvám – napríklad „nesmrteľnosť, vševedúcu múdrosť, nadľudskú inteligenciu a všadeprítomné spojenie podobné modlitbe prostredníctvom internetu“.

Antikrist podľa Apokalypsy nepríde zrušiť náboženstvo, ale využiť ho vo svoj prospech. Príťažlivosť AI vďaka jej „magickým schopnostiam“ podľa Lennoxa predstavuje veľké nebezpečenstvo. Keďže vieme, ako dokázali masami manipulovať charizmatickí vodcovia siekt, je možné, že celý „svet bude nakoniec uctievať inteligentný stroj – a stane sa jeho otrokom“.

Nejde len o umelú inteligenciu. Celá technologická mašinéria sa stáva mocným nástrojom, ktorý v niektorých končinách sveta drží v rukách hŕstka vládcov – spomeňme si napríklad na čínske kamery či ruskú internetovú propagandu.

Aj tu existuje paralela s Apokalypsou: „Snáď najdesivejšia vec na tom všetkom je, že kontrola nad svetom nakoniec skončí v rukách jediného ľudského despotu.“ A moderná technológia so svojou schopnosťou sledovať, klamať a manipulovať je prostriedkom, ktorý to umožňuje.

Lennox netvrdí, že našiel kľúč k jednej z najtajomnejších kníh Biblie, len to, kam sa uberá náš svet, sa nápadne podobá na to, pred čím Zjavenie varuje.

Ale napriek svojmu názvu Apokalypsa nie je bezútešná kniha. „Noci už nebude a nebudú potrebovať svetlo lampy ani svetlo slnka,“ píše sa o konci dejín. Preto Lennox môže s transhumanistami vtipkovať:

„Chlapci, rešpektujem to, čo chcete dosiahnuť, ale už je neskoro. Vezmite si svoje dva problémy: prvý, fyzická smrť. Verím, že existujú silné dôkazy, že sa to vyriešilo pred dvadsiatimi storočiami. Druhý, snažíte sa premeniť ľudí na bohov. Kresťanské posolstvo ide presne opačným smerom. Hovorí nám o Bohu, ktorý sa stal človekom.“

Z istého uhla pohľadu sa tak technooptimizmus javí ako kresťanská heréza. Čakáme na spásny príchod umelého mesiáša, ktorý tu a teraz vyrieši všetky problémy, ktorými sa dosiaľ zaoberalo náboženstvo.

Ako vraví Lennox, zatiaľ čo transhumanisti snívajú o tom, ako naše mysle uploadneme na cloud, kresťania veria, že po smrti ich čaká nová realita, „ktorá je pravdepodobne reálnejšia ako táto. A to bude to najväčšie uploadnutie v histórii“.