Čo si o ChatGPT myslí Harari Umelá inteligencia môže zmeniť internet na svet plný ňou vytvorených ilúzií

Na konci roku 2022 internet ovládol fenomén menom ChatGPT. Verejnosť nemala ešte nikdy predtým k dispozícii taký komplexný nástroj na generovanie textu umelou inteligenciou a prudký nárast jeho popularity prirodzene podnietil aj diskusiu o jeho limitoch a nebezpečenstvách, ktoré prináša.

V Postoji sme sa od spustenia tohto programu venovali napríklad zisteniam nemeckých výskumníkov, podľa ktorých sa ChatGPT napriek svojej deklarovanej politickej neutralite nakláňa na ľavú stranu politického spektra. Priniesli sme aj rozsiahly rozhovor s kognitívnym vedcom Martinom Takáčom, ktorého nosnou témou bola práve umelá inteligencia.

Na konci apríla sa umelej inteligencii generujúcej texty venoval aj známy izraelský historik a filozof Juval Noah Harari. Ten vo svojom texte v týždenníku The Economist tvrdí, že ChatGPT a podobné programy predstavujú zlom vo vývoji technológie, pretože sa zameriavajú na tvorbu niečoho, čo sa dá považovať za „operačný systém“ našej civilizácie – verbálnej komunikácie.

Čítajte tiež

ChatGPT a politické názory Umelá inteligencia generujúca texty je naklonená doľava, ukázal výskum

Michal Lukáč

Populárny generátor textu napríklad uviedol, že by legalizoval umelé potraty, vysoko zdanil leteckú dopravu či legislatívne obmedzil zvyšovanie nájmu.

Kto ovláda komunikáciu, ovláda kultúru

Harari argumentuje, že jazykom sa prenáša obrovská časť našej kultúry. Ľudské práva nie sú niečo, čo je vpísané do ľudskej DNA a čo by bolo vedecky dokázateľné, a ani náboženstvá neprežívajú kvôli fyzickým artefaktom. Tieto aspekty nášho života pretrvávajú vďaka tomu, že si ich posúvame ďalej pomocou jazyka.

Podobne podľa neho aj naša ekonomika stojí na súbore príbehov – ľudia veria, že dolár má hodnotu aj vtedy, keď je len digitálnou informáciou uloženou kdesi na počítačoch. Špekulanti ako Sam Bankman-Fried alebo Elizabeth Holmesová spoločnosti neprinášali reálny materiálny zisk, ale boli výborní v rozprávaní pútavých príbehov.

Harari varuje, že keďže má jazyk v našej spoločnosti takú obrovskú úlohu, má ten, kto jeho používanie ovláda, silný vplyv. Spomenul napríklad americkú konšpiračnú teóriu QAnon (o ktorej sme podrobnejšie písali aj v Postoji), ktorej priaznivci netrpezlivo vyčkávali na každý nový kúsok informácií, o ktorých verili, že ich vynáša vysoko postavený predstaviteľ vlády s prístupom k tajným dokumentom.

V roku 2017, keď celý QAnon uzrel svetlo sveta, sme však ešte mali istotu, že kúsky textu píše ľudská bytosť. Pokiaľ by sa to stalo v súčasnosti, vôbec by sme si tým neboli istí. Harari tvrdí, že sa môžeme stať aj svedkami vzniku siekt, ktorých posvätné texty boli vygenerované umelou inteligenciou.

Intimita ako masová zbraň

Na prozaickejšej úrovni by sa umelá inteligencia mohla zapojiť do nekonečných internetových hádok týkajúcich sa kontroverzných spoločenských otázok, akými sú potraty, vojna alebo klimatické zmeny.

Zatiaľ čo ľudská strana by sa naďalej pokúšala presvedčiť svojho oponenta, na druhej strane by stál nerozpoznateľný model na generovanie textu, ktorý by dokonca so svojou neoblomnosťou mohol mať potenciál nás skutočne ovplyvniť.

Ešte nebezpečnejšou zbraňou ako intelektuálne prekáračky, ktorou by generátory textu mohli po svojom ovládnutí používania jazyka podľa Harariho disponovať, je schopnosť nadväzovať vzťahy. Masové generovanie textu sa môže použiť na hromadné emocionálne vydieranie alebo nadväzovanie vzťahov, ktoré sú často oveľa efektívnejšie ako racionálne argumenty.

Sociálne médiá sa už stihli stať bojiskom o našu pozornosť a naše pocity a po nasadení obsahu generovanom umelou inteligenciou by sa tento súboj mohol ešte zhoršiť. Aj bez sociálnych médií by však niektorí ľudia mohli začať k ChatGPT pristupovať ako k vševediacemu starcovi, ku ktorému by si chodili po radu a vysvetlenie zložitých konceptov.

Čítajte tiež

Kognitívny vedec Martin Takáč Ak algoritmy odhalia, ako nami manipulovať, budú to robiť. No dokážeme sa brániť

Jakub Lipták

„Keď budú študenti odovzdávať práce vypracované len četbotom, tak sme ako učitelia zlyhali,“ hovorí vedec Martin Takáč. 

Platónova jaskyňa v skutočnom živote

Harari upozorňuje na zásadný rozdiel medzi umelou inteligenciou schopnou generovať texty a doterajšími technologickými vynálezmi. Zatiaľ čo kníhtlač alebo rádio pomáhali rozširovať myšlienky a obsah, ktorý bol pôvodne ľudský, nové generátory tvoria vlastný obsah.

V posledných desaťročiach sme sa v popkultúrnych dielach často venovali tematike ohrozenia ľudstva umelou inteligenciou, no Harari upozorňuje na to, že strach z toho, čo nám teraz môže hroziť, siaha ešte hlbšie do histórie.

Už v 17. storočí sa filozof René Descartes obával toho, že by ho zlý démon mohol väzniť vo svete ilúzií a tvoriť všetko, čo vidí a počuje. V antickom Grécku Platón vytvoril alegóriu o jaskyni, v ktorej skupina väzňov vidí iba tiene premietané na stenu jaskyne a netuší, že nejde o skutočný svet, ale iba ilúziu.

Čítajte tiež

Technologický pokrok bez regulácie Čo prinesie umelá inteligencia s nadľudskými schopnosťami?

Kristína Votrubová

Príchod pokročilej formy umelej inteligencie spôsobil podobný zlom, akým bol napríklad vynález tlačiarenského stroja.

Harari tvrdí, že umelá inteligencia by mohla vytvoriť podobnú „oponu ilúzií“, o ktorej by sme ani nemuseli vedieť, že existuje. Umelú inteligenciu dokonca pripodobňuje k jadrovej technológii, ktorá jednak dokáže vyrábať lacnú energiu, no aj zničiť civilizáciu. Uvádza, že kvôli nej ľudstvo zmenilo medzinárodný poriadok, aby sa táto technológia využívala predovšetkým na dobré účely.

„Teraz sa musíme popasovať s novou zbraňou hromadného ničenia, ktorá môže zničiť náš mentálny a sociálny svet,“ píše Harari a navrhuje niekoľko riešení, ktoré by podľa neho znížili pravdepodobnosť, že sa pri ľudskej koexistencii s umelou inteligenciou niečo pokazí.

Navrhuje vytvorenie úradu, ktorý by mal na starosti testovanie bezpečnosti a nachádzanie možných krátkodobých a dlhodobých „vedľajších účinkov“ nových technológií na tomto poli. To, ako by mala činnosť takéhoto úradu presne vyzerať, Harari zatiaľ presne neopísal, no ako prvú reguláciu navrhuje zaviesť povinné uvádzanie toho, ak je niektorý text vytvorený umelou inteligenciou.

Nedajú však takéto regulácie náskok diktatúram, ktoré na ne nebudú brať ohľad, pred demokratickými národmi? Harari tvrdí, že nie, pretože neregulovaný vývoj umelej inteligencie by podľa neho spôsobil sociálny chaos bez ohľadu na to, či by išlo o demokracie alebo diktatúry.