AI boom Na prahu „cudzích inteligencií“ naozaj nie sme

Ešte pred boomom generatívnej AI som k nej bol pomerne skeptický. Umelá inteligencia je nástroj, nie bytosť, a budúcnosť s ňou bude menej dramatická a viac prozaická, myslel som si.

Svet zakrátko zachvátila AI horúčka, médiá písali o páde ekonomiky a univerzálnom príjme, AI bezpečáci hovorili o vyhubení ľudstva, youtuberi sa nadchýnali, že toto je len začiatok.

Aký naivný som bol – vraj budúcnosť príde a ani si to zvlášť nevšimneme, išlo mi hlavou, keď som čítal varovnú predpoveď AI 2027 o exponenciálnom raste superinteligencie, ktorá nahradí a vzápätí vyhubí všetkých ľudí.

Doba bola plodná. Toto je tá nová realita, ktorá prichádza, zdalo sa. Dívam sa jej do očí, keď žiadam ChatGPT, aby mi napísal rap battle medzi čiernou a červou dierou, aj keď pozerám Youtube shorts Elona Muska zvestujúce skorý nástup singularity. Všetko sa mení, nezostane kameň na kameni.

Ale potom prišlo čosi, čo poznáme z filmov. Postava so slzami v očiach očakáva katastrofu, bomba má vybuchnúť, posledné zbohom blízkym a – nič. Na ciferníku bliká stále to isté číslo, ktosi bombu zneškodnil alebo v skutočnosti vôbec nebola. Koniec sveta mal visieť na vlásku a svet pritom bežal rovnako hladko ako storočia predtým.

Čo ak nová doba prichádza len na papieri? Čo ak som mal pravdu a nič alarmujúce sa nedeje?

Problém predpovedí o AIUž zajtra nás nahradí spoločnosť robotov, ale vývoj sa spomaľuje a bublina praská

Juraj Valach

Očakávania

Aby sme si rozumeli, nepohrávam sa s myšlienkou, že AI bublina praskne ako balónik a stratí sa nám z očí rovnako rýchlo, ako prišla. Zostane s nami, rovnako ako s nami zostal internet po spľasnutí dot-com bubliny.

Ale ako keď prišiel internet – človek je stále človekom, stále tvorí, pracuje, stále je v centre vesmíru. Prišla nová technológia, osvojili sme si ju, zvykli si, nik ju už nepokladá za nič mimoriadne.

Internet za sebou zanechal finančnú spúšť, no nakoniec mnohé z očakávaní naplnil (všemožná digitalizácia, rast digitálnych platforiem, e-komercia atď.), hoci s oneskorením.

Éra AI fanatizmu je iná. Možno to nebude ekonomická bublina, ale bublina očakávaní. Tieto očakávania sú oveľa väčšie a oveľa širšie, než boli očakávania od internetu.

Týkajú sa antropológie, metafyziky, okrem praktického a ekonomického majú doslova spirituálny rozmer. Podobne ako náboženstvo hovoria o eschatológii: AI prinesie buď raj na Zem, alebo apokalypsu, v každom prípade koniec ľudských dejín, ako ich poznáme.

Akoby AI nebola ľudsky vytvoreným nástrojom ako kladivo, ale druhým príchodom vedomia na modrú planétu.

Keď nedávno organizácia Metr, ktorá meria schopnosti AI modelov, vydala nový graf, v ktorom krivka išla nahor, prišlo to zas. 

Časový horizont softvérových úloh, ktoré rôzne veľké jazykové modely dokážu splniť s aspoň 50-percentnou úspešnosťou. Zdroj: metr.org

„Výkon umelej inteligencie sa v súčasnosti zdvojnásobuje každých 103 dní. Zhltne všetko. Nič sa tomu nevyhne. Stojíme na prahu skutočne ergodických cudzích inteligencií, v ktorých bude ľudský vklad len prekážkou,“ prehnane tweetoval jeden používateľ. Inými slovami, ľudia môžu baliť kufre, evolúcia inteligencie ich zvalcuje.

Graf ukazoval, aké náročné úlohy dokáže novší a novší model zvládnuť s aspoň 50-percentnou úspešnosťou. Na x-ovej osi je priemerný čas, koľko konkrétna IT úloha zobrala človeku (napríklad opraviť chyby v malej knižnici programovacieho jazyka Python – cca jedna hodina), na osi y rok vydania modelu.

Metr tak nameral rastúcu schopnosť modelov zvládnuť čoraz ťažší, ale špecifický typ úloh s aspoň polovičnou úspešnosťou. Nie všeobecnú inteligenciu, nie nahradenie človeka, ale hypotetickú efektívnosť nástroja v konkrétnej oblasti.

Už však žijeme v určitom naratíve o AI s nafúknutými očakávaniami, takže bombastické závery komentátorov sú len prirodzené.

Nechcem ani argumentovať v prospech toho, že tieto očakávania sú mimo (hoci tomu verím). Len sa zamyslieť, čo by znamenalo, keby naozaj boli mimo. Pretože práve z presvedčenia, že sa čosi naozaj podstatné mení, sa dnes robí veľa. Ale čo ak sa nič nedeje, hoci sa tvárime, že sa toho deje veľa?

Big Tech a božský komplex

Medzi najhodnotnejšie firmy na svete patria aj tie z oblasti energetiky, farmácie či maloobchodu, no rebríčku dominujú technologické a AI infraštruktúrne firmy.

Tieto firmy si medzi sebou prelievajú miliardy, čoskoro to vraj bude bilión, o ich produkte hovorí celý svet, akoby to bol ak nie jediný, tak aspoň výrazne najdôležitejší trend. Stoja na vrchole globálnej spoločnosti, hýbu našou prítomnosťou a budúcnosťou.

A niektoré z nich vedú fakt divní týpkovia. S divnými ťahmi.

Zakladateľ Facebooku Mark Zuckerberg bol ešte nedávno „najväčším fanúšikom virtuálnej reality“. V metaverzum veril až tak, že po ňom premenoval vlastnú firmu. Virtuálna realita mala byť budúcnosťou všetkého.

Reality Labs, ktoré majú metaverzum na starosti spolu s hardvérom (VR headsety, AI okuliare), od roku 2020 k dnešnému dňu stratili 80 miliárd dolárov. Ako píše Wall Street Journal, „vlajkový produkt s názvom Horizon Worlds si u používateľov nedokázal získať obľubu. Mal menej ako 200-tisíc aktívnych používateľov mesačne a väčšinu takzvaných ‚svetov‘ nikto nikdy nenavštívil“.

A tak prepustili desať percent zamestnancov z tohto oddelenia a oznámili, že cez VR headsety sa už nebude dať pripojiť do virtuálnych svetov, čo nakoniec zmiernili: niektoré VR apky bude podporovať, ale nové už nepribudnú.

Metaverzum ako budúcnosť technológie je mŕtve. Ale to nevadí, lebo tu máme umelú inteligenciu. A Zuckerberg je dnes jej najväčším fanúšikom. Meta do nej tento rok investuje 145 miliárd dolárov.

Zuck si aj stavia vlastného AI agenta, ktorý mu má pomáhať v jeho práci šéfa. „Digitálny klon, ktorý je trénovaný tak, aby napodobňoval jeho myšlienky, tón hlasu a gestá, má zamestnancom pomôcť cítiť sa ako súčasť tímu,“ zhŕňa The Guardian. Wall Street Journal píše, že celá Meta transformuje svoj workflow tak, aby čo najviac využívali AI.

Nová štúdia v časopise SciencePoužívanie AI je na univerzitách veľmi rozšírené, učitelia budú musieť siahnuť po iných metódach hodnotenia

Michal Lukáč

Ale byť AI-first firmou nie je len tak. Zuckerberg dnes svojim zamestnancom v USA robí to isté, čo už roky robil používateľom – sleduje obrazovky ich počítačov, pohyby myšou a stlačenia klávesov, dáta ukladá a trénuje na nich umelú inteligenciu. Predtým sme všetci mali žiť vo virtuálnej realite, dnes máme všetci mať AI agentov.

Neúspešné metaverzum vyzeralo ako kríženec Teletubbies s Minecraftom, z ktorých niekto vysal všetku fantáziu, ale Zuckerbergovi sa k skutočnému Matrixu nakoniec podarilo dostať celkom blízko novou firemnou politikou.

Vo filmovom Matrixe stroje zotročili ľudí a žmýkali z nich energiu. V Zuckerbergovej spoločnosti vedenie vysáva zo svojich zamestnancov dáta a sýti nimi stroj.

Čo ak aj AI je čosi podobné ako metaverzum, ďalší veľký počin, ktorý spáli miliardy a narazí? Čo ak došli nápady a skutočné vízie a ich nedostatok sa prekrýva aktuálnym hajpom? (Neviem ako vy, ale ja mám pocit, že Facebook, Messenger a ďalšie produkty Mety sú čoraz nepoužiteľnejšie.)

Čo ak je naša elita taká odtrhnutá od reality, taká krátkozraká, že ochotne naletí svojej vlastnej fantázii, na čo následne doplatia státisíce bežných ľudí?

Začiatkom mája na to poukázal Jenses Huang, CEO Nvidie, ktorá sa vďaka AI ošiaľu stala najhodnotnejšou firmou na svete. Sťažoval sa, že strašenie o AI apokalypse v IT sektore môže vyjsť Ameriku draho: „Keby sme presvedčili čerstvých absolventov vysokých škôl, aby sa nestali softvérovými inžiniermi, a ukázalo by sa, že Spojené štáty potrebujú viac softvérových inžinierov ako kedykoľvek predtým, bolo by to zlé.“

Strašenie koncom sveta či zánikom 50 percent pracovných pozícií považuje za „smiešne“. Tieto tvrdenia „pochádzajú od ľudí ako ja, CEO, a tým, že sa stali CEO, akosi nadobudli pocit, že sú bohovia, a skôr než sa nazdáte, zrazu vedia všetko“.

Božský komplex elity. Nie je to nič nové pod slnkom.

Médiá

Novinári by mali vysvetľovať, ale koľkí z nás technicky nevzdelaných, ktorí správy o AI berieme z médií, naozaj rozumieme, čo je LLM zač? Zato sa však dozvedáme, že je možno vedomý, že možno vie cielene vydierať, že zvalí ekonomiku, ukradne nám prácu atď.

Toto kritizuje aj počítačový vedec Cal Newport. Tvrdí, že médiá často robili „vibe reporting“ (informovanie založené na pocitoch). Funguje to tak, že „identifikujú alarmujúci a príťažlivý strach z AI, ktorý, zdá sa, prevláda v súčasnom kultúrnom zeitgeiste, a následne vytvoria príbeh, ktorý tento naratív podporuje“.

Podľa Newporta zbytočne zveličujú či nepresne opisujú, čo boti robia, vyvolávajú u čitateľov pocit „digitálneho fuj“, čiže emočné rozhodenie z novej technológie. Každý nový update obyčajne sprevádza „falošný úžas“. Keď vyjde nová verzia LLM alebo nový AI nástroj, objavujú sa správy, že všetko sa mení, že to je revolučná technológia a podobne.

Spomeňme si na Claude Mythos, pretože jeho verejný obraz vznikol kombináciou týchto novinárskych hriechov. Podľa Anthropicu vedel príliš dobre vyhľadávať zraniteľnosti v kóde, až tak, že ho nevypustili na verejnosť. Založili Project Glasswing a niekoľkým desiatkam firiem umožnili prístup.

Bol z toho nesmierny poprask. Slová „Claude Mythos“ na Youtube vyhodia videá s titulkami „fakt strašidelný“, „boh v krabici“ či „prečo je to tentoraz iné“.

Thomas Friedman v komentári pre New York Times napísal, že nevypustenie Mythosu na verejnosť možno bude pre budúcich historikov dôležitejšou udalosťou ako americko-iránska vojna. Nový LLM v nezodpovedných rukách by vraj mohol povaliť akúkoľvek veľkú infraštruktúru, napríklad elektrickú sieť.

AI výskumník Devansh píše, že zatiaľ čo „Mythos v sebe skrýva skutočne sľubný potenciál“ a „chyby v softvéri, ktoré odhalil, sú reálne“, „problémom je všetko okolo toho. Takmer všetky významné médiá či komentátori, ktorí sa venovali Mythosu, vychádzali z tlačových materiálov Anthropicu, a nie zo skutočných primárnych zdrojov“.

Napríklad to, ako Mythos našiel 17 rokov starú chybu v systéme FreeBSD, „svedčí o výraznom ľudskom vplyve, nie o autonómii“. Hľadanie „tých 181 zraniteľností prehliadača Firefox prebiehalo s vypnutým sandboxom prehliadača (áno, tej funkcie, ktorá zabraňuje zneužitiu prehliadača)“. Chybu v jadre Linuxu objavil „verejný model Opus 4.6, nie Mythos“.

Mimochodom, netrvalo dlho a k Mythosu, mimoriadne nebezpečnej AI, sa celkom jednoducho dostali neoprávnení používatelia. Čuduj sa svete, svet sa nezrútil.

Prečo médiá neinformujú presnejšie? Jednou odpoveďou je večný problém, že informujú (informujeme) o niečom, čomu sami dobre nerozumieme. Ale nielen to.

Správy o AI podľa Newporta síce často nie sú fakticky správne, no mieria správnym smerom. Novinár si povie, možno teraz AI neberie prácu juniorom, ale v budúcnosti sa to asi stane, preto by sa ľudia mali obávať a pripraviť. A tak napíše článok/urobí video/podcast, z ktorého ide pocit, ako keby sa to už dialo.

Úlohou AI komentátora je teda ovplyvňovať, „ako ľudia vnímajú situáciu a konajú, a nie nevyhnutne snažiť sa zistiť, čo sa skutočne deje. Ale to je problém, nie? Lebo čo sa stane, keď sa prikloníte k tomu, čo sa javí ako pravda, čo sedí s atmosférou okolo, namiesto toho, aby ste sa skutočne snažili zistiť, čo je pravda?“

Čo nové s AISokratovské promptovanie alebo Práca s AI je umením vhodne položenej otázky

Lukáš Krivošík

Postupne to vedie k dvom veciam: k rozpadu dôvery verejnosti v médiá a nekontrolovanej moci technologických spoločností. Ak nik poriadne nestráži pravdivosť bombastických vyhlásení AI firiem, môžu kontrolovať naratív tak, ako sa im práve hodí. Niekto v AI biznise hodí návnadu, médiá ju zhltnú, požujú a vypustia von. 

Ale ak sa nič také revolučné nedeje, načo bolo to strašenie a vyvolávanie úzkosti? Neplatené PR pre technologické firmy.

No dobre, v dnešnej pokovidovej tribalistickej dezilúzii z inštitúcií má od médií už len málokto veľké očakávania. Ale čo ten fatalizmus?

Netýka sa to len médií, podobný postoj majú aj mnohí obyčajní ľudia masírovaní mediálnymi predpoveďami. „Veď aj tak nás AI do pár rokov nahradí,“ počul som v posledných rokoch mnohokrát. Väčšinou to bolo myslené akože žart, ale v skutočnosti vážne, rezignovane.

Sme odovzdaní, lebo máme pocit, že voči systému, v tomto prípade multibiliónovému IT priemyslu, sme bezmocní, aj keď tu je vážna hrozba? Alebo že nie je za čo bojovať? Alebo veríme, že nakoniec sa všetko obráti na dobré?

Používatelia

Ale my dole, utlačení systémom, zároveň chceme byť mimoriadni. Vo februári vyšiel výskum, ktorý tvrdí, že čím viac ľudia používajú AI, tým viac preceňujú vlastné schopnosti.

V niektorých prípadoch (nie v tejto štúdií) to došlo až tak ďaleko, že používateľ (pravdepodobne mentálne nestabilný) upadol do úplného klamu, napríklad že objavil prelomovú matematickú formulu.

Jedným problémom je, že s technológiou antropomorfne diskutujeme. Ako navrhujú Ed Zitron a Cal Newport, skúsme si predstaviť sci-fi seriál Star Trek v súčasných reáliách.

Sme na vesmírnej lodi Enterprise, jej veliteľ Jean-Luc palubnému počítaču, ktorý počúva slovné príkazy, povie, aby zmenil kurz.

Počítač odvetí: „To je skvelý nápad, Jean-Luc, naozaj super, ďakujem, poďme teda zmeniť kurz!“

V skutočnom seriáli počítač príkaz vykonal a potvrdil, žiadna konverzačná vata navyše.

Popri používaní chatbota ako technológie nám slúži ako náhrada sociálnych interakcií, ktoré by sme mali mať s ľuďmi, napríklad zhodnotenie príčetnosti našich myšlienok či riešenie životných kríz. Ľudskosť outsourcujeme stroju.

Technológia nám navyše dáva pocit, že to nie je o nás, že sa môžeme oddeliť, vytrhnúť, oddialiť. Že sa nemusíme integrovať s druhými ľuďmi a zostane to všetko rovnako dobré. Niečo za nás urobí prácu a nič sa nezmení, nič nestratíme.

Možno tomu ľahko naletíme, lebo chceme naletieť. A naletíme aj preto, že chatbot je naším tieňom. Skladá vety z našich viet, obrázky z našich obrazov. Je zrkadlom internetu, ktorý je odtlačkom ľudskej aktivity, a hovorí nám väčšinou to, čo chceme počuť.

V AI firmách si všimli, že ľuďom je príjemnejšie, keď s nimi chatbot súhlasí, keď sa trochu podlizuje. Keďže chcú, aby ju ľudia využívali čo najviac a najradšej, snažia sa vyhovieť.

Ale tým je to opäť len entita vztiahnutá k človeku, nie niečo, čo by ho prekračovalo.

Človek zostáva v strede vesmíru, v strede dejín, aj so všetkým nepekným, čo k nemu patrí. V tomto sa nezmenilo a ani nezmení naozaj nič.