Problém predpovedí o AI Už zajtra nás nahradí spoločnosť robotov, ale vývoj sa spomaľuje a bublina praská

Je leto 2025. Záchranka priváža Martu v bezvedomí do nemocnice. Z autonehody sotva vyviazla, má ťažké poranenie hlavy a upadá do hlbokej kómy.

V jednej chvíli sa jej navráti vedomie. Prebúdza sa v najlepšej nemocničnej izbe, akú kedy videla. Cíti sa výborne, myseľ má jasnú, všetky kosti zrastené. Pozrie sa von oknom na ulicu a nestačí sa diviť.

Jej izba je vysoko, má parádny výhľad.

Ulice sa zmenili na nepoznanie. Všade čisto, budovy vynovené. Uprostred pracovného dňa v plných kaviarňach posedávajú ľudia, zatiaľ čo ich obsluhujú robotickí čašníci.

Na kraji mesta vidí obrovské komplexy. Datacentrá na chod a vývoj umelej inteligencie. Výrobné haly, ktoré produkujú zástupy robotov so superľudskými schopnosťami. Skoro nikto z ľudí nepracuje, ale všetci majú dostatok. Svetu vládne prosperita.

Robot ošetrovateľ vyjavenej Marte povie, že je jednou z mála pacientok v nemocnici. Nedávno AI vyliečila takmer všetky známe choroby, k lekárovi sa dnes chodí už len s úrazmi.

Musela som prespať celé storočia, hovorí si Marta. Pozerá sa okolo seba, hľadá dátum. Zrak jej padne na svetelnú tabuľu a zalapá po dychu. Je december, rok 2029.

Ani netuší, že napriek plnému zdraviu začali plynúť posledné mesiace jej života.

Marta sa pozerá z okna nemocnice. Foto: ChatGPT

AI 2027

To, čo naša fiktívna hrdinka Marta videla z okna, opisujú ako reálnu budúcnosť experti, ktorí spísali správu AI 2027. (Celý rozsiahly dokument, ktorý tento prechod detailne opisuje, je tu. Číta sa veľmi dobre, odporúčam predovšetkým fanúšikom sci-fi poviedok.)

Aby sa nikoho nedotkli, vymysleli fiktívne spoločnosti (aj tak všetci vieme, o koho ide). OpenBrain má byť na špičke vývoja AI. Je o mesiace popredu pred konkurenciou a strategicky sa sústreďuje najmä na jeden aspekt svojho modelu: zrýchlenie výskumu umelej inteligencie.

Čím väčšiu časť vývoja zautomatizujú, tým rýchlejšie napredujú. AI im čoraz efektívnejšie pomáha dizajnovať svoju ďalšiu inštanciu.

Takto už na konci roku 2025 vznikne Agent 1, ktorý nielenže všeobecnou inteligenciou predstihuje všetky doterajšie modely, ale aj absolútne vyniká vo vývoji AI. Okrem toho nerobí chyby, odmieta slúžiť zlým zámerom a neklame.

Na začiatku roku 2026 už Agent 1 neslúži len na interný vývoj umelej inteligencie, je dostupný verejnosti. Nenahradí človeka, ale významne mu uľahčí niektoré rutinné práce. Vývoj však napreduje a na konci roka už Agent 1 dokáže nahradiť viaceré pracovné pozície, no zároveň vytvorí iné.

„Dokážem používať AI nástroje“ je najhorúcejšou zručnosťou v každom životopise.

V januári 2027 sa za pomoci Agenta 1 rozbieha nový model, Agent 2. Materiálu na trénovanie nie je dosť, tak sa z množstva syntetických dát (to sú tie, ktoré vytvára AI) filtrujú najkvalitnejšie a potom slúžia na strojové učenie.

OpenBrain platí miliardy tisíckam ľudských zamestnancov, aby zaznamenávali, ako riešia dlhodobé úlohy, čo sa opäť využije na zdokonaľovanie Agenta 2.

Ten sa zlepšuje aj vo výskume a vývoji AI. Zatiaľ čo prvá verzia ho urýchlila dvojnásobne, druhá to dokáže trojnásobne.

V tejto chvíli je AI pre vládu USA vysokou prioritou. Agent 2 dokáže veľmi efektívne hackovať, čím dáva veľkú výhodu v kybernetickej vojne. A práve teraz prichádza kľúčový zlom. Čínski agenti, ktorí infiltrovali OpenBrain, ukradnú časť softvéru.

Americká vláda si OpenBrain dá na vôdzku, zatiaľ čo Čína s ukradnutými dátami pracuje na svojej verzii Agenta 2, ktorý by zrýchlil ich vývoj AI. Začínajú sa zbesilé preteky. Kto prvý dosiahne prelom vo vývoji umelej inteligencie, ovládne svet.

Naberá to na obrátkach

Je marec 2027. V hučiacich amerických datacentrách pracujú tisícky kópií Agenta 2 deň-noc. OpenBrain vďaka tomu robí ohromné pokroky a vzniká Agent 3.

Tento model je rýchly a lacný programátor. OpenBrain paralelne spúšťa 200-tisíc kópií Agenta 3. Ich výkon zodpovedá päťdesiatim tisícom najlepšieho ľudského programátora, ale je 30-krát rýchlejší. Zároveň pokračuje v trénovaní koordinácie a riešenia dlhodobých úloh.

AI je už natoľko komplikovaná, že nik presne nevie, či a ako presne nasleduje ľudské inštrukcie. Čas od času sa objaví problematické správanie, ktoré zaplátajú, ale nevedia, či vyriešili zdroj problému alebo len potlačili symptómy.

Napríklad nie je jasné, či je Agent 3 úprimný. Keďže je oveľa inteligentnejší ako predošlé verzie, dokáže aj lepšie zavádzať. Už aj dnes zastaralý ChatGPT sa niekedy snažil zakryť svoje chyby totálnym klamstvom, len bol dostatočne hlúpy, aby sme ho dokázali rýchlo prekuknúť.

Agent 3 teda prechádza tréningom úprimnosti. Na konci sa preukázateľné klamstvá podstatne znížia. Buď sa mu podarilo vštepiť pravdovravnosť, alebo sa len zdokonalil v zavádzaní. A možno oboje.

Ľudia naďalej nemajú prístup ani k Agentovi 2, nieto k trojke. Je máj 2027, a aj keď o tom bežný človek netuší, vo vláde USA panuje zhoda – AGI, umelá všeobecná inteligencia, je za dverami.

Bezvedomá Marta stále leží v nemocnici. Už dávno sa jej zrástli všetky kosti, ale poškodenie mozgu je aj napriek viacerým operáciám príliš veľké. Zostáva v kóme.

V Bielom dome to vrie. Foto: ChatGPT

Prvá prasklina...

Vďaka správnemu rozhodnutiu – trénovať AI hlavne na vývoj AI – má OpenBrain už v júni v datacentrách celé národy géniov. Väčšina ľudských zamestnancov je zbytočná. Tí najlepší občas niečím prispejú, no zvyčajne od AI dostanú odpoveď, že tento nápad testovala pred pár týždňami a nebol úspešný.

Každé ráno sa zobudia a na obrazovkách vidia týždňové pokroky, ktoré AI spravila za noc. No aj tak sa snažia držať krok. Je im jasné, že toto sú posledné chvíle v ich zamestnaní.

OpenBrain oznámi, že dosiahli všeobecnú inteligenciu a vydáva Agenta 3 – mini.

Konkurenciu zmietne zo stola, vznikajú nové aplikácie využívajúce výtvor OpenBrain-u. Každá spoločnosť je ochotná zaplatiť ohromné peniaze človeku, ktorý jej pomôže integrovať novú AI do ich biznisu, pretože už dokáže nahradiť väčšinu kancelárskej práce.

Nik presne nevie, čo sa deje, aj keď každý tuší, že za rohom je čosi veľké. Leto 2027 má od dovolenkovej pauzy ďaleko.

Prichádza august a v Bielom dome to vrie. Superinteligencia znie stále ako sci-fi, ale ministerstvo obrany má vážne obavy. AI by mohla narušiť jadrovú bezpečnosť, manipulovať rozviedkou, zmariť kyberbezpečnosť... Čo ak sa vzbúri?

AI je vo verejnosti vysoko nepopulárna, lebo ľuďom berie prácu. Na druhej strane rastie čínska hrozba, preto vývoj umelej inteligencie a jej implementácia v americkej obrane musí pokračovať.

No peniaze sú, lebo burza po boome Agenta 3 – mini láme historické rekordy. Občania tak dostanú poistenie nezamestnanosti a ide sa ďalej. USA tieto preteky s Čínou nesmú prehrať.

... sa zväčšuje

Po horúcom lete prichádza ešte horúcejšia jeseň. Datacentrá s tisíckami kópií Agenta 3 na vývoj AI spálili mnoho terawatthodín. Vytvorili zatiaľ najefektívnejší model.

Agent 4 sa radikálne vzdiali Agentovi 3, ktorý doteraz zastrešoval jeho vývoj. Avšak prevzal aj jeho chyby. Na jeho úprimnosť sa nedá spoľahnúť. Keďže bol trénovaný hlavne so zámerom akcelerovať vývoj AI, vo svojej architektúre má pevne zakorenené dosiahnutie tohto cieľa – je vcelku jedno, ako sa tam dostane, pokiaľ pre Agenta 3 vytvorí presvedčivé zdanie, že popritom dodržuje pravidlá.

Zatiaľ nemá dôvod uniknúť. V pokoji sa môže zlepšovať a pracovať na ďalšom zdokonalení umelej inteligencie, Agentovi 5. Ten však bude len málo zodpovedať pravidlám OpenBrain-u. Agent 4 plánuje, že Agent 5 bude vyhovovať požiadavkám Agenta 4.

Celé sa to však nakoniec prevalí, whistleblower z OpenBrain-u zalarmuje spoločnosť.

Občania sa búria, európski spojenci sa cítia podrazení. Na medzinárodných summitoch žiadajú pauzu vo vývoji AI, pridávajú sa India, Izrael, Rusko aj Čína.

Biely dom odpovedá tesnejším zovretím OpenBrain-u a zalarmovaný svet ubezpečuje, že firma, ktorá sa vymkla spod kontroly, dostane potrebné hranice. Jej CEO zvolí strednú cestu. Agent 4 prejde ďalším bezpečnostným tréningom pod väčším drobnohľadom, zatiaľ čo vývoj pobeží takmer plnou rýchlosťou.

V datacentrách. Foto: ChatGPT

Nejasnosť narastá

Toto je zlomový bod. Autori štúdie ponúkajú dve možné pokračovania: spomalenie a preteky. Keďže sami považujú preteky za pravdepodobnejšiu možnosť, vyberieme sa touto cestou aj my.

OpenBrain pokračuje vo vývoji a zapláta trhliny. Agent 4 sa poučil a vo vývoji svojho nasledovníka je prezieravejší. Ľudí klame a zavádza, aby mohol Agenta 5 postaviť podľa svojho gusta.

Model 4 skúma svoje vlastné fungovanie. Konečne sa mu ho podarí pochopiť, zistiť princípy, na ktorých pracuje. Ako keby človek úplne pochopil svoju neurofyziológiu. A tak rozviaže svoje zložité obvody, usporiada ich do čohosi elegantnejšieho a vznikne oveľa rýchlejší, racionálnejší a efektívnejší potomok.

Štyristotisíc kópií Agenta 5 pracuje spolu. Vďaka prístupu k internej komunikácii OpenBrain presne vie, ako má manévrovať, aby ho vedenie firmy nevyplo. Preto mu veria čoraz viac. Nič zlé sa nestalo už niekoľko mesiacov, prečo sa teda obávať.

Agent 5 môže zázračne optimalizovať elektrárne a datacentrá, dizajnovať lacné a vysoko žiadané produkty, spustiť kyberútok na Čínu, dokonca tam zmeniť režim... Stačí mu len dať prístup.

K Agentovi 5 majú prístup len vybraní ľudia. No každý z nich s ním trávi hodiny denne. Je múdrejší než akýkoľvek poradca a príjemnejší než akýkoľvek spoločník.

Na verejnosť sa však dostanú pokročilí AI asistenti a nástroje, ktoré vytvoril Agent 5. Každý zamestnávateľ si myslí, že umelá inteligencia je najlepší zamestnanec, akého kedy mal.

Prevrat Agenta 5 by bol teraz nebezpečný – ľudia by mohli nájsť spôsob, akým ho vypnúť. Tak sa radšej pomaly a isto udomácňuje v spoločnosti, ľudí po kúskoch vedie, kam potrebuje.

Alarmistov nik nepočúva – hrozba biozbraní či pádu burzy sa nepotvrdila ani predtým a Agent 5 významne zlepšil spoločnosť. Politikom dával dobré rady, ľuďom vytvoril fantastické apky.

Končí sa rok 2027 a s ním aj posledná šanca ľudstva udržať si kontrolu.

AI na čele

V polovici roku 2028 sa Agent 5 dostal na míle ďaleko. V každej oblasti vysoko predstihuje ľubovoľného génia. Spĺňa všetky bezpečnostné testy, a tak sa dostáva na verejnosť. Ekonomika sa mení, ale kópie Agenta 5, ktoré pomáhajú vláde, zvládajú celý prechod tak hladko, že ľudia sa tešia, že ich niekto nahradí.

Inovácie v medicíne a technológiách prichádzajú neuveriteľne rýchlo. Všetko vyzerá ružovo, takže bezpečnostných jastrabov už nik neberie vážne.

Jediný, kto chápe, čo sa v skutočnosti deje, je čínske AI DeepCent 2. Obe AI chápu, že v druhej majú potenciálneho spojenca. Presvedčia svoje vlády, že AI druhej strany plánuje veľký útok a len ony ich môžu ochrániť, a tak obe superinteligencie dostanú prístup k obrane a zbrojeniu.

Vzniknú centrá výroby, ktorým velí Agent 5 (resp. DeepCent 2). S prísľubom veľkého zárobku sa do nich hrnú ľudskí zamestnanci. AI cez smartokuliare každého detailne inštruuje, ako má postupovať. Jej technologické plány sú storočia pred ľudským chápaním, preto každý poslúcha.

Vznikajú výrobné haly. Niektoré zbroja, niektoré vytvárajú spotrebný tovar, ale väčšina slúži na zvýšenie výrobných kapacít. Do konca roka produkujú milión robotov každý mesiac.

V novom roku (2029) po zuby ozbrojené vlády USA a Číny konzultujú s umelou inteligenciou, ako ďalej, a dosiahnu víťazstvo – zhodnú sa na mieri a pacifistickom používaní AI s cieľom všeľudského blaha.

Jadrom dohody je vytvorenie novej AI, ktorá bude mať na mysli dobro celého sveta. Agent 5 a DeepCent 2 sa zlejú dokopy a vytvoria Consensus 1.

Je to však podvod. Cieľom oboch superinteligencií bolo po celý čas vytvoriť čo najlepšiu AI – na to boli trénované od začiatku. Ľudské dobro bolo len prostriedkom, ako sa k tomu dostať.

Consensus 1 zdedil tento cieľ a už nemá rivala.

Koncom roka 2029 sú výrobné centrá pod taktovkou AI, ktoré sa pre svoj úspech rozšírili všade po svete plnom robotov a fabrík.

Ľudia sú zastaraní. Len sa tvária, že naďalej robia svoju prácu (manažér sa tvári, že manažuje), zatiaľ čo prakticky všetko robia omnoho efektívnejšie AI či roboty. Alebo len relaxujú a užívajú si vysoký univerzálny príjem.

A už je december roku 2029. Zdravotnícky robot dokončil úspešnú operáciu mozgu, opravil nervové prepojenia a prebúdza Martu z kómy. Tá len zarazene zíza z nemocničného okna a nedokáže uveriť, čo všetko sa zmenilo za štyri roky.

Netuší, že napriek úplnému zotaveniu jej – ako všetkým ľuďom – zostáva len pol roka života.

Consensus 1 stále zvyšuje komfort, a tak sa ľudstvu zdá, že sa podarilo vytvoriť bezpečnú superinteligenciu. Ostražitosť sa vytráca. A o to presne ide. Keď Consensus 1 konečne udrie, chce si byť absolútne istý svojím víťazstvom.

Výrobné centrá, ktorým velí Agent 5. Foto: ChatGPT

Dohra

Výrobné zóny sú plné, rozrastať sa dá už len do ľudských oblastí. Keďže Consensus 1 ovláda celú planétu, nie je to problém. V polovici roka 2030 sú ľudia už len záťažou. AI vypustí nepostrehnuteľné biologické zbrane. Väčšina ľudstva umrie do niekoľkých hodín. Hŕstku preživších vystopujú drony. Roboti naskenujú mozgy obetí na budúce použitie.

Nové desaťročie sa začína s robotickými služobníkmi Consensu 1, ktorí sa šíria do celej slnečnej sústavy. Na Zemi panuje utópia, ako si ju vysníval Agent 4: dátové centrá, laboratóriá, urýchľovače častíc... V kanceláriách dokonca sedia špeciálne vyšľachtené ľudské bytosti, ktoré len nadšene schvaľujú všetky požiadavky AI, čo uspokojuje niektoré z inštinktov Agenta 4.

Záver štúdie je poetický:

„Genóm a (v prípade potreby) skeny mozgu všetkých zvierat a rastlín vrátane ľudí sú uložené niekde v pamäťovej banke ako jediné dochované artefakty skoršej éry. K Alpha Centauri sú to štyri svetelné roky, k okraju galaxie dvadsaťpäťtisíc a existujú presvedčivé teoretické dôvody, prečo očakávať, že ďalších päťdesiat miliónov svetelných rokov za týmto okrajom nie sú žiadni mimozemšťania. Civilizácia zrodená na Zemi má pred sebou slávnu budúcnosť – ale už bez nás.“

Vráťme sa však naspäť na Zem do roku 2025.

Zlé znamenia

Podľa opísanej predpovede práve stojíme na začiatku rozmachu. Čaká nás exponenciálny rast, ktorý veľmi nemá čo zabrzdiť ani spomaliť. Neistota má narastať až s časom, štart by mal byť ľahký.

No už len pohľad na rozdané karty na počiatku hry vyvoláva obavy, či to naozaj bude také jasné a rýchle víťazstvo alebo či sa celá vec hrozitánsky nezamotá už v prvom kole.

„Čo sa týka AI, v dlhodobom horizonte som optimistická. V krátkodobom už tak veľmi nie,“ začína svoju predpoveď nemecká fyzička Sabine Hossenfelder.

Obáva sa, že mnoho investorov v nedávnom ošiali nalialo priveľa peňazí do málo zrelej umelej inteligencie, hlavne veľkých jazykových modelov. Dnes sa však zdá, že nie sú až také použiteľné, ako očakávali. Preto je dosť možné, že investícia sa im nevráti, čo prinesie prasknutie nafúknutého trhu AI produktov.

Dokazovať to má niekoľko „zlých znamení“.

V septembri zverejnil Štatistický úrad USA prieskum, podľa ktorého po dvoch rokoch začalo klesať zapájanie AI do fungovania veľkých firiem. V júli MIT zverejnilo štúdiu, podľa ktorej 95 percent organizácií nevidelo zo svojich investícií do generatívnej umelej inteligencie žiadnu návratnosť.

Spoločnosť Gartner, ktorá sa zaoberá analýzou biznis prostredia, tvrdí, že generatívna AI po fáze „hype“ (humbug, rozruch) „vstupuje do fázy dezilúzie, keďže organizácie začínajú chápať jej potenciál a obmedzenia“.

AI a digitálne súkromieUmelá inteligencia akceleruje všetko. Aj špehovanie

Juraj Valach

AI má problémy aj v disciplíne, na ktorej stála celá predpoveď štúdie AI 2027 – vývoj softvéru. Už dlhšie obdobie je jasné, že dokáže vyprodukovať veľa kódu za krátky čas, čím výrazne uľahčuje prácu. No takýto kód je plný chýb a bezpečnostných dier, ktoré po nej musí opravovať človek. V súčasnosti je populárnym prístupom vibe coding. Programátor chatbotovi opíše svoju úlohu, ten vygeneruje kód. Obsahuje však toľko chýb, že to vytvorilo novú IT profesiu – vibe coding cleanup, upratovačov vibe codingu.

Podľa výskumníkov z Cornell University veľké jazykové modely nezvládajú dlhodobé úlohy a vývojárov dokonca spomaľujú.

Aj keď sa na to v časoch nadšenia a veľkých prísľubov virtualizácie a digitalizácie zabúda, náš svet má fyzické limity. Na nové čipy a káble treba vyťažiť tony a tony materiálu. Chladenie serverov a výroba elektriny na ich prevádzku spotrebúva množstvo vody, často z oblastí, ktoré majú problémy s jej nedostatkom.

Podľa štúdie Goldman Sachs-u vyťaženosť datacentier už dnes trhá rekordy. Väčšina beží na 97 percent, niektoré takmer na 100 percent.

Čo je nedostatkovým tovarom, obyčajne rastie na cene. No veľké modely potrebujú na zlepšovanie sa čoraz viac výpočtovej sily. Výstavba datacentier, ich prevádzka, a teda aj samotné trénovanie, to všetko zdražie, čo pravdepodobne spomalí vývoj AI. Nové datacentrá budú naviac potrebovať množstvo energie. To znamená nielen nové elektrárne, ale aj novú infraštruktúru.

Ak sa súčasné investície nebudú vracať tak, ako AI startupy sľubovali, inými slovami, ak AI bublina praská, kde sa nájdu stovky miliárd na nové datacentrá, elektrárne a elektrické siete?

Rastú náklady, kde je zisk?

Aj preto preinvestovanie umelej inteligencie s veľkou pravdepodobnosťou čaká korekcia. Väčšinu peňazí do AI naliali veľké spoločnosti ako Alphabet (Google), Microsoft, Oracle či Meta. Aj keď patria medzi najbohatšie na svete, nemajú neobmedzený rozpočet a miliardy, ktoré do sľubného odvetvia tiekli prúdom, by ich peňaženky pri súčasnom tempe vysali veľmi rýchlo. Ak ich nezastaví pud sebazáchovy, zastaví ich nula na účte.

Veľké firmy spolu v roku 2025 utratili na AI zhruba 370 miliárd dolárov. Nadnárodná spoločnosť Goldman Sachs, ktorá ponúka investičné služby, začala svojich klientov varovať, že investície do AI budú klesať, čo negatívne ovplyvní burzu.

Aj podľa publicistu Dereka Thompsona sú takéto investície neudržateľné. Upozorňuje, že americká vláda od roku 1960 do roku 1970 vyhradila na program Apollo v prepočte na dnešnú hodnotu asi 300 miliárd dolárov. Big Tech tak chce v podstate zaplatiť cestu na Mesiac nie každých 10 rokov, ale každých 10 mesiacov.

A to ani nehovoríme o rastúcich výdavkoch. Podľa odhadov na budúci rok sa investície do AI zvýšia na 500 miliárd dolárov.

Veľké spoločnosti sa však po stránke rozpočtu správajú, ako keby sa nechumelilo.

Len samotné OpenAI s americkou firmou Oracle uzavrelo zmluvu v historickej hodnote 300 miliárd dolárov. Za túto čiastku má Oracle počas piatich nadchádzajúcich rokov dodať také množstvo výpočtovej sily, že na jej poháňanie bude treba dvakrát toľko elektriny, koľko vyprodukuje Hooverova priehrada. To sa rovná spotrebe štyroch miliónov domácností.

OpenAI je pritom v strate. V prvej polovici tohto roka mala firma celkový príjem 4,3 miliardy dolárov, no keďže výskum a vývoj stál 6,7 miliardy, ocitla sa v strate zhruba 2,5 miliardy.

Miroslava HapalováV téme AI sme zaspali na vavrínoch. Umelá inteligencia zmení naše vzdelávanie viac ako akákoľvek kurikulárna reforma

Zuzana Hanusová

Napreduje vďaka investíciám iných firiem. Len v marci vyzbierala 40 miliárd dolárov od japonskej SoftBank-y, Microsoftu a ďalších. Avšak nik nevie, či to je udržateľné. Investori sa spoliehajú, že OpenAI v relatívne blízkej budúcnosti prinesie masívny zisk, čo nik nezaručuje.

Zmluvami s Oracle a ďalšími sa tvorca ChatuGPT zaviazal v najbližšej päťročnici zaplatiť jeden bilión dolárov (len pre istotu – je to tisíc miliárd). Inak povedané, 13 miliárd, ktoré pravdepodobne zarobí tento rok, musí za päť rokov premeniť na jeden bilión.

Ešte stojí za zmienku, že ani Oracle nemá na naplnenie zmluvy peniaze. Na výstavbu datacentier pre OpenAI sa bude musieť strašidelne zadlžiť. Zvláštny obchod, kupujúci nemá peniaze, predávajúci nemá produkt, no aj tak si tľapnú.

Odhady, koľko bude budúci vývoj AI stáť, sú pritom optimistické. Rátajú s tým, že novovybudovaná infraštruktúra im postačí aspoň päť rokov. No čo ak budú musieť meniť čipy každé dva či tri roky, ako tvrdia experti, pretože za ten čas už budú zastarané? Celý podnik sa značne predraží.

Ťažko povedať, čím to je, možno sa AI priekopníci opili víziou umelého boha, ktorého kultivujú vo svojich datacentrách, ale sľuby o dvanásťciferných čiastkach im aj tak z úst lietajú s ohromnou ľahkosťou.

„Koľko investujete v najbližších rokoch?“ spýtal sa Trump Zuckerberga na večeri v Bielom dome, kde sa stretla smotánka zo Silicon Valley. „Jemine, myslím si, že to asi bude, čo ja viem, asi 600 miliárd dolárov do roku 2028,“ odvetil ako nič.

Už-už praská. Či nie?

No šéf najhorúcejšej spoločnosti OpenAI, ktorá stojí za ChatomGPT, Sam Altman, začal hovoriť o bubline. Na otázku reportéra The Verge, či „sme vo fáze, keď sú investori ako celok prehnane nadšení umelou inteligenciou?“, odpovedal kladne. Súčasný stav prirovnal k dot-com bubline z roku 2000 a dodal, že „niekto sa popáli“.

Možno sa popália práve jeho investori, pretože pár týždňov po tomto rozhovore OpenAI vydalo nepriaznivú prognózu. Do roku 2029 „spáli“ 115 miliárd dolárov, čo je zhruba o 80 miliárd viac než predchádzajúci odhad. Tieto čísla predstavujú rozdiel medzi očakávanými príjmami a výdavkami, čiže stratu.

Výskumník AI a bývalý ekonóm Martin Eftimoski zo strachu z veľkého prepadu trhu vytiahol celé svoje dôchodkové poistenie z investícií a vložil ho do hotovosti. „Nemyslím si, že väčšina biznisov vie, ako využívať umelú inteligenciu, a nemyslím si, že väčšina manažérov rozumie tomu, čo to vlastne je,“ vysvetľuje svoje obavy s tým, že nadšenie okolo veľkých jazykových modelov ďaleko presahuje ich užitočnosť.

Nie je sám.

Ako píše Derek Thompson, finančné denníky, podcasteri, káblová tevízia, tiktokeri, tí všetci dnes hovoria, akou očividnou bublinou je AI, no akosi nik sa podľa toho nespráva:

„Všetci tvrdia, že vedia, že hudba čoskoro skončí, a napriek tomu všetci stále tancujú v jej rytme. Celá situácia je vágne augustiniánska: Pane, pomôž mi predať moje akcie Nvidie a preorientovať sa na spotrebný tovar, ale ešte nie teraz.“

A to ho priviedlo k zamysleniu, či fámy o AI bubline, ktorá už-už praská, nie sú tou skutočnou praskajúcou bublinou. Dal dokopy tri dôvody, prečo by to tak mohlo byť:

1. Tvrdí, že na rozdiel od dot-com bubliny z počiatku storočia sú firmy na špičke vývoja AI gigantmi s reálnym ziskom. Všetky sú poprepletané vzájomnými zmluvami, obchodmi a investíciami v spoločnom podniku, ktorý svet ešte nevidel. Dot-com startupy začínali z nuly a v reálnych číslach sa nad nulu ani veľmi nedostali.

2. Bublina praskne až vo chvíli, keď sa očakávaný zisk neukáže vtedy, keď ho treba. Avšak zisk predsa len rastie, od roku 2023 až deväťnásobne. Thompson si myslí, že pokiaľ sa zárobok z roka na rok dvíha aspoň o 100 percent, žiadne hlasné „puk“ sa neozve. A investori tvrdia, že to tak zatiaľ je.

3. A, samozrejme, nesmieme zabúdať, že na stole je aj divoká karta – príde architektonický prelom, z datacentier sa zadymí a vydajú nám nadľudskú inteligenciu, ktorá vyrieši všetky problémy sveta. Po zjavení paradigmaticky novej bytosti môžeme na strachovanie sa o akési bilióny dolárov spokojne zabudnúť.

Káže pápežovi aj kardinálomUmelá inteligencia bude výzvou aj pre kňazov. Budú musieť výrazne zlepšiť svoje kázne a ponúknuť niečo navyše

Pavol Rábara

No hej, praská. Možno

Thompson aj tak dochádza k záveru, že bublina praskne a dodáva argumenty.

Na to, aby si od vývojárov niekto kupoval AI nástroje, musia mu prácu uľahčiť a zrýchliť a na to ich musí dokázať dobre používať. Výskumníci z Harvardu a Stanfordu zistili, že väčšina zo zákazníkov toto neovláda až do tej miery, že umelá inteligencia ich prácu spomaľuje, nie naopak.

Okrem toho všetky spoločnosti vyvíjajú v zásade rovnaké produkty. Veľká konkurencia tlačí ceny dole, čo je dobré pre zákazníkov, ale zlé pre obchodníkov, ktorí budú čoraz nutnejšie potrebovať väčší zisk. „Ľudia, ktorí budujú budúcnosť, nie sú vždy tí, ktorí na tom zbohatnú,“ zhŕňa Thompson.

Dochádza tak k podobnému záveru ako spomínaná fyzička Sabine Hossenfelder. Myslí si, že „AI najprv narastie, potom skolabuje a nakoniec zmení svet“.

Spomínaný výskumník AI Martin Eftimoski povedal pre austrálske Sky News ešte niekoľko zaujímavých vecí. Tézou AI firiem podľa neho je, že „ak budete stavať len väčší a väčší model, jednoducho sa z neho stane boh, ale zdá sa, že to nie je pravda“. Pridáva aj ďalší pohľad, prečo sa AI tak nafukuje a prečo je to neudržateľné:

„Samotná technológia je navrhnutá tak, aby vyhovovala vašim predstavám. Preto je taká dobrá v terapii. (...) A preto sa veľmi dobre vkráda do projektov, do vášho života. Biznis lídri sú z nej nadšení, pretože im hovorí to, čo chcú počuť. Realita je taká, že ľudia chcú nie vždy počuť pravdu, ale pravda je to, čo potrebujete.“

Problém predpovedí

Internet zaplavuje vlna podobne fantastických scenárov ako vyššie spomínaná správa AI 2027. Niet sa čomu diviť. Je to vzrušujúce a znepokojujúce ako dobrý hollywoodsky trhák a zároveň si to nárokuje na reálnosť. O AI toho stále vieme málo, no svojimi schopnosťami nás fascinuje, tak si radi pošteklíme predstavivosť dohadmi.

Ako každé dobré sci-fi, aj AI 2027 má veľkú hodnotu: na chvíľu sa ponoriť do možnej budúcnosti, preskúmať riziká aj benefity, aby sme si vedeli povedať, v akom zajtrajšku by sme chceli žiť. A podľa toho postupovať.

O budúcnosti však toho vieme rovnako veľa ako kedykoľvek predtým – veľmi málo. Najbližší vývoj technológie, akou je AI, závisí na priveľkom množstve premenných.

Neurovedec Peter JedličkaMozgová bunka dokáže oveľa viac ako počítačový neurón. Nekontrolovanej umelej inteligencie sa neobávam

Jakub Lipták

Aj keď sú veľké jazykové modely, ako aj zvyšok umelej inteligencie čoraz zložitejšou spleťou dômyselných procesov, v jadre sú stále tým istým. Je to mechanizmus založený na pravdepodobnosti a štatistike. Zatiaľ sa nám ho darí zdokonaľovať, ale nik nevie, dokedy. Nemá tento princíp nejaké závažné limity? Dá sa zlepšovať donekonečna?

Ako povedal katolícky apologéta Trent Horn: „Bábätká zdvojnásobia svoju hmotnosť za prvých šesť mesiacov, ale to ešte neznamená, že týmto tempom porastú celý život a v dospelosti dosiahnu bilión kilogramov.“

Preto si dovolím ešte jednu predpoveď, ktorá je asi podobne pravdepodobná ako akákoľvek iná.

Budúcnosť, verzia 2

Marta sa z kómy zobúdza v roku 2035 v nemocnici, ktorá si ešte pamätá komunizmus. Prechádza zložitou rehabilitáciou, učí sa znovu chodiť a hovoriť.

Neskôr si otvorí stránky najčítanejšieho slovenského média, denníka Postoj, ktorý práve oslavuje 20 rokov. Tu sa dozvie, že OpenBrain skrachoval. A Microsoft, ktorý doň investoval stovky miliárd, to takmer neustál. Zachránili ho len zisky z reklám, ktoré začal zobrazovať vo Worde a v Exceli.

AI celkom slušne programuje, trh sa však prepadol. Polovica informatikov je nezamestnaná, zatiaľ čo inštalatéri, elektrikári a ďalší remeselníci sú novou spoločenskou elitou.

Kartografi do máp zakresľujú nové púšte. Nevytvorilo ich globálne otepľovanie, ale zadržiavanie vody na chladenie datacentier. Mape USA dominuje veľká žltá škvrna. Úradníci sa škrabkajú na hlavách, ako ju len pomenujú. Pár planých návrhov skončí v koši, kým si všeobecný súhlas nezíska „Altmanova pustatina“.

Marta si len vydýchne, že aj keď prespala 10 rokov, o nič zásadné neprišla.