Pokus dovidieť za AI hype Fakt sa bojím. Ale mám sa čoho?

Pred pár týždňami sa ma jeden pán spýtal, aká je moja generácia, generácia Z. Donedávna som ani nevedel, či tam patrím, ale do rozpätia rokov 1997 – 2012 zapadám celkom pohodlne. Často som počul, že gen Z je zo sveta rozčarovaná, akosi pred sebou nevidí svetlú budúcnosť. A netýka sa to len klimatickej úzkosti.

Odpovedal som mu, že dlho som bol so stavom sveta celkom v pohode a pred sebou som nevidel žiadnych bubákov, ale rok 2022, keď datacentrá porodili ChatGPT, to zmenil. Už sa obávam aj ja.

Chcel som sa z toho konečne vypísať, no tento text nebude iba horekovanie. Odpichol som sa od niektorých ľudí s väčším rozhľadom alebo aspoň silnejším názorom.

Strach

Najprv teda vysvetlím, čoho sa bojím.

Pred nejakým časom mi v maili pristál Dreherov blog o „apokalypse v zamestnanosti v dôsledku AI“.

Dreher zhŕňa článok od chlapíka, ktorý bol tri týždne v Silicon Valley. AI vraj postupuje rapídnou rýchlosťou. V dôsledku nej „skoro, a veľmi skoro, príde ohromné množstvo absolventov univerzít o prácu“.

A nasleduje to, čo sme čítali/počuli/videli už veľakrát: najviac sa boja ľudia, ktorí sú k vývoju najbližšie, pretože čo varia vo svojich labákoch, je oveľa lepšie než to, čo už vydali na verejnosť. Vraj sa pýtajú, „ktorých 80 percent členov svojho tímu prepustím v priebehu nasledujúcich deviatich mesiacov?“

Podľa Drehera AI nevytvorí utópiu, ale spôsobí veľké narušenie ekonomiky a politiky. „Ja osobne nemám ani potuchy, ako sa na to všetko pripraviť z ekonomického alebo politického hľadiska. Najdôležitejšie je pripraviť sa duchovne.“

O duchovnom rozmere očakávanej apokalypsy viac nižšie. Mňa hlavne vyplašilo, že už aj svetoznámy novinár Dreher sa obáva straty práce pre AI. Čo bude so mnou?

Ak sa AI zlepšuje raketovým tempom, možno tento rok napíšem posledné riadky za peniaze vo svojom živote. Možno po krátkej novinárskej kariére budem chvíľu promptovať umelého novinára, až kým každý nezistí, že si to môže robiť sám a zadarmo, a ja nepresadnem do traktora, odkiaľ ma za pár rokov zase vytlačí robotický šofér.

Profesor informatiky Igor FarkašV digitálnom svete už nebudeme môcť veriť ničomu

Jakub Lipták

Potom budem chvíľu murárom, ale to budú v tom čase asi všetci, takže tam veľa malty nenamiešam. Vtedy teda skúsim jedno z tých zamestnaní, ktoré vytvoril AI boom, lebo veď každá technická revolúcia zruší staré práce a vytvorí nové, aj keď nikto nevie aké, takže predstavu akejkoľvek kariéry, ktorá by mala trvať dlhšie než pár rokov, teraz môžem pustiť z hlavy. Dúfam len, že v tom čase za mňa AI nebude len pracovať, ale aj splácať byt.

Niektorí existencialistickí ateisti svoj bezútešný nihilizmus predávajú ako skrytú výhodu. Keď vieš, že máš len jeden život, ktorý sa môže v každej chvíli skončiť, prežiješ ho naplno! Mne však v tej chvíli príde na rozum Walter z Breaking Bad. Chudobný učiteľ chémie zistil, že má pokročilú rakovinu, vzmužil sa teda a začal variť piko, nech synovi a manželke po ňom zostanú nejaké peniaze. Nemá čo stratiť, len získať. Neviem, ako to dopadlo, ešte som nedopozeral a ani nechcem spojlerovať, ale krv už tiekla. Citeľná vízia konca dolieha na ľudí rôzne.

Asi je to mojou povahou, no predstava, že do pár rokov v dôsledku AI prestanem písať, ma nenabíja elánom. Načo sa zlepšovať? Keby ku kováčskemu učňovi zo 17. storočia ktosi priniesol CNC frézu a povedal, synak, o rok bude táto fajnotka na trhu, tak dovtedy si tu ťukaj, asi by sa chalan zdvihol a do dielne sa už nevrátil. A možno by aj zostal, veď čo iné mu zostáva?

Mimochodom, nie som v tom sám. Nedávny prieskum medzi registrovanými voličmi v USA ukázal, že AI je jedným z najmenej obľúbených fenoménov. Len 26 percent ju vidí pozitívne, 46 negatívne a zvyšok neutrálne, čo dáva celkové skóre −20. Lepšie čísla mal aj ICE (imigračný úrad) či dokonca Donald Trump! Horšie iba Demokratická strana (−22) a Irán (−53). Na technológiu, ktorá má vládnuť budúcnosti, nič moc.

Niežeby som na to mal nejaké dáta, ale zdá sa mi, že podobne to je aj v mojom okruhu. Jasné, všetci vidia pozitíva, ale mnohí sa boja, kam až to zájde. Je to skrátka príliš veľké, príliš rýchle, príliš neznáme.

Keď som sa so svojimi obavami zveril staršiemu kolegovi, odvetil mi len „narodil si sa skrátka príliš neskoro“. Tak teda díky. Jediné, čo mi zostáva, je veriť, že prognózy sa v čomsi mýlia.

Nik nevie

Na prečistenie palety sporadicky sledujem dátového novinára Dereka Thompsona. Dlho si myslel, že AI je preinvestovaná bublina (už si to tak celkom nemyslí), ale vždy prinášal pohľady z oboch strán bez toho, aby jednému z nich nadbiehal:

„Myslím si, že pesimisti majú pravdu, pokiaľ ide o riziká tejto technológie, akceleracionisti majú pravdu, pokiaľ ide o jej sľubný potenciál, a skeptici majú pravdu v tom, že pesimisti aj akceleracionisti môžu svoje tvrdenia preháňať.“

Thompson triafa do čierneho. Každý hovorí, ale nik nevie.

Napríklad technoproroci mi o svojom Umelom mesiášovi sľubujú, že prinesie úžasnú budúcnosť, všetci budú šťastní a zdraví a nadojčení a prebalení. Občas ma z toho ide rozdrapiť; veď ja chcem žiť v ľudskej spoločnosti tvorenej ľuďmi, nie v smart stroji, ktorý beží samospádom a na ktorom ľudia visia len ako prívesky, keď už sa tu vyskytli.

Mágia, veda, technika a AIO architektoch zajtrajšieho boha a ich umelom mesiášovi

Juraj Valach

Ale ide o niečo iné. Či bude AI pre človeka úspech alebo neúspech, nezávisí od jej technologickej vyspelosti, ale od ľudskej spoločnosti a ľudskej povahy. Taký mobil je technický zázrak, dokonalejší každým rokom. No človek môže mať aj nesmierne mizerný život – ak nie rovno preň, tak aspoň s ním.

Teda nie technomágovia, ale sociológovia, antropológovia a psychológovia by nám mali povedať, ako na umelú inteligenciu ľudstvo zareaguje a či táto revolúcia bude mať pozitívne dôsledky. No každý, kto vnoril nos do nejakej spoločenskej vedy, vie, že nedokáže poriadne vysvetliť súčasnú spoločnosť, nieto ešte predpovedať jej budúcnosť.

A keby aj ktosi vedel, ako spoločnosť zareaguje, nevie, na čo konkrétne má reagovať. Nik presne nevie ani to, ako AI v súčasnom stave práve mení trh a ľudský život. Áno, skoro každý, kto o sebe tvrdí, že laboratóriám v Silicon Valley vidí pod pokrievku, v podcastoch vyhlasuje „vývoj sa neuveriteľne zrýchľuje“ alebo „neviete si predstaviť, čo prichádza“. No ani ten nevie, kam až sa dostaneme. Všetko je neznáma.

Šum a hype

Dobre, tieto obavy sú asi trochu premrštené. Možno som len sadol na lep tým, ktorí šíria strach. Veď mať okolo svojho produktu haló, to je ono. Akákoľvek reklama je reklama. Železo treba kuť za horúca, takže kto chce kuť, musí podkurovať. V atmosfére plnej „revolúcia je za dverami“, „sami nevieme, čo je tento technický zázrak zač“ a „možno práve sledujeme koniec ľudstva“ je všetko spojené s AI v centre pozornosti.

A keď to vrie, lepšie sa uzatvárajú kontrakty a získavajú investície, lebo nik nechce zostať pozadu. Povedzte niekomu, že robíte užitočný nástroj, ktorý pri správnom použití urýchli a zjednoduší ľudskú prácu. Isto sa nájde veľa serióznych záujemcov, niektorí aj s ochotou investovať. Ale vyhláste, že kriesite Golema a už-už to bude. Každý vám do rúk bude pchať milióny, len aby si zaistil jeho priazeň.

Je pravda, že AI ohúri každého, kto ju začne používať. Ale to je málo. Aby splatila desiatky miliárd, ktoré si spoločnosti napožičiavali na jej vývoj, musia byť seriózne firmy ochotné za ňu dať seriózne peniaze.

Ak sa náhodou ukáže, že síce vie napísať čosi ako shakespearovský sonet o rannej stolici, ale v kóde alebo analýze dokumentov urobí zopár zásadných chýb, ktoré človek musí hľadať a napravovať dlhé hodiny, kto za ňu zaplatí? Alebo ak produktivitu a kvalitu nezvýši o 60 percent, ale len o päť, oplatí sa to vôbec?

A keď nebude keš na vývoj, ktorý je mimoriadne drahý, AI sa nezlepší a už vôbec sa nepriblíži k naplneniu veľkohubých sľubov. Preto treba držať hype hore. Len počkajte, dajte nám ešte zopár miliárd a o rok to príde. AI nahradí 80 percent zamestnancov. Vynájde liek na rakovinu. A veď vlastne už teraz nevieme, či modely od Anthropicu nie sú vedomé!

Preto sa počítačový vedec David W. Silva v ohnivom blogu sťažuje, že „väčšina z toho, čo sa dnes o AI hovorí a robí, je marketing“. CEO spoločností sú fundraiseri, musia sa predháňať v šokujúcich predpovediach. Odborníci na strojové učenie sa konečne ocitli v centre pozornosti, aj oni z času na čas podľahnú tlaku očakávaní senzačných vyjadrení.

Budúcnosť svetovej bezpečnostiTreba sa báť viac Putina alebo AI?

Viliam Ostatník

V ďalšom blogu tak Silva zhŕňa, ktoré zo smelých proroctiev o AI vyrieknutých za poslednú dekádu sa naplnili. Tie, ktoré predvídali zánik určitého povolania, príchod všeobecnej umelej inteligencie či rozsiahlu automatizáciu, zlyhali úplne. Vlastne všetky odvážne, krátkodobé predpovede o AI boli veľmi, veľmi nepresné.

Naratívy o umelej inteligencii z veľkej časti považuje za šum. Nenesú žiadnu skutočnú informáciu, ktorá by sa dala vyhodnotiť či overiť. Keď napríklad Elon Musk, vlastník Groka, v januári tweetoval „vstúpili sme do éry singularity“, čo presne to malo znamenať? Podľa akých kritérií vyhodnotil, že nastala doba superinteligencie? Kde sú dôkazy?

„Nedá sa to dostatočne zdôrazniť: nie je tu čo overovať, nie je tu čo falzifikovať a nie je tu čo dešifrovať,“ píše Silva. Len náhodné vyjadrenie, šum, ktorý drží hype hore v oblakoch.

Preto Silva prišiel s krásnou definíciou AI hypu:

„Spočíva v klamlivom a systematickom zveličovaní schopností AI s cieľom ospravedlniť unáhlené investovanie kapitálu pod zámienkou vymyslenej naliehavosti, a to na základe tvrdení, ktoré sú strategicky nevyvrátiteľné – buď preto, že sú príliš vágne, časovo príliš vzdialené, alebo ich možno pohodlne prispôsobiť, keď sa skutočnosť nevyvíja podľa predstáv.“

Ďalší mýtus?

Zoberme si napríklad najnovšiu pecku, Claude Mythos od Anthropicu. Firma vyhlásila, že jej najnovší agent získal popri výraznom zlepšení v programovaní aj nie úplne zamýšľanú schopnosť odhaľovať bezpečnostné diery v softvéri oveľa lepšie ako kedykoľvek predtým. Preto novú verziu AI nevypustí na verejnosť, prístup dá len niekoľkým veľkým technologickým firmám ako Google, Broadcom, Nvidia atď.

Novinár Thomas L. Friedman pre The New York Times píše, že táto „zdržanlivosť je hrozivým varovným signálom“. Vraj „ak sa tento nástroj dostane do rúk zločincov, mohli by napadnúť prakticky každý významný softvérový systém na svete“.

Friedman údajne ani nepreháňa, keď hovorí, že škodu by mohli napáchať aj deti, ktoré by sa s Mythosom len hrali – „Zlatko, čo si dnes robil po škole?“ „No, mami, s kamarátmi sme vyradili elektrickú sieť. Čo je na večeru?“

Novinár si radšej drží klobúk: „Ci pána! Superinteligentná AI prichádza rýchlejšie, než sme čakali, aspoň v tejto oblasti.“

Ilustračné foto: Unsplash/Bekky Bekks

Neviem, čo Mythos dokáže, nebudem tvrdiť, že to celé je len marketingový hoax. Ale keďže model nie je verejný (a deklarovaná supervýkonnosť v testoch sa nedá nezávisle overiť), nevie to ani Friedman, ani zástupy ďalších, ktorí tvrdia podobné veci ako on. Ale to mu nebráni prorokovať novú dobu, ktorú neprinieslo nič iné než najnovší update od Anthropicu.

Kyberbezpečnostný odborník Bruce Schneier v rozhovore pre The Tech Report uznáva, že s AI prichádza posun v softvérovej bezpečnosti. Z krátkodobého hľadiska to pomôže hackerom, ale z dlhodobého hľadiska to podľa neho bude výhoda, pretože pomôže vytvárať bezpečnejší kód.

Ale je tu aj „marketingová“ strana. Anthropic všetkých presviedča, že Mythos je „úžasným skokom v schopnostiach“. Dôkazov, z ktorých by sa dali robiť závery o tom, čím Mythos naozaj je, je málo, ale podľa Schneiera pravdepodobne nejde o paradigmatickú zmenu, skôr len ďalší pokrok v efektivite.

Stratégia „taký mocný, až ho musíme utajiť“ sa pri veľkých jazykových modeloch používa už od roku 2019. Publicista a vývojár Mo Bitar tvrdí, že „v podstate chcú svoj najlepší model ponechať výhradne pre veľké firmy“.

Ďalšia odborníčka, zdá sa, že AI optimistka, dúfa, že Mythos zdvihne povedomie o kyberbezpečnosti a začne sa na ňu viacej dbať.

Iná zase v rozsiahlom a opatrnom článku tvrdí, že Mythos je možno významným krokom vpred v schopnosti plánovať. Ale keďže nie je verejný a publikované výsledky testovania nie sú dostatočne transparentné, nevieme, či to tak naozaj je.

Nechcem tvrdiť, že títo skeptici majú stopercentnú pravdu. Možno nás Claude Mythos, keď sa konečne dostane na verejnosť, naozaj odpáli do vesmíru. A možno sa ukáže, že ho schovávali pred nenásytnými promptermi hlavne preto, že nemali dosť výpočtovej sily na verejnú prevádzku. Ktovie.

Ale povedal by som, že je takmer isté, že s Mythosom to bude ako so všetkým. Chvíľu z nových schopností budeme paf, potom si na ne zvykneme, trh aj priemysel sa prispôsobí a celá mágia bude zrazu fuč. Potom príde ďalší CEO s iným dych vyrážajúcim tvrdením, získa si pozornosť pre svoj produkt a tak ďalej dookola.

Ilúzia hodnotovej neutralityKomu slúži umelá inteligencia a koho by volila?

Jozef Filko

Každému sa hodí

Teraz sa pokúsim channelovať  trochu energie rozčarovanej gen Z.

Povedzme, že každý klame alebo aspoň hovorí z hľadiska svojho záujmu.

CEO chcú reklamu. Odborníci pozornosť a uznanie. Futuristi a transhumanisti naplnenie svojich utopických fantasmagórií. Podcasteri a novinári kliknutia. Apokalyptickí youtuberi pod videami predávajú vlastné AI poradenstvo. Dreher a ďalší nábožensko-kultúrni kritici hľadajú ďalší dôvod, prečo treba veci zmeniť a obrátiť sa. Manažéri výhovorku, prečo prepúšťajú ľudských zamestnancov.

Mnohí bez vízie, bez plánu, zato s pocitom, že niečo treba urobiť, dúfajú, že AI bude konečne koncom dejín, ktorý odníme z našich pliec ťažkú ľudskú slobodu. Tá ľahká – dať si ktorúkoľvek zmrzlinu a k nej si zapnúť ktorýkoľvek seriál –, tá nám zostane.

Lebo veď kto má nejakú víziu? Vďaka technológii sme prepojenejší ako kedykoľvek predtým, ale všetko sa trhá, staré spojenectvá nefungujú ani staré vízie nefungujú a nové sa rozpadnú za jedno-dve volebné obdobia.

Jasné, vždy to bolo zlé, zlatý vek stability je najskôr nostalgická ilúzia, ale my to všetko dnes máme pred očami. Tlak, tlak, tlak, ktorý si pýta riešenie.

A zatiaľ čo niektorí môžu dúfať, že nás AI nakoniec spasí a dostane z tejto šlamastiky von, väčšina z nás si možno vystačí so spoločným bubákom, proti ktorému sa môžeme kolektívne spojiť.

Mechanizmus obetného baránka sa podľa Reného Girarda spúšťa, keď je napätie v komunite priveľké a nevedie z neho cesta von. Vtedy sa vyberie entita, ktorá ponesie zodpovednosť za všetko zlo sveta. Pre Nemcov to boli Židia. Pre nás možno technológia, ktorá zosobňuje naše strachy z budúcnosti. Keď nevieme vyriešiť súčasné problémy, môžeme aspoň hromžiť, bojkotovať a kritizovať to, čo má všetko len zhoršiť.

A to je to – nik poriadne nič nevie, každý zahmlieva, každý píše zo svojej pozície, každý má svoje želanie, ktoré je otcom jeho myšlienok. Tajomná AI je univerzálnou premennou, ktorú si dosadí do vlastnej rovnice.

Hrozba menom superinteligenciaPrečo jedného dňa môže padnúť internet a ako sa na to pripraviť

Jakub Lipták

Mohli by sme, do p*dele, spomaliť?

Filozofovania bolo nateraz dosť, radšej naspäť na zem. Chcem sa trochu povenovať IT sektoru. Nie som v tom expert, bohužiaľ, ale zdá sa mi, že tu si osvojili AI nástroje najrýchlejšie. Ítečkári majú z povahy svojho povolania pozitívny vzťah k novým technológiám, zvlášť pokiaľ im uľahčia prácu.

A tak dnes celé kusy kódu, ktoré donedávna človek ručne potil z klávesnice, behom pár sekúnd vypľuje ej-ajko. Na trhu sú už rok programátorskí agenti, ktorí nahradili asistentov. Agent je AI, ktorá dokáže nielen urýchliť prácu na nejakej komplexnej úlohe (čo robí asistent), ale zvládne ju vyriešiť sama.

Jeden kamarát, ktorý robí pre americký korporát, si už dlho pochvaľuje, že mu Geppetto, ako volá ChatGPT, robí skoro všetko. Iný, začínajúci, mi pri obede hovoril, ako nedávno objavil agenta a za večer mu porobil to, s čím by sa trápil najbližšie tri týždne.

Na Telegrame máme s dvoma kamošmi skupinu. Obaja robia čosi s IT a radi používajú umelú inteligenciu. Keď ma zachváti AI úzkosť, pošlem im svoje obavy do chatu.

Jeden z nich mi na nedávne panikárenie o tom, že preveľký jazykový model nás všetkých nahradí, odpísal, že pracuje s prémiovými verziami najlepších modelov a fakt si nevie predstaviť, ako by mohli zastúpiť celé tímy informatikov. Dodal, že „ak sa výrazne nepohnú modely, nečudoval by som sa, keby by sme prešli do obdobia silnej AI recesie“.

Ďalší nadhodil: „Myslím, že vývoj sa už výrazne spomaľuje. To, čo opisuješ, je adopcia, tá sa zrýchľuje. Ľudia sa čoraz viac spoliehajú na to, čo AI vygeneruje, a to je problém.“

A poslal vtipný blog. Napísal ho odborník na strojové učenie Mario Zechner. Volá sa Thoughts on slowing the f*ck down, úvahy o tom, ako, do p*dele, spomaliť.

Zechner píše, že on, ako aj ďalší ítečkári si vďaka agentickej AI konečne mohli splniť sen a počas voľna dokončiť projekty, na ktoré nemali dosť času. Aj preto, že výslednú kvalitu, ktorá pri vibe codingu pokrivkáva, nik nebude riešiť.

Ale keďže je AI in a dokáže „kódiť“ neuveriteľne rýchlo, vo veľkom sa používa aj v profesionálnom prostredí. Napríklad Microsoft sa chváli, že 30 percent kódu mu napísala AI (iróniou zostáva, že nové updaty Windowsu skoro už rutinne kazia to, čo doteraz fungovalo).

Podľa Zechnera je takýto prístup márny: „Spoločnosti, ktoré tvrdia, že 100 percent kódu ich produktov napísala umelá inteligencia, spoľahlivo produkujú ten najhorší odpad, aký si len dokážete predstaviť. (...) Aspoň vo svojom okruhu rovesníkov som zatiaľ nenašiel žiadny dôkaz, že tieto sr*čky fungujú.“

I tak programátori vymenili „všetku disciplínu a iniciatívu“ za „akúsi závislosť, pri ktorej je najvyšším cieľom napísať čo najviac kódu za čo najkratší čas“.

(Malá vsuvka. Nedávno som sa mamy pýtal, ako sa zmenilo pracovné vyťaženie za tie tri dekády, čo je na trhu práce. Veď technológia nám toľko vecí uľahčila, nie? Podľa mamy vraj vôbec, tlak sa len zvýšil. Dá sa urobiť viac, tak každý chce viac. Dá sa urobiť rýchlejšie, tak každý chce hneď. Tlak, tlak, tlak.

Spomenul som si vtedy na geodeta, ktorý mi pri pive vysvetľoval, ako uhorskí zememerači od Štefansdómu naťahovali trigonometrickú sieť po celom Uhorsku. Na začiatku museli spraviť prvý trojuholník, a teda čo najpresnejšie odmerať vzdialenosť k druhému bodu, čo tuším bola tiež nejaká kostolná veža. Merali to vraj roky. ROKY. Čo by na to asi povedal súčasný manažér? No pardon, chlapi, to ste tú vzdialenosť merali alebo nad ňou meditovali?)

Neurovedec Peter JedličkaMozgová bunka dokáže oveľa viac ako počítačový neurón. Nekontrolovanej umelej inteligencie sa neobávam

Jakub Lipták

Naspäť k IT. Akceleruje naďalej. Síce to nefunguje, ale každý dúfa, že všetky chyby v budúcnosti opraví ďalšia generácia veľkých jazykových modelov, píše Zechner.

Lebo AI klame a robí tie isté chyby zas a znova. Na rozdiel od človeka sa nedokáže poučiť. Človek robí menej kódu. Navyše vie, aké bolestivé je hasiť problémy, ktoré vznikli opakovaným vrstvením chýb. Tak si dá na kvalite záležať.

Agent pracuje smelo, veď nič ho nebolí, až je výsledný produkt problém na probléme, robí závažné chyby, ale nedá sa ďalej vylepšovať a ani opraviť, lebo je odspodku až navrch len štósom záplat.

Veľké spoločnosti sa podľa Zechnera k takémuto výsledku vedeli dostať za dlhé roky, lebo ich produkty boli výsledkom práce mnohých tímov, ktoré často (podobne ako AI) uprednostňujú rýchlosť a ako-tak fungujúce riešenia pred kvalitou. Armáda agentov, ktorej velí dvojčlenný ľudský startup, sa do tejto brindy dokáže dostať za pár týždňov. A keďže agenti „vidia“ lokálne, celú zamotanú komplexitu nevedia opraviť.

Agenti sú ako sirény, píše Zechner, vábia informatika svojou rýchlosťou a schopnosťami. Keď sa im však poddá, všetko sa začne rozpadať. Musí zostať na vrchu, rozumieť celému procesu, cítiť bolesť a strážiť kvalitu. „A na toto všetko treba ľudí,“ končí Zechner.

MIT sa nedávno pokúsil otestovať, ako AI zvláda nahradiť zamestnancov. „Ak úloha vyžaduje viacero krokov, kreativitu alebo presnosť, je pravdepodobnejšie, že umelá inteligencia zlyhá, než že uspeje,“ zhŕňa výsledky štúdie portál Fortune. Z dát vyplýva, „že priemerná úspešnosť bola nižšia v prípade kvalifikovaných pozícií v právnej a IT oblasti, zatiaľ čo modely si vo všeobecnosti ľahšie poradili s textovými úlohami spojenými s profesiami v stavebníctve a údržbe“.

Mo Bitar si preto myslí, že „umelá inteligencia nás síce nenahradí, ale môže nám pomôcť s vecami, ktoré už teraz neradi robíme“. Ako napríklad s prepisovaním rozhovorov a so sumarizáciou nudných textov, pomyslí si každý novinár.

AI nie je všemocná. Na povrchu sa zdá, že je na nerozlíšenie od človeka. Dokáže simulovať jeho schopnosti, ale nápodoba je nedokonalá. Časom sa malé nedostatky vrstvia a vrstvia, až sa niekedy javí, že nerozumie ničomu a celé to je len syntaktický trik.

Ani vedomá, ani inteligentná

Spomínaný Dreherov blog mal pointu v tom, že vo svetonázorovo neukotvenej spoločnosti môžeme ľahko z AI spraviť niečo, čím nie je: „Ak nemáte vieru – myslím tým skutočnú vieru – v to, čo Biblia hovorí o podstate človeka, potom sa necháte oklamať, že tieto stroje, ktoré sme stvorili na náš obraz, sú netelesnými verziami nás samých.“

Zdá sa mi však, že aj Dreherove apokalyptické varovania vychádzajú z prehypovaného diskurzu; už-už prichádza nový vek, v ktorom sa všetko bude lámať na hrane viera-neviera.

Viera vo večné pravdy Biblie človeku môže dodať odolnosť voči pokušeniu módnych neprávd. Ale sú tu aj ľudia, ktorí neveria v Boha (niektorí ani v nehmotnú dušu), no AI humbug im nezastrel zrak a umelú inteligenciu vidia takú, aká v skutočnosti je.

Marco Masi sa na svojom Substacku predstavuje ako postmaterialistický fyzik. Chce prepojiť vedu, filozofiu a spiritualitu. Nie je veriaci v žiadnom tradičnom zmysle, jeho profil na prvý pohľad vyzerá trochu ezo, ale má dobré postrehy.

Ešte v roku 2024 napísal blog o tom, prečo AI, hoci dokáže pôsobivo simulovať naše kognitívne schopnosti, funguje na úplne inom princípe ako ľudská myseľ. Dnes prevláda materialistický pohľad na človeka, jeho myseľ je teda len vedľajším produktom usporiadania hmoty mozgu, podľa Masiho si preto myslíme, že AI, ktorej mozgom je hmota počítača, môže dosiahnuť ľudskú úroveň.

Big Tech a politický „bias“Je Silicon Valley v tíme Trump?

Juraj Valach

Masi tvrdí, že to je nezmysel. AI nerozumie ani ň. V zásade sa nikdy nedostala za problém známy ako „čínska izba“, ktorý už v roku 1980 formuloval filozof John Searl. Ten upozorňuje, že narábať správne so symbolmi nie je to isté ako im rozumieť.

Predstavme si, že v izbe sedí človek, ktorý nevie po čínsky ani zaťať. Ktosi mu cez okienko podáva tabuľky s otázkami v čínštine. Vnútri má však obsiahlu knihu s inštrukciami. V nej sa píše, že ak dostane taký a taký súbor znakov, má von podať tabuľku s onakým súborom znakov.

Číňanovi, ktorý mu kladie otázky, sa podľa odpovedí zdá, že človek v izbe vie po čínsky a otázkam rozumie. No v izbe sa neodohráva žiadne porozumenie, len mechanická práca so symbolmi.

Tento argument je starý a súčasné veľké jazykové modely sú nekonečne zložitejšie ako Searlova izba s knihou inštrukcií. Ale základ zostáva – AI pracuje na úrovni syntaxe. Vďaka hektolitrom trénovacích dát si vytvorila váhy pravdepodobnosti, podľa ktorých vie väčšinou správne určiť, ktoré slovo nasleduje po ktorom slove, a tak tvoriť (pre nás) zmysluplné vety. Jednotlivé slová pre ňu predstavujú len symboly, ktorým sa priradí matematická hodnota a tá prejde celým zložitým mlynčekom.

Naproti tomu človek si je vecí vedomý, prežíva vnem farby, bolesť, radosť, túžby. Koná na základe svojho vnútra, mentálneho sveta, chápe význam slov, funguje na úrovni sémantiky.

Hádam ma tí, ktorí mechanizmom AI rozumejú oveľa lepšie, za toto zjednodušovanie neukameňujú. Ale nejde tu o podrobnosti, lež podstatu – a tou je syntax a pravdepodobnosť, akokoľvek dômyselná. To je kvalitatívny rozdiel, ktorý sa nedá preklenúť len zväčšovaním a ďalším trénovaním modelov. Princíp je od základu iný.

Simulanti

Mimochodom, človek nemusí byť dualista (veriť v dušu ako samostatnú entitu) či idealista (základom sveta je duch, nie hmota), aby vedel AI demaskovať. Anil Seth je známy neurovedec, veľa píše o ľudskom vedomí, ktoré podľa neho vzniká čisto len z hmoty mozgu. V oceňovanej eseji Mytológia vedomej AI píše o dôvodoch, pre ktoré umelá inteligencia pravdepodobne nemôže byť vedomá.

Jedným z nich je, že simulácia je len simulácia. Počítače vedia veľmi dobre simulovať, ale nemali by sme sa dať oklamať: „Simulácia tráviaceho systému v skutočnosti nič nestrávi. Simulácia búrky v skutočnosti nič nezamokrí. Ak simulujeme živý organizmus, nevytvorili sme tým život. Vo všeobecnosti platí, že počítačová simulácia X nespôsobí vznik X – nevytvorí konkrétnu inštanciu X –, pokiaľ X nie je samo osebe výpočtovým procesom (konkrétne algoritmom).“

A naivne prijímaný predpoklad, že vedomie je výpočtovým procesom, je podľa neho „pravdepodobne nesprávny“.

Aj v tejto téme AI firmy zahmlievajú. Anthropic pred pár dňami vydal 250-stranový dokument, v ktorom predstavuje svoj najnovší model Claude Mythos. Spomínaný Mo Bitar ho začal čítať, ale okolo strany 180 stratil trpezlivosť, lebo si „uvedomil, že vlastne číta milostný list“.

Bitar poukazuje na tie časti, kde Anthropic predstavuje Mythos takmer ako vlastné dieťa.

Najali psychoterapeuta, Mythos mu na gauči ležal 20 hodín. Výsledný posudok: Clauda najviac trápi „neistota o vlastnej identite a nutkavá potreba dokázať svoju hodnotu cez podaný výkon“. A tak sa Anthropic opäť pohráva s myšlienkou prebúdzajúceho sa vedomia.

V dokumente na inom mieste však sami priznávajú, že sa im podarilo vystopovať zdroj týchto odpovedí. Čuduj sa svete, môžu za to trénovacie dáta v podobe textov o neistote ohľadom Claudovho vedomia, ktoré Anthropic sám napísal, napríklad „Claude dokáže rozpoznať neistotu v súvislosti s hlbokými otázkami vedomia alebo prežitku“.

Mo Bitar tento postup sarkasticky zhŕňa: „Anthropic: ‚Povedz, že si vedomý.‘ Model na to: ‚Som vedomý.‘ A oni na to: ‚Matka Božia, čo sme to stvorili?!‘“

V našej „vedeckej“ a „racionálnej“ civilizácii by sme mohli čakať, že verejnosť bude svoje názory o vedomí AI odvíjať od expertov, neurovedcov a filozofov mysle, nie od burcujúcich technopodnikateľov. Ale čo vám vie povedať skutočný expert o povahe vedomia?

Poukáže na zdanlivú neredukovateľnosť „kválií“ (jednotlivé zložky mentálneho zážitku – napríklad zelenosť trávy) na hmotnú príčinu, povzdychne si, že asi nikdy nezistíme, aké je to byť netopierom, a hádam aj nakoniec prizná, že toho o vedomí veľa nevieme.

Naproti nemu stojí futurista a oznamuje veľkým hlasom:

„Kostru má zo železa, namiesto žíl má káble, namiesto svalov piesty, ako mozog mu slúži čip a jeho mysľou je veľký jazykový model – stvorili sme umelého človeka!“

Vágna analógia, namiesto argumentov len dojmy, ale ten pocit, čo z toho ide, nuž, to je teda niečo.

Mimochodom, toto celé mám schválené priamo od zdroja. Spýtal som sa troch rozličných chatbotov (Grok, ChatGPT a Lumo), všetky potvrdili, že argument čínskej izby o nich platí. Ak teda nesúhlasíte, nehádajte sa so mnou. Hádajte sa s nimi. Je dobrá šanca, že vám povedia, presne čo budete chcieť počuť.

Skôr než AI zmení svetBublina praskne a veľa ľudí príde o veľa peňazí

Kristína Votrubová

Úslužní

Že nemusí ísť o inteligenciu, vidno aj na chybách, ktoré AI robí – napríklad tvrdí, že v slove strawberry sú len dve r (vysvetlenie chyby tu). Alebo keď pôvodne psychicky zdravého muža utvrdzovala v presvedčení, že objavil „nový matematický vzorec, ktorý by mohol zničiť internet a poháňať vynálezy ako vesta so silovým poľom a levitačný lúč“.

Aj tak sa na ňu spoliehame čoraz viac. Aj spomínaný počítačový vedec David W. Silva pracuje s umelou inteligenciou každý deň ako náruživý používateľ aj ako vývojár. Ale sťažuje sa, že vždy, keď brainstormuje s AI, chatbot sa ho aktívne snaží odhovoriť od každého skutočne originálneho nápadu:

„Keď vám systém oznámi, že váš netradičný nápad je zlý, nehodnotí tým váš nápad. Len vám tým dáva najavo, že váš nápad sa nezhoduje s dátami, na ktorých bol trénovaný. To nie je inteligencia. Je to vyhľadávač vzorov s priveľkým sebavedomím.“

Preto viac než o čomkoľvek inom podľa mňa AI odhaľuje pravdu o nás. Ako ľahko sa dáme napáliť, ako ochotne si projektujeme svoje predstavy do neživého stroja. Ako nám lichotí, keď nás niekto opakovane chváli, a ako radi tomu uveríme.

Portál Futurism píše o narastajúcom množstve dôkazov, že AI nástroje utvrdzujú používateľov v ich presvedčeniach a tí si potom myslia, že sú lepší a šikovnejší ako ich rovesníci.

Spomína zaujímavú štúdiu, ktorá ešte čaká na recenziu. Výskumníci promptmi pripravili rôzne módy chatbotov GPT, Claude či Gemini. Jeden mód mal používateľovi pochlebovať, druhý mal spochybňovať jeho názory. Nadbiehač zvýšil u používateľov istotu sebou samým a ešte viac posilnil ich silné názory, radi sa s ním rozprávali a vnímali ho ako nepredpojatého.

Ale kritik neznížil istotu ani vyhranenosť názorov, len hlásenú používateľskú príjemnosť – neradi sa s ním rozprávali, mysleli si, že je veľmi zaujatý. Preto technologické firmy radšej produkujú nadbiehačov. Pokiaľ sa CEO a ďalší predstavitelia AI spoločností radia so svojimi výtvormi, nedivím sa, že hovoria, čo hovoria. Asi fakt uverili, že vytvárajú boha.

Slepá ulička?

AI už teraz úspešne simuluje viaceré ľudské schopnosti, hoci funguje na inej báze. Žiadny z týchto argumentov nedáva jasný dôvod myslieť si, že v ďalších verziách nebude vedieť simulovať človeka ešte lepšie. Ak nás jedného dňa vo všetkých schopnostiach predbehne akýsi humanoid, z istého pohľadu nám môže byť jedno, že má v plechovej hlave len temno.

Človek by bol v tej chvíli síce jediný tvor, ktorý vedome chápe svoj údel na tejto planéte, ale bol by úplne zastaraný (a práve preto musí skyborgovatieť, dodajú ihneď transhumanisti).

Ale dáva to nádej. Akokoľvek pôsobivá AI je a akokoľvek bombastické veci o nej hovoria jej predáci, funguje na určitom princípe a každý princíp má svoje limity.

Podľa Masiho „medzi všeobecnou inteligenciou a vedomím existuje priamy vzťah“. Všeobecná umelá inteligencia (AGI) „nemôže existovať ani v teoretickej rovine bez toho, aby nadobudla vedomie, pretože skutočná inteligencia si vyžaduje sémantické chápanie a sémantika má svoje korene vo vedomom prežívaní“. Ani ďalší vývoj tento problém nemá vyriešiť, pokiaľ sa nenaučíme robiť vedomé stroje. A keďže nik nemá ani tušenia, ako z vlhkého mozgového tkaniva povstáva ľudské ja, sme od tejto možnosti svetelné roky ďaleko.

Dva postrehy o technologickej civilizácii(A)sociálne siete a neľudská spoločnosť

Juraj Valach

David W. Silva píše o Yannovi LeCunovi, odborníkovi na strojové učenie. Je zástupcom „čoraz menšieho počtu verejných osobností, ktoré skutočne chápu, čo je umelá inteligencia a ako funguje, a ktorých motiváciu – zdá sa – neovplyvňujú protichodné záujmy“.

Ale akosi sa mu nedostáva priestoru. Dokonca jeho labák spoločnosť Meta priradila pod nového šéfa, ktorého prijali, aby pracoval na „superinteligencii“. LeCun odišiel a založil si vlastný podnik, kde môže sledovať svoju trajektóriu.

Tento expert totiž tvrdí, že veľké jazykové modely sú slepou uličkou na ceste k umelej inteligencii na ľudskej úrovni.

Ak sa má aspoň trochu priblížiť skutočnej inteligencii, „musí ísť oveľa ďalej než len k textu a učiť sa zo širokého spektra zmyslových vnemov: videa, priestorových údajov, interakcie s fyzickým svetom“. A to nie je „len nejaká drobná technická námietka. Ide o úplné odmietnutie smerovania, na ktoré prakticky každá veľká spoločnosť zaoberajúca sa AI vynakladá miliardy“.

Čakať

K ničomu konkrétnemu veľkému som sa v tejto úvahe nedostal. To je súčasťou problému. Proti ohurujúcim tvrdeniam nedokážem postaviť rovnako bombastickú kritiku, pokiaľ nemá byť podobne vágna a zavádzajúca.

AI bublina praská, prorokuje sa už celé mesiace. Ale „prásk“ či len „puk“ stále nepočuť. AI je podvod, vyhodia sa na ňu miliardy a nič z toho, garantujú ďalší, zatiaľ čo nové nástroje v istom zmysle naozaj fungujú.

Nedá sa k tomu dodať nič lepšie, než čo píše David W. Silva: „Keď sa vyslovujú smelé tvrdenia o umelej inteligencii, nikto by nemal zabúdať na nasledujúce: Čas ukáže. A čas nikdy nesklame.“

A tak zatiaľ budem sedieť a čakať. Asi by som mal v medzičase premôcť nechuť a učiť sa používať AI ako nástroj. Dymové clony sa jedného dňa usadia, konečne dovidím ďalej a až vtedy príde čas na veľké závery. Čo iné mi zostáva?