Týždenný výber Lukáša Krivošíka Vznikol plán, ako regulovať AI, aby nezničila ľudstvo. Šanca, že uspeje, je malá

Lukáš Krivošík

Komentár

Odoberať autora e-mailom

Nezmeškajte žiaden článok.

Výskumníci predstavili päť scenárov vývoja umelej inteligencie a jej spoločenských dôsledkov do roku 2040.

Zaujímajú ho nezamýšľané dôsledky účelových ľudských konaní.

Ďalšie autorove články:

Destinácia vesmír s Michalom Novotom Šialený plán NASA alebo Ako chceli Američania poslať astronautov k Venuši

Čo nové s AI V USA sa diskutuje o znárodnení častí AI firiem. EÚ by nemala čo znárodniť

Nie iba Union Možno odíde zo Slovenska aj Tesco. A možno tiež Porsche Cayenne

S odstupom času sa možno ukáže, že najdôležitejšou udalosťou posledných dní nebola správa o prevzatí zdravotnej poisťovne Union Pentou ani prebiehajúca vojenská eskalácia medzi USA a Iránom v Perzskom zálive, ale zverejnenie pozoruhodnej iniciatívy AI 2040. Webová stránka iniciatívy je interaktívna a ukazuje možné scenáre ďalšieho vývoja umelej inteligencie.

Môže ísť o najdôležitejší príspevok k spoločensko-politickej debate o umelej inteligencii od encykliky pápeža Leva XIV. z mája tohto roka na rovnakú tému. Preto sme sa o nej rozprávali aj s Viktorom Zemanom v poslednej epizóde našej videorelácie Čo nové s AI.

Za materiálom, o ktorom sa v technologických kruhoch momentálne živo diskutuje, stojí nezisková organizácia AI Futures Project, ktorú vedie Daniel Kokotajlo, bývalý zamestnanec OpenAI. Minulotýždňový dvojhodinový rozhovor s ním na youtubovom kanáli The Diary Of a CEO už videlo viac ako 3,5 milióna ľudí.

Vlani zverejnil spolu so svojimi spolupracovníkmi scenár AI 2027, ktorý znepokojil aj amerického viceprezidenta JD Vancea. Varovali v ňom, že vývoj umelej inteligencie povedie čoskoro buď k zničeniu ľudstva (ak nám AI prerastie cez hlavu), alebo k enormnej koncentrácii moci v rukách hŕstky ľudí, ktorí budú schopní túto technológiu ovládať.

Naproti tomu AI 2040 sa pokúša načrtnúť scenár, ako sa tomuto vývoju vyhnúť. Autori ho označujú „plán A“. No skôr než sa k nemu dostaneme, treba aspoň stručne načrtnúť všetky ostatné možnosti.

Plán D: neregulované preteky za dosiahnutím ASI, teda „umelej superinteligencie“, ktorá prekoná ľudskú inteligenciu a dokáže sa sama zlepšovať. Ide v podstate o pokračovanie doterajšieho vývoja a súčasne najpravdepodobnejší scenár. Okolo roku 2030 by sa umelá superinteligencia mohla stať realitou. Dôsledky už načrtol scenár AI 2027: teda bezprecedentná koncentrácia moci v rukách niekoľkých ľudí (technologická oligarchia), jadrová vojna (ostatné mocnosti s tým nebudú súhlasiť) a/alebo osamostatnenie ASI, pre ktorú sa človek stane zbytočnou prekážkou na ceste ďalšieho sebazdokonaľovania.

Plán C: mierne spomalenie vývoja prostredníctvom polovičatých regulácií, ktoré dokáže obchádzať tak Čína, ako aj veľké americké IT spoločnosti. Možno niektoré krajiny alebo firmy na ďalší výskum dobrovoľne rezignujú, no ostatní ich akurát predbehnú. AI v takomto scenári síce ľudí nevykynoží, no hrozba koncentrácie moci v rukách niekoľkých jednotlivcov zostáva.

Plán B: Spojené štáty využijú relatívny náskok vo výskume AI začiatkom 30. rokov, aby natvrdo odstavili Čínu, a to či už kybernetickými útokmi na čínsku AI infraštruktúru, sabotážou, alebo obmedzenou vojenskou akciou proti čínskym dodávateľským reťazcom. Súťaž vo vývoji umelej inteligencie by tak mohla eskalovať do vojny medzi USA a ČĽR.

Plán S: globálne moratórium na ďalší vývoj umelej inteligencie. Znamenalo by to zmrazenie jej vývoja na dnešnej úrovni. „Výskum umelej inteligencie je vo všetkých významných krajinách prísne zakázaný a medzi informatikmi sa stáva rovnakým tabu ako výskum klonovania ľudí medzi biológmi,“ píšu autori.

Ako však priznávajú, problém tohto scenára spočíva v tom, že sa môže po čase zrútiť, keď niektorá krajina začne na vlastnú päsť pokračovať vo výskume. Akému scenáru dávajú prednosť autori?

Plán A: bilaterálna dohoda USA a Číny, ku ktorej sa majú postupne pripojiť aj ich spojenci. Spočívala by vo viacerých opatreniach.

Najdôležitejšie je vzájomné monitorovanie hardvéru. Datacentrá sú pomerne veľké, a preto dobre viditeľné. Podobne aj AI čipy vyrába len niekoľko firiem v niekoľkých krajinách. Dajú sa teda stopovať.

Vývoj superinteligencie by sa predbežne odložil do roku 2040. Vývoj AI by sa nemal uberať živelne, ale riadene – tak, aby sa okolo roku 2030 zastavil na úrovni špičkového ľudského experta. Kúpil by sa tak čas, ktorý by sa mohol investovať najmä do zvyšovania bezpečnosti.

Dôležitou súčasťou plánu A je úplná transparentnosť výskumu a súčasne čo najširšie rozptýlenie jeho výsledkov medzi čo najväčší okruh firiem v mnohých krajinách. Teda akýsi posun k „open source“.

Najkontroverznejšou časťou plánu je koncept „vzájomne zaručeného zničenia výpočtovej kapacity“. Spojené štáty a Čína by mali byť schopné rýchlo zničiť veľké AI dátové centrá druhej strany, ak by tá porušila dohodu a pokúsila sa tajne vybudovať superinteligenciu. Ide o obdobu jadrového odstrašenia: podvod by nepriniesol výhodu, pretože výpočtová infraštruktúra by sa stala cieľom útoku.

Pre verejnosť môže byť zaujímavá ekonomická stránka plánu A. Napriek dohode na spomalení vývoja AI má táto technológia stále potenciál priniesť významný ekonomický rast.

Problém je, že umelá inteligencia a jej využitie v robotike by už v polovici budúceho desaťročia mohli nahradiť väčšinu kognitívnej aj manuálnej ľudskej práce. Namiesto záchrany pracovných miest plán A navrhuje zaviesť tzv. občiansku dividendu. Jej hlavným zdrojom majú byť poplatky za povolenia na využívanie výpočtovej kapacity a prevádzku robotov.

O pár rokov by výnosy z občianskej dividendy na osobu mali byť také veľké, že práca prestane byť spôsobom obživy a stane sa koníčkom. Inak povedané, ľudstvo sa ocitne v „postvzácnostnej ekonomike“.

Človek si tu ľahko spomenie na sci-fi seriály Star Trek alebo Orville, v ktorých už ľudia vďaka technológiám nepracujú pre peniaze, ale „aby zdokonaľovali seba a zvyšok ľudstva“.

Na tomto mieste nejeden čitateľ Postoja povie, že to je ekonomický nezmysel. Vždy bude zrejme existovať dopyt po práci, ktorú bude vedieť vykonať len človek, nie AI alebo AI robot. A tak vzácnosť bude existovať aj v spoločnosti, kde veľká časť materiálnych starostí človeku odpadne...

Množstvo námietok možno vzniesť aj proti ostatným návrhom iniciatívy AI 2040. Aj samotní autori preto rátajú s pravdepodobnosťou len 3 až 15 percent, že sa tento scenár zrealizuje.

V situácii, keď sa medzinárodný poriadok založený na pravidlách otriasa v základoch (vrátane myšlienky nešírenia jadrových zbraní), a to predovšetkým v dôsledku činnosti súčasnej americkej administratívy, je ťažko predstaviteľné, že Spojené štáty povedú s Čínou rokovania s cieľom dôsledne kontrolovať vývoj umelej inteligencie a vytvoriť nejaký medzinárodný regulačný mechanizmus.

Aj diskusie na Postoji ukazujú, že názory na budúcnosť umelej inteligencie sa značne líšia. Niektorí pochybujú, že AI vôbec prekoná človeka. Umelá inteligencia v skutočnosti nie je inteligenciou, len jej napodobeninou.

Ďalší upozorňujú na možnosť, že celá táto technológia je predovšetkým veľká marketingová bublina technologických firiem, ako vylákať z ľudí a vlád peniaze. A ľahko sa z toho môže vykľuť aj finančná bublina, ak sa ukáže, že AI nedokáže investorom zhodnotiť a vrátiť gigantické prostriedky, ktoré do nej vložili.

Zároveň ide o technológiu, ktorá sa rýchlo vyvíja a už teraz mení nielen svet práce, ale napríklad aj vojnu. Preto je dôležité sledovať, akým smerom sa uberá politicko-spoločenská debata o umelej inteligencii. Či už má podobu pápežskej encykliky Magnifica humanitas, alebo iniciatívy AI 2040.