Budúcnosť svetovej bezpečnosti Treba sa báť viac Putina alebo AI?

Putin, Trump, Si či Kim Čong-un? Pre väčšinu ľudí asi tí najsilnejší uchádzači o post aktuálne najväčšej hrozby pre svetovú bezpečnosť, mier a krehkú rovnováhu. Nie je tu však ešte niekto väčší?

Zo strednodobého hľadiska, ak nie už skôr, môže väčšie riziko eskalácie napätia – až po úroveň termonukleárnej vojny – predstavovať niekto bez občianskeho preukazu, miesta trvalého bydliska či dokonca ľudskej tváre: mám na mysli nástup umelej inteligencie (AI) a integráciu autonómnych systémov a procesov do vojenskej sféry.

Môže to znieť paradoxne, ale ľudský faktor – vrátane empatie, pudu sebazáchovy, strachu a celkovo komplexnosti ľudskej skúsenosti, rozhodovania a konania – je totiž kľúčovým prvkom medzinárodnej bezpečnosti a deeskalácie napätia.

Doba, v ktorej je všetko hrozbou

Najskôr pár slov z pohľadu bezpečnosti k charakteru doby, v ktorej žijeme.

Bez snahy o alarmizmus či pesimizmus treba konštatovať, že rôzne analýzy poukazujú na bezpečnostné riziká plynúce z mnohých prvkov nášho každodenného života. Autá (tie softvérové), telefóny či počítače, ale aj banky a bankové aplikácie, nemocnice, energetické siete, prenosové sústavy... skrátka všetko, čo je pripojené na sieť, môže byť hacknuté, ovládnuté na diaľku, zneužité. A všetko sú to veci, ktoré prakticky každý z nás používa na zabezpečenie svojich denných potrieb – od prepravy či ošetrenia cez platby (za jedlo, bývanie...) až po komunikáciu. Nejestvuje povolanie či činnosť, ktorá by bola od týchto prvkov úplne izolovaná.

Navyše, aj keď sa neustále pracuje na rozvoji bezpečnostných a ochranných opatrení proti týmto (novým) hrozbám, jednoducho neexistuje a nebude existovať 100-percentná záruka, že systémy a technológie nebudú napadnuteľné a zneužiteľné.

Táto zvýšená zraniteľnosť prejavujúca sa prakticky každý deň je daňou za masívny rozvoj technológií aj za globálne prepojenie, a tým aj za naše (relatívne) vysoké pohodlie a (relatívne) vysokú prosperitu.

Návrat heteronómiePadá fasáda stavby medzinárodného poriadku. Stratí aj svoju statiku?

Viliam Ostatník

Rozvoj technológií tiež významnou mierou prispieva k stieraniu rozdielov medzi vojnovým stavom a stavom mieru, medzi nepriateľom a priateľom a podporuje vznik tzv. šedých zón, v ktorých dochádza k rôznym operáciám rôznych aktérov – vojenského aj nevojenského charakteru, vykonávaných štátnymi aj neštátnymi subjektmi.

Ako príklad uveďme rýchly rozvoj dronových technológií – za relatívne malé peniaze môžu štátni aj neštátni aktéri získať veľmi efektívne spôsobilosti, ktoré možno využiť aj na vojenské účely (špionáž, spravodajstvo, ale aj priamy útok).

Skrátka, doba prináša rýchlu proliferáciu vojenských aj smrteľných technológií, zavádza novú strategickú asymetriu medzi aktérmi, zahmlieva zodpovednosť a zúčtovateľnosť, znižuje vstupné náklady na vytváranie bezpečnostných rizík a budovanie vojensko-smrteľných spôsobilostí a prináša postupnú militarizáciu prakticky všetkého, stále a všade.

Do tohto „kokteilu“ hrozieb prichádza AI a autonómne schopnosti. Zvyšuje sa ich vinou riziko eskalácie?

Hlavné riziko AI a autonómie vo vojenskej sfére a bezpečnosti: rýchlosť

Integrácia autonómnych schopností do vojenských technológií a procesov spolu s AI podstatne mení prakticky celú dynamiku prípravy aj vedenia konfliktu. Navyše, ich praktické dôsledky cítiť nielen vo vojne, ale aj v mieri – teda prakticky stále.

Masívne totiž komprimujú cykly vývoja a najmä plánovania a rozhodovania. Na prvý pohľad ide o významný posun vpred – urýchlenie a zefektívnenie inak pomalých procesov ponúka strategickú výhodu. Na druhej strane však úmerne rastie riziko miskalkulácie a nekontrolovanej eskalácie napätia či samotného konfliktu.

Zavedením autonómnosti a AI do vojenskej sféry vzniká úplne nová strategická nestabilita a neistota, ktorá je násobená už existujúcimi parametrami moderných konfliktov (spomínané nejasné hranice medzi vojnou a mierom, noví aktéri, multidoménové súperenie a podobne).

Niektorí autori, napr. Michael C. Horowitz (2018), Paul Scharre (2018) či Vincent Boulanin, Lora Saalman, Petr Topychkanov, Fei Su a Moa Peldán Carlsson (2020), už dlhodobo poukazujú na potenciálne riziká AI spojené nie so zbraňovými systémami ako takými, ale skôr s masívnym urýchľovaním procesov vojenského plánovania a rozhodovania.

Rýchlosť sa stáva mantrou, prostriedkom aj cieľom zároveň. Čím vyššia rýchlosť takýchto kľúčových procesov tým menšia reálna šanca, že sa človek zapojený do „slučky“ rozhodovania (angl. loop) dokáže plnohodnotne a zmysluplne zorientovať a rozhodnúť v reálnom čase, čo by inak urobil až po dôkladnom a komplexnom zvážení situácie. Vzniká tak riziko eskalačnej špirály, obzvlášť ak by využívali AI či autonómne systémy takýmto spôsobom všetky strany konfliktu.

Predstavme si hypotetickú, no zároveň konkrétnu situáciu: umelá inteligencia je v štábnom veliteľstve inštruovaná vyhľadať (vojenské) ciele, ktoré chce velenie v rámci (vojenskej) operácie zneškodniť. AI zanalyzuje enormné množstvo dát z rôznych zdrojov, spraví to v reálnom čase a veľmi rýchlo.

Budúcnosť autopriemysluOprávnene sa zaoberáme zákazom spaľovacích motorov, ale uniká nám digitálna revolúcia

Viliam Ostatník

Človek – veliteľ operácie – dostane od AI zoznam aktuálnych cieľov – polôh kľúčových ľudí a materiálu, ktoré sú v prebiehajúcom konflikte legitímnym vojenským cieľom. Treba sa rozhodnúť v reálnom čase, či dá veliteľ povel na vykonanie zásahu. Tlak je veľký, nepriateľ môže v tej chvíli robiť to isté... Autonómne drony sú pripravené, stačí stlačiť tlačidlo a veci sa dajú do pohybu.

V tomto momente možno upozorniť minimálne na tri zásadné problematické body – hoci sa v centre rozhodovacieho procesu stále nachádza človek (veliteľ operácie), ako môže v reálnom čase vyhodnotiť, či (1) AI skutočne identifikovala tie správne polohy, miesta, ľudí, materiál (teda či ide skutočne o legitímne ciele)? Alebo či (2) AI efektívne zohľadnila faktory, ako sú zaľudnenosť či riziko kolaterálnych škôd (na nelegitímnych cieľoch)?

No a pri využití autonómnych zbraňových systémov sa dajú položiť rovnaké otázky (3). Dostanú síce povel od človeka (veliteľa), ale ich reálna takticko-operačná trajektória smerom k naplneniu cieľa (navyše prvotne určeného AI) je samostatná a po spustení operácie bez reálnej kontroly človeka.

Ako vždy, problém sa možno vyrieši postupom času. Faktom však je, že aktuálne vedia autonómne zbraňové systémy rozpoznať len limitovaný profil cieľov a veľmi limitovaná je aj ich schopnosť komplexne posúdiť celý kontext či interpretovať ľudské správanie. A to sa, prirodzene, rozprávame o veľmi citlivej oblasti, v ktorej je posudzovanie možných strát (na životoch) v porovnaní s možnými strategicko-operačnými víťazstvami mimoriadne  kontextuálnou, a teda ľudskou záležitosťou.

Predpokladám, že sa teda buď spraví kompromis na strane tých najsilnejších výhod AI (rýchlosť, efektivita), alebo na strane reálneho uplatňovania medzinárodného a vojenského práva (legálne použitie sily, ochrana civilistov, posudzovanie širšieho kontextu pri vojenskom plánovaní a rozhodovaní a podobne).

Niečo nám naznačuje to, že už koncom roka 2024 Valné zhromaždenie OSN prijalo Rezolúciu 79/L.77, ktorá zdôrazňuje „vážne obavy“ v oblasti humanitárneho práva, etiky či celkovej bezpečnosti plynúce z využívania AI a autonómnych systémov vo vojenskej sfére. Za hlasovalo 166 štátov, 3 proti a 15 sa zdržalo.

Rezolúcia však zatiaľ neviedla k žiadnej záväznej dohode, primárne pre nevôľu superveľmocí (Jones 2024), ktoré preferujú miesto reštrikcií (zatiaľ) len politické deklarácie či nezáväzné kódexy (tzv. codes of conduct). Takýto vývoj skôr indikuje úmysel naplno využívať výhody AI a autonómnych systémov vo vojenskej sfére aj za cenu spomenutých rizík, nasledujúc chladnú logiku pretekov v zbrojení – ak to (náhodou) robí váš súper, musíte aj vy.

Zachránil nás niekedy ľudský faktor od (jadrovej) vojny? Kríza v roku 1962...

Skutočné udalosti vždy pomôžu porozumieť lepšie než len teoretizovanie.

Už od tínedžerských časov ma fascinovalo štúdium dejín a pomerne dosť času som trávil čítaním o Kubánskej kríze (1962) a menej známom vývoji o dve desaťročia neskôr. Obe udalosti tu stručne (až zjednodušene) zanalyzujem a zameriam sa len na ľudský faktor kontroly eskalácie.

Počas 13 dní v októbri 1962 vyeskalovalo napätie medzi USA a ZSSR v otázke vyzbrojovania Kuby – až na úplný pokraj jadrovej vojny. Moskva reagovala najmä na umiestnenie pätnástich amerických MRBM rakiet typu PGM-19 Jupiter (schopných niesť jadrovú hlavicu a zasiahnuť Moskvu počas niekoľkých minút) v Turecku. Sovieti na Kubu postupne transportovali – okrem množstva inej taktickej výzbroje – MRBM rakety R-12 Dvina (Sandal) a R-14 Čusovaja (Skean).

Do situácie bolo, prirodzene, zapojených množstvo viac aj menej známych osobností. Vplyv, aký mali rôzni ľudia a faktory na vývoj krízy z pohľadu USA, výborne a zaujímavo analyzuje Graham Allison vo svojej knihe Essence of Decision: Explaining the Cuban Missile Crisis (1971).

Ilúzia hodnotovej neutralityKomu slúži umelá inteligencia a koho by volila?

Jozef Filko

Jeden z kľúčových záverov, ku ktorému dospieva, je, že strategické rozhodnutia sa nerobia (len) podľa nejakých čisto racionálnych presných kalkulácií, ale na ne významne vplývajú faktory, ako sú štruktúra a zaužívané protokoly a procesy v organizácii či prosté politizovanie, zohľadňujúc (psychologické) profily konkrétnych ľudí, ktorí sedia v daný moment na daných stoličkách.

Spomeňme piatich: John F. Kennedy, jeho brat Robert, Nikita Chruščov, Anatolij Dobrynin a Vasilij Archipov. Dvadsiateho siedmeho októbra 1962 v reakcii na zostrelenie prieskumného lietadla U2 nad Kubou začali americké vojnové lode rozmiestňovať podvodné míny, aby tým donútili sovietske ponorky vynoriť sa. Kríza vrcholila, tenzie boli enormne vysoké.

Predstavme si tú situáciu, v ktorej veliteľ jadrovej ponorky nedostáva správy z Moskvy a čelí priamemu ohrozeniu. Rozum velí zaútočiť, kým nebude neskoro. Desaťkilotonové jadrové torpédo je teda pripravené na odpal a čaká sa na posledné rozhodnutie veliteľa skupiny Vasilija Archipova. Odmietol. Rozhodol sa radšej čakať. Iracionálne, asi skôr intuitívne.

Nedá sa, samozrejme, s istotou povedať, že by odpálenie jedného, hoc aj jadrového torpéda naozaj spustilo jadrovú vojnu, ale pravdepodobnosť takého vývoja je zďaleka nie nulová.

Postavy dvoch Kennedyovcov spolu s Chruščovom a jeho veľvyslancom v USA Dobryninom sú kľúčové pre priamu, najmä neformálnu komunikáciu (a tzv. backdoor diplomacy). Jedine vďaka tomu sa podarilo dohodnúť otočenie sovietskej flotily a stiahnutie sovietskeho arzenálu výmenou za neoficiálny (!) prísľub, že Američania vojensky nenapadnú Kubu a tiež stiahnu už spomínaný svoj jadrový arzenál z Turecka.

Hlboko ľudské pohnútky (dôvera, neformálnosť) tak de facto umožnili dosiahnutie kompromisu a deeskaláciu napätia.

... a tiež v roku 1983

Začiatkom 80. rokov bola situácia medzi dvoma veľmocami opäť mimoriadne napätá. Dôvodov bolo viac, ako počiatok eskalácie však môžeme datovať sériu stretnutí vodcov ZSSR v máji 1981, na ktorých sa Brežnev a Andropov (vtedajší šéf KGB) zhodli v presvedčení, že USA plánujú reálny jadrový – tzv. preemptívny – útok na ZSSR. Spustili teda operáciu, ktorú KGB a GRU nazvali RJAN (РЯН, skratka od pojmu Ракетно Ядерное Нападение, teda raketový jadrový útok).

Táto operácia bola najväčšou spravodajsko-vojenskou operáciou v sovietskych dejinách. Nasledovali dva roky mimoriadne studenej studenej vojny – výmena sovietskeho vedenia (nakoniec sa v júni 1983 generálnym tajomníkom stal samotný Andropov), ktorá však (zatiaľ) nebola generačná ani mentálna, Washington plánoval nasadenie nových MRBM rakiet Pershing II do Európy a do toho ešte aj tragické mylné zostrelenie kórejského civilného Boeingu 747 začiatkom septembra 1983 sovietskou stíhačkou Suchoj Su-15TM, pri ktorom zahynulo 269 ľudí a dostalo Moskvu pod ešte väčší medzinárodný tlak.

Je jasné, že v takejto atmosfére sa neodpúšťa nijaká, hoc i len malá chyba. Každý pohyb motýlích krídiel môže vyvolať dominovú reakciu. A v centre včasného varovania (proti jadrovému útoku) Serpukov-15 neexistuje nič také ako malá chyba. Preto by bolo úplne racionálne zareagovať na alarm, ktorý sa spustil 26. septembra 1983 v tomto sovietskom vojenskom veliteľskom centre asi 130 kilometrov od Moskvy, podľa protokolu.

AI a digitálne súkromieUmelá inteligencia akceleruje všetko. Aj špehovanie

Juraj Valach

Vojenský satelitný systém hlásil, že na ZSSR bolo vystrelených päť jadrových rakiet. Počítač začal odpočítavať minúty, počas ktorých je nevyhnutné zareagovať. Stanislav Petrov, ktorý mal veliteľskú službu, sa rozhodol napriek tomu nezareagovať – teda neposunúť kľúčovú informáciu o ohlásenom jadrovom útoku, na ktorú sovietske politbyro takpovediac čakalo už dva roky – a miesto toho sa sám rozhodol čakať.

Bolo to proti protokolu a proti chladnej racionálnej kalkulácii studenej vojny. Ale neboli to rakety – bol to len odraz slnka od stratosférického mraku...

Podobne kľúčovú úlohu zohral v nasledujúcich mesiacoch ďalší človek – Rainier Rupp známy pod prezývkou Topaz, ktorý bol agentom východonemeckej tajnej služby HVA.

Pôsobil ako „krtko“ priamo v centrále NATO v Belgicku, a keď sa Spojenci rozhodli vykonať uprostred spomínaných tenzií masívne vojenské cvičenie Able Archer 83 v novembri 1983 (počas ktorého simulovali reálne napadnutie a vojnu), boli to informácie práve od agenta Topaza, ktoré sovietske velenie pravdepodobne presvedčili o tom, že to nie je len krycia aktivita reálneho naplánovaného útoku, ale skutočne len vojenské cvičenie.

Samozrejme, nedá sa pripísať zásluha len jednému človeku, ale črty deeskalácie sú jednoducho esenciálne ľudské.

Pripravme sa na anni di turbolenze

Ľudia so svojimi komplexnými vlastnosťami a pohnútkami sú teda kľúčovým faktorom v deeskalovaní medzinárodného napätia. S príchodom AI a autonómnych systémov do vojenskej sféry sa medzinárodné napätie môže zvýšiť a zároveň sa môžu narušiť unikátne (ľudské) spôsoby deeskalácie.

Ako píšem už dlhšie aj na iných miestach, predpokladám, že najbližšie roky budú charakteristické kontinuálnymi tenziami. Pripomína to pre Talianov dobre známe a smutné časy, nazvané ako „roky olova“ (anni di piombo). Počas tohto obdobia od konca 60. do začiatku 80. rokov minulého storočia fungovala v Taliansku tzv. stratégia tenzie (strategia della tensione). Bola postavená na šírení neistoty a strachu prostredníctvom teroristických aktov a operácií.

Zvyšovaním tejto tenzie sa mala pripraviť pôda na sprísnenie opatrení, zvýšenie štátnej moci, prípadne štátny prevrat. De facto šlo o spôsob gerilovej vojny (sledujúc princípy, ktoré opísal kapitán francúzskej armády Yves Guérin-Sérac, veterán vojen v Indočíne, Kórei a Alžírsku), ktorý nakoniec viedol k bičovaniu emócií a útokom na oboch – radikálnych – stranách spektra.

Verím, že nás nečakajú nové celoeurópske anni di piombo, ale myslím, že nás čakajú anni di tensione alebo anni di turbolenze (v taliančine to jednoducho znie lepšie).

Nedá sa však úplne vylúčiť ani scenár totálnej vojny či „aspoň“ totálnej kontroly obyvateľstva a každodenného života. Strašidelné, ale nie nerealistické. Dystopické romány sa dobré čítajú, ale treba spraviť maximum pre to, aby sa nestali realitou.

Alebo aby sme nedali za pravdu veľkému mysliteľovi Sun-c’, ktorý radil (či skôr upozorňoval?), že tým najvyšším vojenským umením je poraziť a ovládnuť nepriateľa bez boja.

AI a autonómne systémy vo vojenskej sfére môžu eskalácii napätia či dokonca naplneniu takých dystopických scenárov významnou mierou napomôcť. Možno viac ako nejaký Putin, Trump či Kim Čong-un.