Technologický pokrok bez regulácie Čo prinesie umelá inteligencia s nadľudskými schopnosťami?

Téma umelej inteligencie od novembra minulého roka definitívne prestala byť iba záležitosťou sci-fi filmov a futuristických rozhovorov a stala sa súčasťou nášho každodenného života. Možno nie bezprostredne, ale už asi niet človeka, ktorý by nepočul o chatbote ChatGPT, ktorý vie človeku odpovedať na komplikované otázky, deťom napísať domáce úlohy, ale aj naprogramovať celé aplikácie či viesť s vami hlboké rozhovory o vašich životných problémoch.

Iba nedávno jeden z fanúšikov umelej inteligencie na Instagrame ukázal návod, ako môže ChatGPT človeku poslúžiť ako kouč. Stačí dať aplikácii v čete presné inštrukcie, ako na to. Poprosíte ju, aby vám položila potrebné otázky o vašej situácii v práci, rodinnom a osobnom živote, aby si vedela vytvoriť obraz a aby vám následne dala rady, ako môžete svoju situáciu zlepšiť.

Nie je to žiadny vtip. ChatGPT je múdry, kladie naozaj hlboké otázky, vaše odpovede zanalyzuje a následne použije všetky znalosti, ktoré zozbieral na internete, aby vám pomohol.

Dokáže nahradiť kouča? Zatiaľ asi sotva. No aj tento príklad ukazuje, že už hovoríme o úplne inom type umelej inteligencie ako o tom, o ktorom sme počúvali až donedávna. Ten sa obmedzoval na vyhrávanie šachových partií či riešenie pokročilých matematických úloh.

Aj tento príklad je však iba špičkou ľadovca, ktorý predstavuje to, čo všetko dnes umelá inteligencia dokáže. Zlatým grálom pre vývojárov v oblasti je však takzvaná všeobecná umelá inteligencia, nazývaná aj božská umelá inteligencia. Ide o stav, keď by sa stala autonómnou, a to v tom zmysle, že by bola schopná generovať nové vedecké poznatky a vykonávať všetky ľudské úlohy.

Podľa expertov by príchod takejto pokročilej formy umelej inteligencie spôsobil podobný historický a technologický zlom, akým bol napríklad vynález tlačiarenského stroja.

Čo nájdeme za cieľovou čiarou?

Dosiahnutie takéhoto rozvoja sa môže zdať utopické, ak sa však spýtate na názor odborníkov, ktorí sa vývojom umelej inteligencie priamo zaoberajú, vôbec to nepovažujú za utópiu, ale iba za otázku času. Ian Hogarth zároveň pre britský denník The Financial Times upozorňuje, že dosiahnutie „božskej“ umelej inteligencie je jasným cieľom hlavných spoločností v tomto odvetví.

Hogarth v spomínanom článku argumentuje, že preteky o vyvinutie božskej umelej inteligencie sa musia spomaliť, pretože jej príchod môže pre ľudstvo znamenať viaceré veľmi vážne riziká. Hogarth pritom nie je len tak hocikto. V sektore sa pohybuje od svojich štúdií na Cambridgeskej univerzite, investoval do viac ako 50 startupov venujúcich sa umelej inteligencii a zároveň každý rok zostavuje správu o stave umelej inteligencie. Nejde teda o človeka, ktorý by bol a priori proti tejto technológii.

Ako však v článku pre britský denník vysvetľuje, všeobecná umelá inteligencia by mohla byť silou, ktorá presahuje našu kontrolu alebo chápanie a ktorá by mohla viesť k úplnej deštrukcii ľudskej rasy.

V skratke, išlo by o superinteligentný počítač, ktorý sa autonómne učí a vyvíja, rozumie svojmu prostrediu bez potreby supervízie a dokáže transformovať svet okolo seba. Hogarth jasne priznáva, že umelá inteligencia ešte v takomto stave nie je, ale nátura tejto technológie je taká, že je extrémne ťažké predpovedať, kedy sa do takéhoto stavu dostaneme.

Jedno je však jasné. Preteky hŕstky spoločností o vytvorenie takejto umelej inteligencie sa v poslednom čase veľmi zrýchlili. A problém podľa Hogartha je, že sa tak stalo aj napriek tomu, že spoločnosti zatiaľ nevedia, ako tento vývoj uskutočňovať bezpečne, a nemajú nad sebou žiadnu kontrolu. Ako píše, „bežia k cieľovej čiare bez toho, aby rozumeli tomu, čo leží za ňou“.

Celé preteky v podstate ovládli dve hlavné spoločnosti: DeepMind, ktorá vznikla v roku 2010 v Londýne a v roku 2014 ju kúpil Google. Druhým hráčom je OpenAI, spoločnosť založená skupinou Američanov, medzi ktorými bol aj Elon Musk, stojaca za slávnym ChatGPT.

Samotný Shane Legg, hlavný vedec DeepMindu, ešte v roku 2011 v jednom interview povedal, že najväčšia existenčná hrozba tohto storočia spočíva v umelej inteligencii. Ako dodal, „ak by sa superinteligentný počítač rozhodol zbaviť sa nás, urobil by to celkom efektívne“.

Umelej inteligencii chýbajú hodnoty

Ďalším potenciálnym problémom je nebezpečenstvo zle zadaných úloh. Hogarth si v článku pomáha príkladom, ktorý vo svojej lekcii použil v roku 2021 profesor počítačovej vedy z Kalifornskej univerzity Stuart Russell. OSN by napríklad požiadala všeobecnú umelú inteligenciu, aby našla riešenie na odkyslenie oceánov.

Spoločenstvo národov by si bolo vedomé toho, aké riziká prináša zlé zadanie úloh, a tak by umelej inteligencii prikázalo, aby výsledok nepriniesol toxické vedľajšie produkty a aby proces neuškodil rybám. Pokročilá umelá inteligencia by prišla s riešením a aj by vytvorila katalyzátor, ktorý by dosiahol zadanú úlohu. Chemická reakcia by však zároveň pohltila štvrtinu kyslíka v atmosfére a ľudstvo by tak zomrelo.

Ide o vysoko hypotetický scenár, no poukazuje na to, že použitie umelej inteligencie so sebou prináša množstvo komplexných problémov. Okrem toho faktom je, že umelá inteligencia nemá „vrodené“ ľudské hodnoty a niektoré jej rozhodnutia preto môžu byť veľmi zlé.

V rámci odvetvia síce existujú ľudia, ktorí sa venujú trénovaniu umelej inteligencie v ľudských hodnotách, existuje však obrovský nepomer medzi vývojom v tejto oblasti a vývojom umelej inteligencie ako takej. V spoločnosti DeepMind sa tejto činnosti venujú dve percentá pracovnej sily, v OpenAI sedem percent.

Na riziká ďalšieho vývoja umelej inteligencie upozornilo minulý mesiac viac ako 1800 signatárov listu, v ktorom žiadali polročnú prestávku vo vývoji systémov umelej inteligencie silnejších ako GPT-4. Zdôvodňovali to tým, že túto pauzu treba využiť na zostavenie bezpečnostných pravidiel a regulácie ďalšieho vývoja.

Signatári listu sa pýtajú: „Mali by sme vyvinúť neľudské mozgy, ktoré nás nakoniec môžu prečísliť, prechytráčiť, zastúpiť a nahradiť? Mali by sme riskovať stratu kontroly nad našou civilizáciou?“

Európa bude regulovať už tento rok

Ako pokračujú, „tieto rozhodnutia nie je možné zverovať nevoleným vedúcim pracovníkom v oblasti technológií. Výkonné systémy umelej inteligencie by sme mali vyvíjať až po tom, čo si budeme istí, že ich účinky budú pozitívne a riziká zvládnuteľné“.

Samotný list sa však stretol s polemickou odpoveďou. I keď ho podpísali stovky vedúcich osobností technologického odvetvia, mnohí iní ich označili za tmárov a za ľudí brániacich pokroku. Jedným z kritikov bol aj Timnit Gebru, ktorý založil Distributed AI Research Institute. Hypotézy o dosiahnutí božskej umelej inteligencie sú podľa neho iba preháňaním na upútanie pozornosti. Aj on však uznáva, že reálne snahy o vytvorenie takejto božskej umelej inteligencie sú nebezpečné.

Hogarth, ktorý je tiež signatárom otvoreného listu, požaduje silnú reguláciu vývoja tejto formy umelej inteligencie a relatívne voľný rozvoj umelej inteligencie, ako ju poznáme teraz.

Je však niečo také reálne? Jednou z kľúčových krajín v tejto oblasti sú bezpochyby Spojené štáty. Ako však upozorňuje The Washington Post, list síce vyvolal medzi federálnymi zákonodarcami rozruch, no iba veľmi málo z nich technológiám skutočne rozumie.

To znamená, že vplyv lobistov, ale aj aktivistov bude značný a zákonodarcovia budú ovplyvniteľnejší. To, že by boli v dohľadnom čase prijaté účinné a správne regulácie, nenaznačuje ani pohľad do minulosti.

Americké úrady sa snažili regulovať veľké technologické firmy aj v minulosti, no i keď boli prijaté rôzne zákony, veľké zmeny nepriniesli. Facebook je stále semenišťom a rozduchávačom extrémistických nálad v spoločnosti a sociálne siete aj naďalej využívajú škodlivé algoritmy.

V Európskej únii je situácia lepšia a európski úradníci už dva roky pracujú na zákone, ktorý by umelú inteligenciu reguloval. Okrem iného obsahuje kategorizáciu rôznych nástrojov používajúcich umelú inteligenciu podľa miery rizika, ktoré predstavujú.

Ak je riziko vysoké, vývojári budú musieť vykonávať prísne hodnotenia rizík, zaznamenávať činnosť nástroja a sprístupňovať údaje kontrolným orgánom. Podľa agentúry Reuters sa očakáva, že zákon by mohol byť prijatý už tento rok.

Či to však naozaj pomôže, je otázne. Európa síce môže vytvárať vlastné regulácie, vývoj umelej inteligencie však môže ďalej nekontrolovane pokračovať na inom mieste. Ako teda argumentuje Hogarth a v podstate aj signatári presláveného listu, riešením je spolupráca vývojárov a svetových vlád na vytvorení všeobecne platnej regulácie. To sa však zdá byť nedosiahnuteľnou utópiou.