Ako regulovať umelú inteligenciu Odborníci navrhujú jasné označenie generovaného obsahu a vekové obmedzenia

Sociálny psychológ Jonathan Haidt a Eric Schmidt, bývalý šéf spoločnosti Alphabet Inc., ktorá vlastní aj spoločnosť Google, v magazíne The Atlantic varujú pred niektorými nebezpečenstvami, ktoré so sebou prináša rýchly vývoj umelej inteligencie v posledných rokoch.

V eseji navrhujú aj niekoľko opatrení, ktoré by mohli znížiť dosah týchto rizík.

Článok sa rozhodli napísať, pretože každý z nich vo svojej oblasti dospel k určitým obavám týkajúcim sa umelej inteligencie. Haidt sa ako sociálny psychológ venoval vo svojej doterajšej práci napríklad tomu, ako sociálne siete poškodzujú psychické zdravie mladých dievčat a oslabujú demokraciu. Schmidt zas napísal knihu, v ktorej sa zamýšľal nad možnými dôsledkami aplikácie umelej inteligencie do nášho každodenného života.

Autori textu identifikovali štyri hlavné hrozby, ktoré so sebou vývoj umelej inteligencie prináša, ak sa zneužije na nemorálne ciele – preplnenie sociálnych sietí nedôveryhodným obsahom, manipulácia ľudí prostredníctvom obsahu vytvoreného na mieru, ohrozenie vývoja detí a urýchlenie šírenia propagandy autoritárskych režimov.

Profesionálnejšie vytvorené nepravdy

Autori upozorňujú, že propaganda sa niekedy nepokúša človeka jednoznačne presvedčiť o svojej pravde. Jej primárnym cieľom niekedy môže byť skrátka to, aby človeka zmiatla, nahnevala alebo v ňom vyvolala nedôveru.

Na internete sa v posledných týždňoch šírili obrázky toho, ako policajti násilne zatýkajú Donalda Trumpa, alebo fotografie pápeža Františka v štýlovej bunde. Všetky boli vygenerované umelou inteligenciou. Na vytvorenie falošných obrázkov už dnes nepotrebujete schopnosť pracovať s náročnými programami, stačí vám kreativita a umelá inteligencia.

Samostatnou kapitolou sú tzv. umelou inteligenciou vytvorené „deepfake“ videá. Autori varujú, že „ilúzie, ktoré v minulosti patrili do oblasti kuriozít, sa čoskoro môžu stať súčasťou bežného života“.Zdieľať

Aj keď väčšina ľudí pravdepodobne neverila, že je fotografia pápeža v extravagantnom oblečení pravá, pokiaľ budú sociálne siete zaplavované väčším a väčším množstvom podobného obsahu, autori varujú, že ľudia už nebudú veriť ničomu. S tým bude klesať aj dôvera ľudí vo svojich spoluobčanov a v štátne inštitúcie.

Samostatnou kapitolou sú tzv. umelou inteligenciou vytvorené „deepfake“ videá, v ktorých známi ľudia zdanlivo hovoria veci, ktoré v skutočnosti nikdy nepovedali. Autori eseje tvrdia, že takéto videá fungujú podobne ako optické ilúzie – aj keď racionálne vieme, že to, čo vidíme, nie je pravdivé, na naše zmýšľanie to zapôsobí, pretože cítime intuitívnu potrebu veriť svojim zmyslom. Autori varujú, že „ilúzie, ktoré v minulosti patrili do oblasti kuriozít, sa čoskoro môžu stať súčasťou bežného života“.

Čítajte tiež

Čo si o ChatGPT myslí Harari Umelá inteligencia môže zmeniť internet na svet plný ňou vytvorených ilúzií

Michal Lukáč

Izraelský historik a filozof tvrdí, že umelá inteligencia generujúca text je prevratná kvôli tomu, akú rolu v našej spoločnosti zastáva verbálna komunikácia.

Pokročilá manipulácia personalizovaným obsahom

Druhým nebezpečenstvom je podľa autorov schopnosť umelej inteligencie manipulovať pomocou personalizovaného obsahu. Predstavte si, aké množstvo peňazí by kasína zarábali, keby dokázali vytvoriť hracie automaty pre každého človeka na mieru. Systém výhier, hudba a vizuály by boli navrhnuté presne tak, aby čo najviac upútali pozornosť daného hráča.

V skutočnosti sa takejto technológii už vystavujeme, a to vždy, keď si otvoríme nejakú sociálnu sieť. Teraz sa tam však stretávame so skutočnými ľuďmi a firmami. Čo by sa stalo, keby boli aj naši spoločníci na sociálnych sieťach vytvorení presne podľa našich preferencií?

Spoločnosť Replika už v súčasnosti za 300 dolárov ponúka ľuďom virtuálneho priateľa, ktorý sa s nimi rozpráva presne podľa ich preferencií. Sociálna sieť Snapchat už predstavila svojho vlastného chatbota a podobné technológie chce už čoskoro využiť aj spoločnosť Meta (ktorá vlastní WhatsApp, Facebook alebo Instagram).

V budúcnosti sa objavia aj umelé inteligencie vytvorené na to, aby „nás podviedli alebo politicky ovplyvnili, pričom niekedy sa budú v online priestore vydávať za skutočných ľudí“.Zdieľať

Všetky tieto programy nás budú pripravovať o našu pozornosť, čas a potenciálne aj peniaze. Predstavte si napríklad chatbota, ktorý vám fandí pri stávkovaní a nenápadne vás povzbudzuje, aby ste nabudúce stavili vyššiu sumu. 

Autori dopĺňajú, že v budúcnosti sa objavia aj umelé inteligencie vytvorené na to, aby „nás podviedli alebo politicky ovplyvnili, pričom niekedy sa budú v online priestore vydávať za skutočných ľudí“.

Vytváranie závislostí od online sveta u detí

Tretie ohrozenie podľa autorov vyplýva z čoraz premyslenejších algoritmov sociálnych sietí vytvorených s cieľom maximálne udržať pozornosť svojich používateľov – z čoho vyplýva obrovská zraniteľnosť detí a mladých ľudí.

Epidémia duševných chorôb medzi tínedžermi sa podľa autorov začala okolo roku 2012, keď tínedžeri začali vymieňať svoje vyklápacie telefóny za smartfóny. Haidt sa už v minulosti snažil dokázať, že tieto dve udalosti spolu súvisia a nejde o náhodnú koreláciu.

Táto epidémia však prišla v období „hlúpych“ sociálnych sietí, ako sú Facebook alebo Instagram. V posledných rokoch sa na vrchol popularity dostala čínska sociálna sieť TikTok, ktorej „feed“ (teda to, čo sa používateľovi zobrazí, keď ju otvorí) je generovaný oveľa dômyselnejším spôsobom.

Závislosť vzniká rýchlo – šestina amerických tínedžerov tvrdí, že sú na TikToku „takmer neustále“, a 58 percent tínedžerov túto sociálnu sieť používa každý deň. Nemôžeme sa čudovať tomu, že sa algoritmus TikToku snažia napodobniť aj ostatné sociálne siete.

K závislosti sa navyše pridáva aj fenomén chatbotov, ktoré sú vytvorené tak, aby vystupovali ako „priatelia“. Autori uvádzajú príklad chatbota, ktorý neplnoletým odporúčal zamaskovať pach marihuany a alkoholu pred svojimi rodičmi či sexuálny vzťah s 31-ročným dospelým. Ale aj v prípade, že chatboty nemajú takéto priamo toxické rady, ich nároky voči používateľom bývajú veľmi nekritické a nenáročné, čo – ako pripomínajú autori – v žiadnom prípade nie je príklad skutočného priateľstva.

Deti sú celkovo oveľa ľahšie ovplyvniteľné ako dospelí, a keď sa k sociálnym sieťam, ktoré s nimi budú navyše priamo „na mieru“ komunikovať, dostanú v kľúčovom období vývoja svojho mozgu (u dievčat okolo 11. až 13. roku života, u chlapcov trochu neskôr), bude to na ne mať katastrofálny vplyv.

Čítajte tiež

Technologický pokrok bez regulácie Čo prinesie umelá inteligencia s nadľudskými schopnosťami?

Kristína Votrubová

Príchod pokročilej formy umelej inteligencie spôsobil podobný zlom, akým bol napríklad vynález tlačiarenského stroja.

Posilnenie autoritárskych režimov

Autori takisto upozorňujú na porovnanie už spomínaného TikToku na Západe s jeho čínskym ekvivalentom s názvom Douying. Zatiaľ čo na Západe TikTok vyzerá skôr ako dopamínový kokteil bojujúci o pozornosť používateľa útokmi na jeho najnižšie pudy, v Číne sú väčšinovým obsahom videá o láske k vlasti a o úspechoch čínskych občanov.

Keď Rusko napadlo Ukrajinu, ruský TikTok zaplavil obsah podporujúci ruskú armádu. Čo by sa stalo napríklad americkému TikToku (vlastnenému čínskou čiastočne štátnou spoločnosťou), ak by Čína napadla Taiwan?

Keď Rusko napadlo Ukrajinu, ruský TikTok zaplavil obsah podporujúci ruskú armádu. Čo by sa stalo americkému TikToku (vlastnenému čínskou čiastočne štátnou spoločnosťou), ak by Čína napadla Taiwan?Zdieľať

Opäť treba zdôrazniť, že spomínané prípady sa už odohrali počas fungovania „staromódnych“ sociálnych sietí. Pri širšom zapojení umelej inteligencie do tvorby obsahu budú možnosti pre autoritárske režimy ešte širšie.

Ako to riešiť?

Haidt a Schmidt navrhujú päť riešení, o ktorých si myslia, že by mohli tieto riziká minimalizovať.

Po prvé, je potrebné overovať identitu všetkých používateľov sociálnych sietí. Pseudonymy by mohli zostať zachované, ale aspoň sociálna sieť, ktorá im umožňuje šíriť obsah, by mala o ich skutočnej identite vedieť.

Už v súčasnosti sú niektoré účty spravované umelou inteligenciou (tzv. „boty“), no vzhľadom na rozmach tejto technológie by mali byť jasne označené.

Po druhé, osobitne označený, napríklad vodoznakom, by mal byť aj zvukový a vizuálny obsah generovaný umelou inteligenciou. Takto vytvorená pornografia, ktorá zahŕňa skutočné osoby, by mala byť zakázaná úplne, tak ako to teraz štáty robia s detskou pornografiou.

Po tretie, v oblasti využívania dát používateľov treba požadovať od technologických spoločností transparentnosť, a to aj čo sa týka fungovania algoritmov sociálnych sietí a ich vplyvu. Pokiaľ budú používatelia vedieť, akým spôsobom sú ich dáta využívané, budú sa vedieť lepšie rozhodnúť, ktorej spoločnosti budú dôverovať a ktorej nie. Spoločnosti sa správajú lepšie, keď vedia, že sú pod dohľadom a zlé správanie ich pripraví o zákazníkov.

Po štvrté, spoločnosti by mali byť zodpovedné za obsah, ktorého šírenie zvýrazňujú. Je samozrejmé, že sociálne siete nemôžu byť zodpovedné za všetok obsah, ktorý ich používatelia zdieľajú, no priamo zodpovedné by mali byť aspoň za ten, o ktorom sa cielene rozhodli, že ho budú „boostovať“ (teda zvýrazňovať jeho šírenie). Robia to s cieľom pomôcť svojmu podnikaniu, tak by za to mali niesť aj morálnu (a právnu) zodpovednosť.

Po piate, vek internetovej dospelosti by sa mal zvýšiť na 16 (a spoločnosti by mali jeho dodržiavanie vymáhať). Tínedžeri v súčasnosti môžu na internete pozerať tvrdé porno, rozprávať sa s ostatnými o samovražde alebo hrať hazardné hry tak, že skrátka o svojom veku klamú. 

Autori upozorňujú, že súčasný vek internetovej dospelosti (13 rokov) platný pre USA vznikol v roku 1998, no dnes sú nebezpečenstvá na internete už na úplne inej úrovni a naša legislatíva by na to mala reagovať. Pokiaľ deti legislatívne ochraňujeme pred nákupom alkoholu, tabaku alebo tetovania, mali by sme to robiť aj v prípade nebezpečného obsahu na internete.