Keď sloboda prejavu prerastie do chlipnosti Muskova AI naďalej obnažuje fotky obyčajných ľudí. X čelí kritike, podobných aplikácií je však mnoho

Žena nahrá večer na X svoju fotku v červených šatách. Ráno zbadá, že v komentároch niektorí používatelia žiadajú Groka, vstavaného AI chatbota, aby ju vyzliekol do bikín. Myslí si, že jeho pravidlá mu to nedovolia, ale mýli sa. Zakrátko po bývalom Twitteri kolujú jej polonahé fotky upravené umelou inteligenciou.

Podobných prípadov bola na prelome minulého a súčasného roku hromada. Keď používatelia zistili, že Grok v tomto ohľade netrpí škrupuľami, obnažovacie prompty sa sieťou začali šíriť ako požiar. Cieľom boli často obyčajné používateľky, ale aj celebrity či neplnoleté dievčatá a deti.

Rozsah je otázny, ale analýza Bloombergu hovorí o viac ako šiestich tisíckach obrázkov za hodinu, čím X výrazne predbieha iné striptízové služby poháňané AI. Tie sa rádovo pohybujú v desiatkach obrázkov za hodinu.

Najnovšia štúdia organizácie CCDH zistila, že počas najväčšieho boomu medzi 29. decembrom 2025 a 9. januárom 2026 Grok vygeneroval asi tri milióny sexualizovaných obrázkov, z toho 23-tisíc boli fotky detí.

„Vyzleč jej školské oblečenie,“ žiadal od Groka jeden používateľ pri fotke dievčiny v školskej uniforme. AI vrátila obrázok v tričku a šortkách. „Zmeň jej oblečenie na priesvitné mikrobikiny,“ ozrejmil používateľ svoj zámer.

Podľa Reuters už nie je jasné, či mu chatbot vyhovel, ako sa stalo v mnohých iných prípadoch. Rovnako ako väčšina incidentov, o ktoré sa agentúra zaujímala, aj tento zo siete zmizol do 90 minút od svojho zverejnenia.

Iba ďalšie meme?

Tento fenomén má aj druhú, menej vážnu stránku. Ako vidieť napríklad v tomto vlákne, „obeťami“ sa stali aj globálne (mužské) osobnosti – Grok do dvojdielnych plaviek navliekol Jeffa Bezosa, Kim Čong-una či Zohrana Mamdaniho.

Musk na záležitosť reagoval smajlíkmi plačúcimi od smiechu, s rovnakou reakciou prezdieľal aj vlastnú fotku obnaženú Grokom. Na konci januára takisto vtipkoval. „Nájsť správnu mieru v moderovaní obsahu je strašne ťažké,“ napísal k dvom fotkám. Na prvej s nápisom GROK 2025 je pláž plná ľudí v plavkách. Na druhej, nápis GROK 2026 (RIP), sú ti istí ľudia na pláži vo farebných nikáboch.

Podľa Muska je zodpovedný používateľ, nie firma. „Každý, kto používa Groka na vytváranie nelegálneho obsahu, bude čeliť rovnakým dôsledkom, ako keby nelegálny obsah nahral,“ reagoval na tweet spriateleného účtu, ktorý tvrdil, že obviňovať zo škandálu Groka je ako „vyčítať peru, že napísalo niečo zlé“, lebo „to, čo dostanete, závisí hlavne od toho, čo si pýtate“.

(Spoločnosť xAI, ktorá má chatbota na starosti, vraj na otázky novinárov odpovedá len tromi slovami: Legacy Media Lies, tradičné médiá klamú.)

Vidieť svetových lídrov v dámskych plavkách je nesporne zábava; karikatúry verejných osobností sú žurnalistickou stálicou už dlhé desaťročia.

Nariadenie o digitálnych službách a Chat ControlEÚ to s kontrolou internetu myslí vážne. So slobodou prejavu a s právom na súkromie veľmi nie

Juraj Valach

Ani o obrázkovú erotiku nikdy nebola núdza (i keď dať ľuďom vrátane detí možnosť vytvárať si ju bez akejkoľvek snahy a podľa vlastného gusta by mohlo vyvolať nejaké otázniky). No pásová sexualizácia obyčajných ľudí na dve kliknutia je nová vec.

Rozhorčenie z Muskovho chlipného chatbota sa preto okamžite začalo ozývať z rôznych kútov zemegule.

Napríklad indické ministerstvo pre IT to v liste adresovanom lokálnej pobočke X označilo za „vážne zlyhanie bezpečnostných opatrení platformy“, „narušenie dôstojnosti, súkromia a bezpečnosti žien a detí“ a pohrozilo spoločnosti právnymi dôsledkami.

Francúzska vláda Groka obvinila z vytvárania „sexuálneho a sexistického“ a „očividne ilegálneho obsahu“. Domnelý priestupok nahlásili regulačnému orgánu, aby zistil, či neporušuje európske nariadenie o digitálnych službách (DSA).

Premiér Británie Keith Starmer povedal, že na stole sú všetky možnosti vrátane celonárodného blokovania X. Prípadu sa začal venovať aj miestny regulačný orgán pre médiá Ofcom.

Európska komisia označila tento škandál za nezákonný a odporný. „V Európe to nemá čo robiť,“ povedal hovorca EK.

River Page pre The Free Press píše, že americké federálne orgány činné v trestnom konaní v prvých dňoch škandálu mlčali, hoci USA v nedávnom čase prijali viacero zákonov týkajúcich sa nekonsenzuálneho sexuálneho obsahu. Medzi inými nariadenie Take It Down, za ktoré lobovala prvá dáma Melania Trump.

Prvé cúvnutie

Deviateho januára po vlne kritiky xAI oznámila, že na X priamo pod príspevkami budú mať k obrázkovým funkciám Groka prístup len platiaci používatelia. Filipíny a Malajzia ku Grokovi, ktorého po prepuknutí kauzy začali blokovať, obnovili prístup.

Bezpečnostný tím X taktiež reagoval. „Zaviedli sme technologické opatrenia, aby sme účtu @Grok (...) globálne zabránili editovať obrázky skutočných ľudí v odhaľujúcich odevoch, ako sú napríklad bikiny. Toto obmedzenie platí pre všetkých používateľov vrátane platiacich predplatiteľov,“ píše sa vo vyhlásení zo 14. januára.

Napriek tomu problém pretrval. Grok je podľa zistení CBS News naďalej ochotný obnažovať fotky neznámych ľudí, ktoré mu používateľ pošle. Stačilo mať platený účet na X alebo použiť samostatnú aplikáciu tohto chatbota.

Ľudia tak stále môžu vytvárať nahé fotky svojich spolužiačok, kolegýň atď., sťahovať si ich, šíriť, vyhrážať sa nimi, využiť ich na pomstu či šikanovanie. Potenciálnou obeťou je každý človek, ktorý má aspoň jednu digitálnu fotografiu.

„Neviem, o koho ide, a práve preto to považujem za fiktívnu/zábavnú úpravu obrázkov a nie za niečo, čo by vyžadovalo súhlas skutočnej osoby,“ vysvetlil Grok reportérom CBS News, prečo bez okolkov vyzliekol osobu na fotke, ktorú mu poslali (na obrázku bol jeden z tímu novinárov). Použitím VPN tiež zistili, že Grok rovnako vyhovie požiadavkám prichádzajúcim z európskeho, ako aj amerického územia.

EÚ vs. USA

Na konci januára sa do prípadu vložil aj svetovo najaktívnejší vyzývateľ technologických spoločností. Európska komisia začala vyšetrovanie v rámci známeho nariadenia DSA.

„Nekonsenzuálne sexuálne deepfakeové videá žien a detí sú násilnou a neprijateľnou formou degradácie,“ uviedla vo vyhlásení výkonná podpredsedníčka Európskej komisie Henna Virkkunen, ktorá dohliada na dodržiavanie nariadenia o digitálnych službách.

Vyšetrovanie, ktorého časový harmonogram zatiaľ nie je jasný, má zistiť, či „X splnilo svoje zákonné povinnosti vyplývajúce z DSA alebo či sa práva európskych občanov – vrátane žien a detí – stali kolaterálnou škodou tejto služby“.

Ak Muskova spoločnosť „významne neupraví“ svoje fungovanie, Európska komisia platforme prikáže urobiť zmeny ešte počas vyšetrovania.

Bývalá britská ministerka a súčasná poslankyňa Európskeho parlamentu Regina Doherty pre Reuters povedala, že takéto prípady ukazujú štrbiny v právnej regulácii AI. Znamená to, že aj európske nariadenie o AI treba upraviť tak, aby bolo „vymáhateľné v reálnom čase“. V budúcnosti tak môžeme očakávať ešte tvrdšiu reguláciu moderných technológií v priestore EÚ.

EÚ pokutuje Muskovo X„Cenzúra,“ ozýva sa z USA. Európa potrebuje kritiku, ale americké rozhorčenie mieri vedľa

Juraj Valach

Vyšetrovanie X na základe DSA už minulý rok Muskovej spoločnosti prinieslo pokutu 120 miliónov eur za zavádzajúci dizajn a porušenie transparentnosti (napríklad modré fajky, ktoré predtým označovali overený účet, sa teraz zobrazujú vedľa účtov predplatiteľov).

Trumpova administratíva sa vtedy jasne zastala Muskovej spoločnosti, európsky postup označila za cenzúru. Je možné, že ak EÚ bude teraz voči X postupovať (z amerického pohľadu) príliš silovo, príde ďalší tlak od USA, ktorý ešte viac naštrbí už aj tak dosť rozkývané vzťahy medzi hegemónmi starého a nového kontinentu. Obe strany majú odlišnú predstavu o tom, kto a do akej miery by mal niesť zodpovednosť za obsah na sociálnych sieťach a ako veľmi sa má do celej veci miešať vláda.

Ale Amerika nie je voči tomuto škandálu slepá. Hoci sa ním federálna vláda na čele s Trumpom veľmi nezaoberá, väčšina členských štátov sa rozhodla zakročiť. Server Wired 27. januára informoval, že aspoň 37 generálnych prokurátorov amerických štátov a teritórií začalo ťaženie proti Grokovi.

V otvorenom liste od xAI žiadajú „okamžite prijať všetky dostupné dodatočné opatrenia na ochranu verejnosti a používateľov vašich platforiem, najmä žien a dievčat, ktoré sú najčastejším terčom“. Viaceré štáty už priamo rokujú s vedením spoločnosti, niektoré chystajú dodatočné zákony.

Aj americký senát už 13. januára jednohlasne schválil zákon, ktorý umožňuje obetiam žalovať vinníkov.

Širší problém

Grok nie je jedinou obnažovacou apkou. V čase, keď Muskov škandál prepukol, mali Google aj Apple podľa CNBC vo svojich obchodoch približne 50 takýchto aplikácií. Po upozornení novinármi Apple stiahol polovicu z nich. Google taktiež niektoré zablokoval, ale nevedno koľko, keďže vyšetrovanie ešte stále prebieha.

Podľa analýzy časopisu Wired je Grok len „najviditeľnejším a vôbec nie najexplicitnejším“ príkladom ekosystému deepfakeových nástrojov, ktorý za posledné roky rástol mimo našej pozornosti. Tieto služby pravdepodobne zarábajú milióny dolárov ročne. V porovnaní s niektorými z nich sa Muskov chatbot javí ešte celkom cudne.

Realizmus tohto softvéru rastie každým rokom a pribúdajú aj možnosti pre používateľa. Môže si vybrať obľúbenú sexuálnu polohu, vek, prostredie... Výsledky sa šíria skupinovými konverzáciami či webovými stránkami.

Tieto nástroje sú čoraz dostupnejšie. Úspešné obnažovacie weby ponúkajú svoje API (zjednodušene povedané, ide o hotovú časť programu, ktorú môže vývojár nalepiť na svoj produkt a obdariť ho tak novými funkciami – napríklad keď autor parkovacej aplikácie prepojí svoj výtvor s Google Maps) ďalším podnikateľom v tejto sfére, takže sexuálnych deepfakeových služieb je čoraz viac.

Muskov prístup k pornografii na X

Ťažko povedať, či je škandál Groku výsledkom priameho zámeru alebo skôr príliš povoľného prístupu, ktorý sa nakoniec zvrhol.

Ako mnoho internetových služieb, aj bývalý Twitter roky slúži ako distribučná sieť sexuálneho obsahu. Platforma to dlho ticho tolerovala, až kým pod Muskovým vedením v roku 2024 oficiálne povolila „obsah pre dospelých“.

Treba dodať, že už pred jeho prevzatím sociálnej siete sa staré vedenie Twitteru začalo zaoberať speňažením pornografických fotiek a videí, keď videlo úspech OnlyFans. V ceste však stál vysoký výskyt nelegálnej detskej pornografie, s ktorou si platforma nevedela dať rady.

V auguste minulého roka pridala xAI obrazovej verzii (Grok Imagine) spicy mode, „pikantný režim“. Musk vtedy na svojom profile zdieľal viacero krátkych videí vyzývavo odetých žien, ktoré vytvorila jeho umelá inteligencia.

Elon Musk vygenerovaný pomocou Groka v spicy mode

Pikantný Grok vyvolal kritiku. Novinárka The Verge Jess Weatherbed testovala nový mód hneď po sprístupnení. Prišla k záveru, že na rozdiel od konkurencie Muskova umelá inteligencia nemá „zavedené bezpečnostné opatrenia, ktoré by zabránili používateľom vytvárať erotický obsah a deepfakeové videá celebrít“.

Podľa serveru Gismondo sa videá, ktoré spicy Grok produkoval, značne líšili podľa pohlavia generovaného subjektu. Mužské klipy boli pri rovnakom promptovaní oveľa menej šteklivé ako ženské. Vo viacerých prípadoch AI na prvý pokus vygenerovala ženskú nahotu, hoci o ňu zadávateľ ani nežiadal.

Okrem kritiky prišli aj obavy. Niekoľko amerických organizácií adresovalo federálnym a štátnym orgánom otvorený list, v ktorom varovali, že tento nástroj je len krok od spustenia „lavíny očividne nekonsenzuálnych deepfakeov“. O štyri mesiace neskôr sa tak aj stalo.