Návrh Európskej komisie Obetujeme v boji s detskou pornografiou súkromie?

Európa je najväčším poskytovateľom hostingu pre detskú pornografiu. Vyplýva to z dát spoločnosti Internet Watch Foundation, podľa ktorých bolo 86 percent objaveného materiálu na európskych hostingových službách.

Podľa týchto dát sa v porovnaní s predpandemickými časmi zoštvornásobilo šírenie sexuálneho obsahu vytvoreného webkamerami. Najohrozenejšie sú mladé dievčatá, podľa odhadov tvoria až 97 percent nelegálneho obsahu.

Vek obetí sa čoraz viac znižuje. V roku 2021 sa v zachytených materiáloch najčastejšie vyskytovali deti vo veku 11 až 13 rokov, ale v percentuálnom vyjadrení najviac pribúda pornografia s deťmi od sedem do desať rokov.  

Detská pornografia je teda obrovským problémom. Obsah je pritom mnohokrát vytváraný dobrovoľne samotnými obeťami, ktoré na to navádzajú priatelia či sledovatelia na sociálnych sieťach.

Americký časopis Forbes dokonca v jednom článku nazval TikTok „striptízovým klubom plným 15-ročných dievčat“.

Livestreamy sú totiž obľúbeným miestom pre mužov, ktorí v komentároch vyzývajú dievčatá, aby sa vyzliekli.

Sexualizácia detí a šírenie detskej pornografie na internete roky uniká bezpečnostným zložkám. To by malo zmeniť nariadenie Európskej únie, ktoré ešte minulý rok predložila švédska eurokomisárka Ylva Johanssonová.

Koniec súkromia?

Tento návrh však vyvolal obrovskú kontroverziu, lebo podľa mnohých odborníkov by jeho prijatie znamenalo koniec internetu, tak ako ho poznáme, a zásadným spôsobom by zasiahlo do súkromia všetkých.

Návrh dostal prezývku chat control, zjednodušene povedané, umožnil by plošné sledovanie všetkých konverzácií na internete.

Cieľ má byť šľachetný – vypátrať detskú pornografiu, ako aj ľudí, ktorí deti a mladistvých nabádajú na jej produkciu –, znamenal by však aj masové sledovanie európskeho obyvateľstva. Proti sa postavil i Wojciech Wiewiórowski, ktorý zastáva pozíciu európskeho dozorného úradníka na ochranu údajov.

Tvrdí, že návrh by vo svojej aktuálnej forme zásadne zmenil internet a digitálnu komunikáciu. Na seminári, ktorý jeho úrad zorganizoval na pôde Európskeho parlamentu, uviedol, že je znepokojený tým, že návrh „spochybňuje základy súkromia v demokratickej spoločnosti, a ak sa raz podkopú, bude to viesť k radikálnej zmene, z ktorej už nemusí byť možný návrat“.

Wiewiórowski návrh prirovnal k praktikám policajného štátu, ktoré zažíval v mladosti v totalitnom Poľsku.

Predkladatelia v úvode materiálu upozorňujú, že najmenej každé piate dieťa sa stane obeťou sexuálneho násilia. Dokazujú to celosvetovou štúdiou, ktorá ukázala, že tretina respondentov bola počas svojho detstva požiadaná, aby urobili niečo jednoznačne sexuálne online, a viac ako polovica zažila na internete nejakú formu sexuálneho zneužívania.

Predkladatelia zákona ďalej píšu, že Európska únia už síce má zákony, ktoré tieto delikty riešia, no „je zrejmé, že EÚ v súčasnej dobe stále nechráni deti pred tým, aby sa stali obeťami sexuálneho zneužívania, a že online rozmer tohto problému predstavuje zvláštnu výzvu“.

Dôležitú úlohu zohrávajú podľa predkladateľov poskytovatelia hostingových a takzvaných interpersonálnych komunikačných služieb, čím sú myslené rôzne aplikácie ako WhatsApp či Messenger.

Regulácia pornografie Ochrana detí proti ochrane osobných údajov. Vo svete je to veľká téma

Jakub Lipták Lukáš Obšitník

Obmedzenie prístupu k online pornografii v podobe povinného overovania veku existuje vo Francúzsku či v USA, usiluje sa ho prijať aj Británia.

Kontinuálna a plošná kontrola

Podľa návrhu by poskytovatelia týchto služieb mali povinnosť na svojich platformách odhaľovať, oznamovať a odstraňovať detskú pornografiu.

Na jednej strane by tak mali robiť s materiálmi, ktoré sú už v medzinárodných databázach, aby sa ďalej nešírili, ale mali by odhaľovať aj nový obsah, ktorý ešte nie je zaregistrovaný.

Celý proces by nemal byť automatický a mali by doň zasahovať národné koordinačné úrady, ako aj centrálne európske stredisko.

Kontrola chatov by mala mať podľa návrhu prísne pravidlá, mala by sa týkať vždy iba určitej časti používateľov, u ktorých je podozrenie na tvorbu či zdieľanie detskej pornografie, a mala by byť vždy časovo obmedzená.

Český technologický portál Smartmania však upozornil, že niektoré pravidlá sú napísané tak všeobecne, že najmä pri veľkých službách, kde bude k podozrivému správaniu dochádzať najviac, sa môže stať, že sledovanie bude kontinuálne a plošné.

Poskytovatelia služieb upozorňujú, že prijatie tohto návrhu by so sebou nutne prinieslo koniec takzvaného end-to-end šifrovania, ktoré využíva napríklad Signal, ale aj WhatsApp. Vďaka nemu odosielané správy odchádzajú zašifrované a dekódujú sa až v zariadení príjemcu, čo zabezpečuje, že k obsahu sa nedostanú tretie osoby.

Ak však majú mať poskytovatelia služieb možnosť kontrolovať obsah, šifrovanie by nemohlo byť prítomné alebo by muselo mať akési „zadné dvierka“, ale to by celý projekt oslabilo.

Ako pred letom ukázali uniknuté dokumenty, Španielsko bolo za zákaz tohto typu šifrovania a na októbrovom stretnutí európskeho parlamentu sa o tom búrlivo diskutovalo.

V kompromisnom návrhu, na ktorom sa zatiaľ európsky parlament dohodol, sa píše, že poskytovatelia môžu na kontrolu používať akúkoľvek technológiu, ktorá prejde individuálnym auditom európskeho strediska.

Výsledky auditu budú verejné, ale nie tie časti, ktoré súvisia s end-to-end šifrovaním.

Ide o peniaze

Na kontrolu obrovského množstva konverzácií a audiovizuálneho materiálu budú musieť poskytovatelia použiť technológie využívajúce umelú inteligenciu. Tie sa z existujúcich materiálov učia rozpoznávať detskú pornografiu a následne ju vyhľadávajú.

Takéto systémy sú však aj napriek všetkému technologickému pokroku stále nedokonalé.

Na jednej strane môžu materiály chybne rozpoznať, na druhej strane môžu niektoré veci nesprávne vyhodnotiť pre chýbajúci kontext. Za detskú pornografiu tak môže systém označiť aj nevinné fotky kúpajúcich sa detí, ktoré používateľ posiela starým rodičom.

Odborníci upozorňujú, že aj napriek technológii bude stále potrebný ľudský faktor, ktorý bude aspoň časť obsahu kontrolovať.

Je zároveň pravdepodobné, že poskytovatelia služieb siahnu po už existujúcich softvéroch. Jedným z nich je aj systém americkej nadácie Thorn, ktorú založil Ashton Kutcher a Demi Moore.

Novinári z investigatívnej platformy Balkan Insight odhalili, že táto a im podobné organizácie mali na prípravu novej legislatívy veľký vplyv.

Bývalý riaditeľ najstaršej európskej linky pre odhaľovanie detskej pornografie Arda Gerkens tvrdí, že celá regulácia je „ovplyvnená spoločnosťami tváriacimi sa ako neziskové organizácie, ale konajú skôr ako technologické spoločnosti“.

„Skupiny ako Thorn robia všetko, čo môžu, aby pretlačili túto legislatívu, nie iba preto, že si myslia, že je to dobrý spôsob boja proti sexuálnemu obťažovaniu detí, ale tiež preto, že v tom majú komerčné záujmy,“ dodal.

Balkan Insight zároveň mal prístup k emailom, ktoré ukazujú neustály a blízky pracovný vzťah medzi Thornom a európskymi úradmi. Komisia údajne spoločnosti dávala prístup na kľúčové stretnutia, kde sa prijímali rozhodnutia.

Psychiatrička Pri závislosti od pornografie dochádza k funkčným i štrukturálnym zmenám mozgu

Zuzana Hanusová

O mechanizme vzniku závislosti od pornografie, ktorá ohrozuje už aj deti, s psychiatričkou Zuzanou Hupkovou. 

Samotná Johanssonová odmieta, že by čelila nadmernému vplyvu týchto spoločností. Taktiež odmieta, že jej návrh prinesie niečo nové alebo extrémne do online priestoru.

Ešte minulý rok uviedla, že je úplne zavádzajúce tvrdiť, že s novou reguláciou prídu nové možnosti detekcie, ktoré doteraz neexistovali.

Odborníci na šifrovanie a kybernetickú bezpečnosť však majú iný názor. Aj spoločnosť Apple upozornila, že je nemožné zaviesť detekciu detskej pornografie a zároveň zachovať súkromie a bezpečnosť digitálnej komunikácie.

Vo Veľkej Británii vládni úradníci už neoficiálne technologickým spoločnostiam priznali, že neexistuje technológia, ktorá by vedela zoskenovať zašifrované správy bez toho, aby nebolo podkopané súkromie používateľa.

S návrhom je spojený aj ďalší škandál. V krajinách, ktoré sa postavili proti tomuto návrhu, sa používateľom internetu začala zjavovať cielená reklama o hrozbách sexuálneho zneužívania detí na internete či o výsledkoch prieskumu, podľa ktorého by väčšina Európanov podporila kontrolu všetkých ich digitálnych komunikácií.

Reklama bola platená Európskou komisiou a používala takzvaný microtargeting, pri ktorom sa prijímatelia reklamy kategorizujú na základe náboženských či politických kritérií. To sú však podľa pravidiel Európskej únie citlivé údaje a nemali by sa pri cielení reklamy používať.

Danny Mekić, vedecký výskumník žijúci v Amsterdame, ktorý si cielené reklamy všimol, uviedol pre technologický magazín Wired, že už aj samotný prieskum, na ktorý sa reklamy odvolávali, bol pochybný a v protiklade s nezávislými prieskumami.

Európsky parlament o návrhu búrlivo debatoval koncom októbra. Výsledkom bol kompromisný dokument, kde sa niektoré veci upravili, end-to-end šifrovanie by malo byť zachované.

Ako presne budú teda poskytovatelia kontrolovať obsah, nie je jasné.

Najbližšie bude o dokumente hlasovať výbor európskeho parlamentu pre ľudské slobody. Definitívne hlasovanie bude až v budúcom roku. A to už bude európsky parlament v novom, povolebnom zložení.