Chat control otvára dvere do našich súkromných správ. Odborník Makatura varuje pred plošným špehovaním Európanov

Mali by sa Slováci obávať, že niekto číta ich súkromnú komunikáciu?

S cieľom ochrániť deti pred sexuálnymi predátormi sa v Európskej únii (EÚ) presadzuje iniciatíva známa ako Chat Control. Veľké technologické firmy majú vďaka tomuto opatreniu možnosť dobrovoľne skenovať online komunikáciu.

Ide o nevyhnutný krok pre bezpečnosť maloletých, alebo je to nebezpečný precedens, ktorý premení milióny nevinných občanov na potenciálnych podozrivých?

V rozhovore vysvetľuje odborník na kybernetickú bezpečnosť Ivan Makatura, či je opatrenie z dielne EÚ účinné a či ho v budúcnosti nemôže zneužiť napríklad politická moc.

V rozhovore sa dočítate:

prečo umožňuje Chat control podľa odborníka špehovanie správ;
ako v praxi funguje skenovanie komunikácie;
ktoré aplikácie môžu byť kontrolované;
a ktoré komunikačné aplikácie sú naopak v bezpečí pred skenovaním správ.

Tento rozhovor si môžete pozrieť ako reláciu Európa alebo nižšie prečítať ako editovaný a krátený prepis.

V minulosti ste povedali, že Chat Control je nielen technicky nerealizovateľné opatrenie bez narušenia súkromia, ale aj právne a spoločensky neprimerané. Stojíte si stále za týmto výrokom?

Jednoznačne áno. Treba však povedať, na aký model alebo spôsob prístupu sa tento výrok vzťahuje, pretože počas rokovaní na pôde EÚ dochádzalo k mnohým zmenám.

Ide o to, že ak by nastala prvá verzia opatrenia, teda pôvodný návrh plošného sledovania – nazvime to tak, lebo ide o šmírovanie v pravom slova zmysle – znamenalo by to absolútnu stratu súkromia občanov Európskej únie. Hoci problém zneužívania detí je reálny a vážny, je potrebné proti nemu postupovať korektnými metódami. Nie spôsobom, že všetci občania EÚ automaticky stratia súkromie pod zámienkou ochrany detí.

Európska únia v júli predĺžila platnosť tohto nariadenia. Ak nás počúva niekto, kto sa nezaoberá legislatívou a nesleduje neustále zmeny, mohli by sme si najprv laicky vysvetliť, čo vlastne prináša Chat control?

Je to slangový výraz pre návrh nariadenia o ochrane detí pred sexuálnym zneužívaním alebo pred materiálom so sexuálnym zneužívaním. Je teda určené na ochranu dieťaťa.

Problém detskej pornografie, zneužívania detí či groomingu je reálny, významný a má narastajúci trend. Spoločnosť sa v tomto zmysle trošku pokazila. Na druhej strane, spôsob ochrany navrhovaný v rámci Chat Control je problematický.

Prvotný návrh bol nevhodný už len preto, že policajné orgány si chceli zjednodušiť prácu. Chceli mať prístup ku všetkej komunikácii, ku všetkým chatovacím nástrojom a sociálnym platformám všetkých občanov pripojených na sieť v rámci Európy. Cieľom bolo automatizovane vyhodnocovať, či sa v správach nenachádzajú vzorky obrazu, textu alebo hlasu, ktoré by zodpovedali tomuto neduhu.

Kontroverzný krok v Európskom parlamente

Túto tému vo veľkom komunikuje aj dezinformačná scéna. Európska únia schválila návrh, podľa ktorého veľké technologické firmy môžu skenovať správy, ale dobrovoľne. Mali by sa Európania obávať toho, že teraz niekto číta ich správy?

Kým bude nariadenie o ochrane pred sexuálnym zneužívaním detí definitívne a permanentne prijaté – momentálne je stále vo fáze návrhu – vstúpila do platnosti aspoň dočasná výnimka.

Táto výnimka platila do marca tohto roku a umožňovala sociálnym platformám dobrovoľne skenovať elektronickú komunikáciu občanov a prípadne nahlasovať zistenia. Neznamenalo to plošné sledovanie zo strany štátu – ale možnosť, nie povinnosť platforiem vyhodnocovať nevhodnú komunikáciu.

Výnimka v marci skončila, takže niekoľko mesiacov neplatila a ani platformy takéto niečo nemohli vykonávať. V júli sa však využili procedurálne medzery a Rada EÚ, ktorú v tomto prípade tvoria ministri vnútra zastupujúci členské štáty, navrhla Európskemu parlamentu akúsi procedurálnu výhybku. Tou sa v podstate doslovne zrušilo zrušenie výnimky, takže výnimka trvá ďalej. V tejto chvíli je teda naozaj možné, aby sociálne platformy pokračovali v dobrovoľnom skenovaní.

Predsedníčka Európskeho parlamentu Roberta Metsola sa za to zasadzovala. Bol to pomerne kontroverzný a nie úplne štandardný krok.

Nebolo to štandardné z viacerých hľadísk. Po prvé preto, že sa to udialo na poslednom zasadnutí Európskeho parlamentu pred parlamentnými prázdninami.

Po druhé, hoci nebudeme rozoberať rokovací poriadok, na zrušenie výnimiek alebo podobné procedúry je potrebné iné kvórum než na schválenie samotného návrhu. Využila sa v podstate jednoduchá väčšina v čase, keď tam nebol dostatok poslancov, a nakoniec to prešlo.

Problém spočíval v tom, že kým na prijatie návrhu je potrebné nižšie kvórum, na jeho zrušenie je v tomto prípade potrebné iné a vyššie kvórum. Bolo to veľmi zvláštne. Nebudem fabulovať o tom, či to má Roberta Metsola vo svojom politickom programe, alebo či iba striktne dodržiavala procedúry Európskeho parlamentu.

Kto číta správy?

Ako si Chat control máme v praxi predstaviť? Sú pracovníci v nejakej miestnosti, ktorí kontrolujú správy, alebo je to automatizované?

Je to problematické z dvoch dôvodov. Po prvé, vyhodnocovať elektronickú komunikáciu niekoľkých stoviek miliónov obyvateľov je inak ako automatizovane nemysliteľné. Potrebujete na to stroj, nie operátorov sediacich za obrazovkami.

Na druhej strane, automatizované rozhodovanie je v Európskej únii v rámci platných predpisov zakázané. Nemôžeme nechať na softvér alebo automat – nechcem použiť to čarovné slovo umelá inteligencia, ale sú tam prvky strojového učenia – aby rozhodoval automaticky. Nie je možné, aby stroj pri náleze vzorky okamžite posielal informáciu polícii.

Funguje to teda dvojkrokovo: monitorovacie systémy vyhodnocujú komunikáciu, a ak systém nájde takzvaný red flag, teda vzorku svedčiacu o problematickej komunikácii, posunie sa to ľuďom. Tí následne rozhodnú, či ide o porušenie alebo nie.

Čiže aj keď sa systém pomýli, skontroluje to človek.

Áno, ale aj človek sa môže pomýliť. Treba si vysvetliť podstatu bezpečnostného monitoringu. Pri rozhodovaní existuje určitá šedá zóna. Ak uvidíte na fotografii polonahé dieťa, automaticky to nemusí znamenať sexuálne zneužívanie. Môže to byť fotka vnuka v plavkách z dovolenky poslaná do rodinnej skupiny.

Tieto vzorky so sebou nesú vysokú mieru takzvaných falošne pozitívnych alertov. V bezpečnosti sa tak označuje stav, keď je vzorka vyhodnotená ako pozitívna na výskyt neduhu, hoci v skutočnosti nie je problematická.

Miera falošne pozitívnych vzoriek v tomto type komunikácie je obrovská. Ak si to premietnete na počet obyvateľov a objem komunikácie, tak už len štatistická chyba tri percentá znamená milióny falošných informácií, ktoré bude treba vyhodnotiť. Vyvoláva to množstvo technických otázok, ktoré bude treba vyriešiť, najmä ako nastaviť hranicu rozhodovania o tom, čo nesie prvky sexuálneho zneužívania.

Ak sa však naozaj vyskytne problematický obsah, posúva sa to ďalej orgánom činným v trestnom konaní?

Malo by to tak byť. Pôvodný návrh Chat Control počíta s určitou eskaláciou. Rada dokonca navrhuje zriadenie samostatnej európskej inštitúcie, ktorá by sa sústredila výhradne na túto agendu a bola by príjemcom takýchto reportov.

Mala by teda vzniknúť nová inštitúcia, informácie by nešli priamo polícii. Štandardná polícia nie je spôsobilá vyhodnocovať takéto záležitosti, pretože sa to týka počítačovej kriminality, ktorá je značne sofistikovaná. Opäť narážame na problém obrovského počtu falošne pozitívnych nálezov. Ako sa s týmto Európska únia vysporiada, momentálne úprimne netuším.

Čoho všetkého sa to v praxi týka? Ide o najvyužívanejšie aplikácie ako Instagram či Facebook? Po novom sú tam totiž aj výnimky pre šifrované komunikačné platformy.

Európska únia navrhuje skôr abstraktné pojmy. Nehovorí konkrétne, že WhatsApp áno a Instagram nie. Výnimky spočívajú v tom, že nateraz môžu platformy sledovať komunikáciu dobrovoľne a nahlasovať podozrenia polícii.

Z tohto je však vyňatá šifrovaná end-to-end komunikácia. To platformám zabraňuje vykonávať takzvaný offloading, teda nahliadnuť do obsahu. Ak je komunikácia šifrovaná od začiatku po koniec medzi dvoma účastníkmi, zostáva pre ostatných nečitateľná.

To je napríklad Signal alebo WhatsApp.

Napríklad Signal, WhatsApp alebo Facebook Messenger, ak ho tak máte nastavený. Mnohé platformy poskytujú end-to-end šifrovanie. V praxi to znamená, že text, ktorý vidíte na obrazovke, sa sieťami prenáša v takej forme, že aj keby ho niekto cestou odchytil, uvidí len rozsypaný čaj.

Čiže ho vidia iba dvaja účastníci.

Áno, ľudskou rečou ho dokážu rozpoznať iba dvaja účastníci komunikácie.

Makatura: Má polícia kľúče od každého domu?

Na začiatku ste však povedali, že máme problém s obsahom týkajúcim sa zneužívania maloletých. Nevznikne v Európe bez takéhoto plošného skenovania, nadnesene povedané, raj pre predátorov?

To je falošná dilema. Často používam príklad pre verejnosť: bola by úroveň bezpečnosti v domácnostiach vyššia, ak by polícia mala kľúče od každého domu a bytu? Pravdepodobne nie.

Samotný fakt, že štát alebo poskytovatelia môžu nahliadnuť do komunikácie, ešte neznamená, že priestor bude bezpečnejší. Predátori existujú, ale zároveň ide o kriminálne podsvetie, ktoré je technicky zručné a dokáže si vytvoriť vlastné šifrovacie nástroje.

Je to falošná dilema preto, lebo hoci tvrdíme, že monitorujeme verejný priestor, miesto kde prebieha takýto zločin, pod kontrolou nie je. Pod kontrolou je len verejný priestor, čo znamená, že sledujeme 99,9 % nevinných ľudí namiesto zločincov.

Čiže pripúšťate, že zločincom sa to aj tak podarí obísť?

Samozrejme. Práve preto hovorím, že opatrenia majú byť cielené a konkrétne. Ak existuje podozrenie, musí existovať rozhodnutie prokurátora alebo súdu na sledovanie. Potom je v oprávnenom záujme spoločnosti kontrolovať konkrétnu komunikáciu, a to sa technicky dá.

Nie je však mysliteľné argumentovať tým, že ak chceme nájsť jedného zloducha medzi 500 miliónmi bežných ľudí, potrebujeme mať kľúče od všetkých domov alebo šifrovacie kľúče k všetkej komunikácii obrovského množstva občanov Európskej únie.

Zodpovedať by mali rodičia

Spomínali ste, že existujú aj iné opatrenia. Čo by ste navrhli vy namiesto Chat control? Mala by byť zodpovednosť najmä na rodičoch namiesto plošných opatrení?

Primárne je to na rodičoch. Neustále sa snažím prízvukovať, že toto nie je len otázka kybernetickej bezpečnosti pre technikov. Je to téma pre psychológov, učiteľov a špecialistov na rodinu.

Spôsob komunikácie v rodine musí byť nastavený tak, aby deti neboli hodiny ponechané napospas kyberpriestoru bez toho, aby rodičia mali predstavu, s kým a o čom komunikujú. Rodičia sú teda prvá vrstva, hoci o tejto problematike vedia viac povedať sociológovia či pedagógovia.

Na druhej strane sú k dispozícii relevantné technické metódy: infiltrácia kriminálnych platforiem, analýza zaistených zariadení, sledovanie finančných a digitálnych stôp, medzinárodná spolupráca či rýchle odstraňovanie potvrdeného materiálu a odstavovanie serverov. Táto kombinácia je podstatne efektívnejšia než plošné sledovanie všetkých s tým, že si potom vyberieme, čo potrebujeme.

V podstate tieto opatrenia už existujú, len ich treba lepšie využívať.

A koordinovať.

„Politik môže chcieť čítať komunikáciu”

Naskytá sa aj otázka, či takéto nariadenie v plnej verzii nemôže byť v budúcnosti zneužité politickou mocou. V Maďarsku sme už mali špionážny softvér Pegasus.

Áno, a toto je dôvod, prečo hovorím, že plošný a generický prístup je nesprávny. Naša historická skúsenosť z Maďarska či Poľska ukazuje riziká. Nemožno povedať, že by to neboli demokratické krajiny, ale vždy sa môže nájsť politik, ktorý dostane chuť sledovať komunikáciu oponenta, novinára alebo aktivistu z mimovládnej organizácie.

Akonáhle má verejná moc k dispozícii nekontrolovaný nástroj na plošné špehovanie – nebojím sa použiť tento výraz – je len otázkou času, kedy ho niekto zneužije.

Na záver, spomínali ste, že momentálne ide o dočasnú výnimku, ale pripravuje sa permanentný Chat Control 2.0. Čo od toho očakávate? A bude to podľa vás prijaté?

Konečný text ešte neexistuje, je niekoľko rôznych „nástrelov”. Ocenil by som, keby politici Európskej únie, najmä Rada, ktorá to prostredníctvom policajných orgánov členských štátov pretláča, otvorili diskusiu pre odbornú verejnosť. Mali by brať do úvahy názory ľudí, ktorí rozumejú kyberbezpečnosti a počítačovej kriminalite, a nehľadať riešenia len v mene polície.

Zatiaľ to vyzerá tak, že nie sú ochotní materiály zdieľať ani ich dať na verejné pripomienkovanie, ako je to bežné pri inej legislatíve. Uvedomujú si totiž, že by vznikla silná opozícia.

Očakávam skôr konflikt o technickú architektúru riešenia. Mali by sme sa baviť o tom, čo bude systém umožňovať, či pôjde do šifrovanej komunikácie a či tam budú takzvané zadné vrátka. S tým ja principiálne nesúhlasím. Technická diskusia by mala predchádzať tomu, než sa z materiálu stane zákon.