AI už nemôže rozhodovať potichu. Ministerstvá i inštitúcie o nových pravidlách vedia

Umelá inteligencia už na Slovensku nemôže zostať neviditeľným autorom. Európsky AI Act prináša povinnosti pre ministerstvá, firmy, školy, nemocnice, banky či poisťovne. Úradom pritom nestačí skontrolovať pravopis: musia overiť fakty, rozumieť výsledku a prevziať zaň zodpovednosť.  

Akt o umelej inteligencii (AI Act) nemení iba spôsob označovania textov, fotografií či videí vytvorených umelou inteligenciou. Ide o pravidlá, pre slovenské ministerstvá, samosprávy, školy, nemocnice, banky, poisťovne a ďalšie organizácie používajúce AI. Keďže je to európske nariadenie, jeho základné povinnosti platia priamo a Slovensko ich nemusí najskôr prepisovať do vlastného zákona.

Nariadenie vychádza z jednoduchého princípu: čím vážnejšie môže umelá inteligencia zasiahnuť do života človeka, tým prísnejšie pravidlá sa na ňu vzťahujú. Iné požiadavky preto platia pre bežný nástroj na opravu gramatiky a iné pre systém, ktorý pomáha rozhodovať o prijatí človeka do zamestnania, pridelení sociálnej pomoci, prijatí na školu alebo prístupe k dôležitej verejnej službe.

Ak nemá AI kontrolu

Európsky AI Act platí od 2. augusta 2026 aj na Slovensku. Podľa pravidiel však netreba označiť každý príspevok, pri ktorom bola akokoľvek použitá AI. Viditeľné označenie je potrebné pri “deepfake fotografiách, videách alebo zvukových nahrávkach, texte vytvorenom alebo pozmenenom AI, ktorý informuje verejnosť o otázkach verejného záujmu, ak neprešiel skutočnou ľudskou kontrolou alebo redakčným schválením.”

Medzi otázky verejného záujmu patrí politika, verejná správa, verejné služby, zdravotníctvo, bezpečnosť či základné práva. Povinnosť sa teda týka inštitúcií, napr. ministerstiev, rôznych organizácií, či inštitúcií. Nové pravidlá sa tak netýkajú len médií, firiem alebo používateľov sociálnych sietí.

Všetko okrem pravopisu

Ministerstvo je orgán verejnej moci a môže byť podľa AI Actu „nasadzovateľom“ AI systému. Ak teda ministerstvo nechá AI automaticky vytvoriť oznam, tlačovú správu alebo príspevok o vládnom opatrení a zverejní ho bez ľudskej kontroly, musí jasne uviesť, že text bol vytvorený alebo upravený pomocou AI.

Označenie o tom, že bola použitá umelá inteligencia však nemusí použiť len vtedy, ak pracovník ministerstva text obsahovo preverí, skontroluje fakty a zdroje, môže ho meniť alebo odmietnuť a ministerstvo za jeho obsah prevezme redakčnú a právnu zodpovednosť. Samotná kontrola pravopisu, gramatiky alebo formátovania sa však za ľudskú kontrolu nepovažuje.

Ministerstvá i NKÚ

Rezort školstva k tomu uviedol: “Akýkoľvek obsah, ktorý ministerstvo zverejňuje, prechádza vecnou kontrolou, overovaním aj schválením bez ohľadu na to, či pri jeho vytvorení niekto využíval AI, alebo nie. Od povahy a závažnosti zverejňovaného obsahu závisí aj kontrola – od bežných výstupov, za ktoré sú zodpovední poverení pracovníci, až po výstupy, ktoré musia schvaľovať nadriadení či dokonca minister.”

Podľa odboru strategickej komunikácie Ministerstva vnútra SR nepoužívajú umelú inteligenciu pri príprave tlačových správ, oznamov. “Autor akéhokoľvek výstupu musí byť oboznámený s podstatou textu, z ktorého pripravuje tlačovú správu či status na sociálnej sieti. Pred publikovaním sa výstup ešte raz konzultuje s vecným gestorom a konečné slovo má vedenie odboru strategickej komunikácie,” uviedlo.

Trochu odlišná situácia je v prípade Najvyššieho kontrolného úradu (NKÚ) SR. “Všetky výstupy Najvyššieho kontrolného úradu SR určené pre verejnosť tvoria zamestnanci úradu. Nástroje umelej inteligencie využívajú ako podporný prostriedok s cieľom zvýšiť efektivitu a kvalitu práce. Za každý publikovaný výstup zodpovedá jeho autor,” uviedla hovorkyňa Daniela Bolech Dobáková.

Nebezpečné praktiky zakázané

Už od 2. februára 2025 sa uplatňujú zákazy tzv. najnebezpečnejších praktík. Patria medzi ne “vybrané manipulatívne systémy, určité formy sociálneho hodnotenia ľudí, necielené získavanie fotografií tvárí z internetu na tvorbu databáz či niektoré spôsoby rozpoznávania emócií na pracovisku a v školách”.

Od tohto dátumu platí povinnosť zabezpečovať úroveň takzvanej AI gramotnosti ľudí, ktorí s umelou inteligenciou pracujú. Každý zamestnanec nemusí absolvovať rovnaký certifikovaný kurz, ale firma alebo úrad by mali zabezpečiť, aby používatelia AI rozumeli jej možnostiam, obmedzeniam a rizikám. Zamestnanec by mal vedieť, že systém môže vytvárať aj nepravdivé údaje alebo skresľovať výsledky.

Chatbot sa musí predstaviť

Transparentnosť sa netýka iba zverejnených článkov. Ak človek komunikuje s chatbotom, systém má byť navrhnutý tak, aby používateľ vedel, že komunikuje s umelou inteligenciou, pokiaľ to nie je z okolností úplne zrejmé.

Pre slovenské úrady to môže byť dôležité pri virtuálnych asistentoch na webových stránkach, automatizovaných zákazníckych linkách alebo systémoch poskytujúcich základné informácie občanom. Používateľ by nemal nadobudnúť mylný dojem, že komunikuje s pracovníkom úradu.

Kontrola rizikových dát od decembra

Osobitnú skupinu tvoria vysokorizikové systémy. Ide o technológie používané pri prijímaní ľudí do zamestnania, hodnotení študentov, biometrickej identifikácii, migrácii, správe kritickej infraštruktúry. Pri nich sa bude vyžadovať riadenie rizík, kvalitná dokumentácia, kontrola údajov, zaznamenávanie činnosti systému, kybernetická bezpečnosť a skutočný ľudský dohľad. Človek zodpovedný za rozhodnutie nesmie byť iba formálnym schvaľovateľom výsledku, ktorému nerozumie alebo ho nedokáže spochybniť.

Termíny pre vysokorizikové systémy sa však oproti pôvodnému harmonogramu EÚ posunuli. Pravidlá pre citlivé oblasti, ako sú zamestnávanie, vzdelávanie, migrácia či biometria, sa majú uplatňovať od 2. decembra 2027. Pri AI zabudovanej do regulovaných výrobkov, najmä zdravotníckych pomôcok, hračiek alebo výťahov, je termín 2. august 2028.

AI Act nenahradí právnu ochranu

Dodržanie AI Actu automaticky neznamená, že používanie systému je v súlade so všetkými ostatnými predpismi. Organizácie musia naďalej rešpektovať pravidlá ochrany osobných údajov, pracovné právo, autorské právo, ochranu spotrebiteľa, zákaz diskriminácie či pravidlá kybernetickej bezpečnosti.

Ministerstvo napríklad nemôže odôvodniť vkladanie citlivých osobných údajov občanov do systémov AI, aj keď dodávateľ tvrdí, že jeho systém spĺňa AI Act. Najskôr musí existovať právny dôvod na spracúvanie údajov, primerané bezpečnostné opatrenia a jasne určená zodpovednosť.

Slovensko musí dobudovať kontroly

Pravidlá stanovuje EÚ, ale dohľad nad väčšinou AI systémov majú zabezpečovať vnútroštátne orgány. Európsky úrad pre umelú inteligenciu dohliada najmä na poskytovateľov modelov, členské štáty musia zabezpečiť kontrolu ostatných systémov na svojom území.

Na Slovensku sa preto pripravovala vnútroštátna legislatíva, ktorá mala rozdeliť kompetencie medzi jednotlivé úrady a vytvoriť všeobecný orgán dohľadu. V legislatívnom procese sa objavil aj návrh na zriadenie Úradu digitálnej integrity. Slovenský zákon však nemá nahradiť AI Act, ale určiť, ktorý orgán bude vykonávať dohľad, prijímať podnety, kontrolovať porušenia a ukladať sankcie. AI Act nie je len zákonom pre technologické spoločnosti vyvíjajúce veľké modely. Týka sa aj organizácií, ktoré si hotový systém kúpia alebo ho začlenia do každodennej práce.

EÚ hľadá odborníkov na AI

Výkonný orgán EÚ hľadá zmluvných zamestnancov pre dve jednotky v rámci dvojročného Úradu pre umelú inteligenciu, práve v čase, keď sa jeho právomoci rozširujú, uviedlo Politico.

Jedno z oddelení, ktoré hľadá zamestnancov, má na starosti reguláciu a dodržiavanie predpisov v oblasti umelej inteligencie, zatiaľ čo druhé sa zameriava na kontrolu toho, ako najmodernejšie modely umelej inteligencie zvládajú riziká, najmä kybernetické útoky alebo strata kontroly. Obe jednotky v súčasnosti zamestnávajú spolu 71 ľudí. Komisia očakáva, že v priebehu roka 2027 sa v oboch jednotkách vytvorí 40 pracovných miest.

© Autorské práva vyhradené

Témy:
AI Act
umelej inteligencii
ministerstvo
verejný záujem
NKÚ SR

mReportér

Zdielajte článok

Vážení čitatelia, pod týmto článkom sme neumožnili diskusiu

Obsah článku a skúsenosti s administráciou debát nám dávajú predpoklad, že aj na tomto mieste by pribúdali
prevažne príspevky, ktoré by boli v rozpore s pravidlami debaty aj dobrými mravmi.

Ďakujeme za pochopenie a tešíme sa na slušné debaty pod inými článkami.