Obavy eskalujú: Briti hovoria o „kill-switchi“ na AI, FBI varuje pred útokmi pre dátové centrá
obchodnyregister
2026.06.04.
Americkí občania sa začínajú búriť proti výstavbe obrovských dátových centier a pápež varuje pred digitálnym kolonializmom.
Americkí občania sa začínajú búriť proti výstavbe obrovských dátových centier a pápež varuje pred digitálnym kolonializmom.
Kým technologickí giganti vylepšujú svojich osobných agentov, vlády a spoločnosť začínajú vnímať reálne riziká spojené s nekontrolovateľným rastom umelej inteligencie. Vo Veľkej Británii začínajú silnieť hlasy volajúce po možnosti núdzového vypnutia dátových centier. YouTube zasa zavádza prísne pravidlá označovania obsahu tvoreného pomocou AI.
V novom prehľade diania zo sveta umelej inteligencie sme sa pozreli na schopnosti lokálneho AI agenta Hermes, rozobrali sme obavy bezpečnostných zložiek v USA z možných útokov na dátovú infraštruktúru a analyzovali sme zásadné myšlienky z novej encykliky katolíckeho pápeža. Náš prehľad si môžete pozrieť ako videoreláciu PočúvAI, ktorú pripravili redaktori Živé.sk Maroš Žofčin a Ján Trangel. Alebo, ak vám to je pohodlnejšie, všetko zaujímavé si môžete prečítať aj v článku nižšie:
V dnešnom prehľade sa dozviete:
- Či dokážu lokálni AI agenti sami programovať softvér a čím ohrozujú vývojárov.
- Aké pravidlá zavádza YouTube pre videá vytvorené umelou inteligenciou.
- Prečo chcú britskí poslanci núdzovo vypínať systémy umelej inteligencie.
- Že výstavba dátových centier v USA vzbudzuje obavy z teroristických útokov.
- Aké posolstvá prináša nová encyklika katolíckeho pápeža.
O tomto prehľade: Vývoj umelej inteligencie sa rúti dopredu takou rýchlosťou, že je takmer nemožné sledovať všetky novinky a rozumieť ich dôsledkom. Práve preto vám pravidelne prinášame prehľad zásadných tém, o ktorých sa aktuálne hovorí vo svete AI. Prehľad vychádza na webe Živé.sk a môžete si ho vypočuť aj ako podcast či sledovať ako videoreláciu. Vychádza aj ako newsletter, ktorý doručíme rovno do vašej e-mailovej schránky. Ak ho ešte neodoberáte, návod na prihlásenie sa nájdete tu.
Lokálni agenti programujú komplexný softvér
Umelá inteligencia určená pre domácnosti zažíva obrovský technologický skok. Kým ešte začiatkom roka každý hovoril o prelomovom AI agentovi OpenClaw, v súčasnosti sa pozornosť obracia k nástroju Hermes, ktorý vďaka pokročilejšiemu systému správy pamäte netrpí tak častým zabúdaním a kontextovými chybami pri dlhšom používaní. Náš redakčný test ukázal, ako agent zvládol niekoľko dní systematicky vyvíjať komplexný softvér len na základe občasného konverzačného usmernenia.
Hermes vie samostatne prehľadať internet, pospájať viacero voľne dostupných knižníc kódu do jedného celku a vytvoriť funkčný lokálny program, ktorý nemá ďaleko od nástrojov, za aké si online služby bežne pýtajú predplatné. Tento prístup ukazuje obrovský potenciál autonómnych agentov, no zároveň predstavuje riziko pre začínajúcich podnikateľov v oblasti jednoduchých online nástrojov. Potvrdzuje sa, že v blízkej budúcnosti sa bude kľúčovým faktorom na trhu stávať samotný nápad, pričom jeho technická realizácia už bude skôr banalitou, ktorá sa bude dať zveriť autonómnym nástrojom.
YouTube zavádza označovanie AI videí
Platforma YouTube najnovšie sprísňuje podmienky transparentnosti pre svojich tvorcov. Po novom je každý autor pri nahrávaní obsahu povinný výslovne označiť, či jeho video obsahuje realisticky pôsobiaci materiál upravený pomocou AI – napríklad digitálne pozmenená tvár, vygenerované pozadie či naklonovaný hlas. Samotným divákom sa následne toto upozornenie viditeľne zobrazí vo forme textového štítku priamo v popise videa.
Hoci cieľom opatrenia je chrániť používateľov napríklad pred deepfake kampaňami, sú tu aj možné odvrátené stránky tohto kroku. Ľudia si môžu začať mylne vysvetľovať neprítomnosť štítku ako automatickú garanciu absolútnej autenticity. Algoritmy však zatiaľ nedokážu stopercentne odhaliť všetky neoznačené manipulácie.
Británia chce núdzové tlačidlo
Čo ak vznikne superinteligencia, ktorá sa nám vymkne spod kontroly? Táto obavy vyvoláva ostré diskusie aj na európskom kontinente. Poslanci v Spojenom kráľovstve predložili návrh, podľa ktorého by mali dátové centrá s pokročilými modelmi AI disponovať systémom núdzového vypnutia (tzv. „kill switch“). Tento by mal zabezpečiť, aby v prípade akútneho ohrozenia národnej bezpečnosti alebo priameho rizika na životoch bolo možné hardvérovo odstrihnúť dátové komplexy od dodávok elektrickej energie.
Zatiaľ čo z legislatívneho hľadiska ide o logickú požiadavku, technologicky predstavuje implementácia takéhoto tlačidla zaujímavú výzvu. Dátové centrá sú od základov dizajnované práve s dôrazom na kontinuitu prevádzky a využívajú zložité záložné siete generátorov a batérií. Akékoľvek náhle plošné vypnutie prívodu prúdu by mohlo spôsobiť nielen astronomické finančné straty, ale aj nenávratné poškodenie práve spracovávaných dát.
Zárodky anti-tech terorizmu v USA
V Spojených štátoch amerických dochádza k spoločenskému napätiu, ktoré už začali monitorovať aj domáce bezpečnostné zložky, vrátane FBI. Z obrovských investícií technologických gigantov do výstavby nových gigantických dátových centier ťažia tamojšie štátne rozpočty vďaka daniam, no obyvatelia na vidieku znášajú drvivú väčšinu negatívnych následkov. Zaberanie poľnohospodárskej pôdy, zvyšovanie cien energií a extrémna spotreba vody určenej na chladenie procesorov vyvolávajú čoraz väčšie spoločenské napätie.
Táto situácia začína formovať nový fenomén takzvaného antitechnologického extrémizmu. Zatiaľ čo doteraz sa protesty držali najmä v rovine nespokojných internetových diskusií a lokálnych petícií, podľa uniknutých informácií vláda USA začína reálne vyhodnocovať hrozby možných teroristických útokov proti fyzickej infraštruktúre dátových centier.
Pápež vníma AI ako digitálny kolonializmus
Rastúci význam technológií postupne zasahuje prakticky do všetkých sfér života, vrátane náboženstva. Pápež nedávno vydal encykliku s názvom Magnifica Humanitas, v ktorej prirovnáva súčasný nástup umelej inteligencie k revolučným zmenám z obdobia priemyselnej revolúcie v 19. storočí. Dokument komplexne reflektuje riziká a prínosy AI.
Silným posolstvom encykliky je varovanie pred rizikom, o ktorom pápež hovorí ako o „novodobom digitálnom kolonializme“. Dokument hovorí o riziku, pri ktorom úzka skupina nadnárodných spoločností získa absolútny monopol na prístup k spracovávaniu dát a celosvetovým AI modelom, pričom bežní ľudia by mohli byť zredukovaní len na pozíciu podriadených vykonávateľov monotónnych úloh a generátorov trénovacích dát.
Krátke správy
Doterajšie sľuby o radikálnom znižovaní nákladov pomocou umelej inteligencie narážajú na tvrdú realitu. Zástupcovia spoločností Microsoft a Uber potvrdili, že prevádzka a implementácia sofistikovaných AI modelov je v súčasnosti pre firmy v konečnom dôsledku drahšia, než tradičné zamestnávanie a platenie ľudských pracovníkov.
Renomovaný vedec Demis Hassabis, ktorý stojí za kľúčovými úspechmi DeepMindu spoločnosti Google vrátane prelomenia skladania proteínov systémom AlphaFold, sa teraz zameriava na nový ambiciózny cieľ. Prostredníctvom svojho projektu Isomorphic Labs plánuje naplno využiť silu umelej inteligencie na dramatické urýchlenie vývoja nových liekov proti rakovine a Alzheimerovej chorobe.
Výskumné laboratórium Biohub, ktoré založili Mark Zuckerberg a Priscilla Chan, publikovalo úplne nové evolučné modely pre tvorbu proteínov. Tento otvorený systém slúži ako výkonný nástroj na presné mapovanie, predvídanie a následný dizajn špecifických molekúl, pričom už teraz vykazuje sľubné výsledky v boji proti rakovine a vážnym imunitným ochoreniam.
Nový technologický startup Trajectory, ktorý založili bývalí kľúčoví experti zo spoločností DeepMind a Apple, získal investíciu 15 miliónov dolárov na vývoj inovatívnej platformy pre kontinuálne učenie. Nástroj je navrhnutý tak, aby sa modely umelej inteligencie dokázali neustále zlepšovať na základe reálnych skúseností aj priamo v prevádzke, namiesto toho, aby zostali po počiatočnom tréningu zmrazené a nemenné.
Nemenovanej firme sa podarilo v priebehu jediného mesiaca minúť extrémnu sumu 500 miliónov dolárov za používanie modelu Claude. Katastrofálna chyba v manažmente nákladov vznikla následkom toho, že správcovia systému zabudli svojim zamestnancom nastaviť akékoľvek finančné limity a obmedzenia na využívanie licencovaných AI nástrojov.
Videoreláciu a podcast PočúvAI pripravuje magazín Živé.sk. Na odber všetkých nových dielov našich podcastov PočúvAI a SHARE sa môžete prihlásiť cez platformy Apple Podcasts, Spotify, Deezer a YouTube.
NAPÍŠTE NÁM: Ak nám chcete niečo odkázať, doplniť nás alebo sme povedali niečo zle a chcete nás opraviť, môžete nám napísať na podcasty@zive.sk. Všetky e-maily čítame a na väčšinu odpovedáme.
Páči sa vám tento prehľad? Tu sa dozviete, ako ho môžete odoberať aj vy:
