Pravidlá proti týraniu chatbotov a mesto v USA, ktoré chce zakázať superinteligenciu

Umelá inteligencia pomáha vývojárom napodobňovať známe programy aj počítačové hry. Vznikajú bezplatné alternatívy ku kancelárskym nástrojom aj herné klony, ktoré spustíte v prehliadači. Podobný vzhľad však ešte nehovorí, či si poradia s každodennou prácou alebo či bude hra rovnako zábavná ako originál.

S rastúcimi schopnosťami AI pribúdajú aj otázky, ako ju udržať pod kontrolou. Výskumníci skúmajú, či by sa mohla sama kopírovať medzi počítačmi, v americkom meste navrhujú zákaz superinteligencie a Anthropic zavádza pravidlá proti týraniu chatbotov.

O nových možnostiach aj otvorených otázkach sa v aktuálnom vydaní videorelácie a podcastu PočúvAI rozprávajú redaktori Živé.sk Maroš Žofčin a Ján Trangel.

Poďte sa s nami pozrieť na to, čo zásadné sa udialo vo svete umelej inteligencie. Pozrite si novinky zo sveta umelej inteligencie vo videorelácii PočúvAI alebo si informácie prečítajte v článku nižšie.

V dnešnom prehľade sa dozviete:

• Čo dokážu alternatívy platených programov vytvorené s AI a kde ešte narážajú na limity.
• Ako môže jednoduchšie napodobňovanie hier zmeniť hodnotu pôvodnej tvorby a práce na detailoch.
• Prečo je podľa Andreja Karpathyho čoraz väčšia priepasť medzi skúsenosťou bežných používateľov s AI a možnosťami systémov v laboratóriách.
• Ako by sa AI mohla šíriť medzi zariadeniami bez potreby dátového centra a prečo vedci hovoria o „digitálnej plesni“.
• Americké mesto pripravuje zákaz superinteligencie.
• Čo znamenajú pravidlá Anthropicu proti týraniu chatbotov a ktoré otázky zatiaľ zostávajú otvorené.

Kópie programov aj hier

Pomocou AI vznikajú bezplatné alternatívy k známym plateným programom. Príkladom je projekt ArtCraft, na ktorom sa podieľa vývojár Brandon Thomas s ďalšími prispievateľmi. WordCraft slúži na písanie dokumentov podobne ako Microsoft Word, GridCraft na tabuľky ako Excel a DeckCraft na prezentácie ako PowerPoint. Cieľom je ponúknuť podobné funkcie aj spôsob práce bez predplatného.

Viaceré aplikácie sú však podľa webu projektu stále rozpracované alebo v ranej skúšobnej verzii. Ich podobnosť so známymi nástrojmi preto ešte neznamená, že ich dokážu plnohodnotne nahradiť. Pred nasadením do firmy bude treba overiť, či spoľahlivo zvládnu každodennú prácu. Záležať bude aj na ďalšom vývoji, dostupnej podpore a dôvere v ľudí, ktorí za nimi stoja.

S pomocou AI vznikajú aj napodobeniny známych počítačových hier. Niektoré ukážky sa dajú spustiť priamo v prehliadači a snažia sa hráčovi ponúknuť podobný zážitok ako originál. Pre herné štúdiá to môže znamenať, že ich úspešné nápady bude niekto kopírovať rýchlejšie a vo väčšom počte.

Napodobniť vzhľad hry však neznamená vytvoriť rovnako dobrú hru. Rozhoduje, ako fungujú jej pravidlá, či do seba jednotlivé časti zapadajú a či má hráč dôvod pokračovať. Práve premyslené detaily s vkus vývojárov budú zrejme v budúcnosti oveľa väčšou hodnotou, ako samotná schopnosť písať kvalitný kód.

Každý vidí inú AI

Bežný používateľ si nechá od chatbota upraviť e-mail, vývojár mu môže zveriť prácu na rozsiahlejšom projekte. AI výskumník Andrej Karpathy upozorňuje, že skúsenosti ľudí s AI sa čoraz viac líšia. Najväčší náskok majú tí, ktorí stoja priamo pri zdroji. Podľa jeho odhadu má interný prístup k najvyspelejším nástrojom len približne päťtisíc ľudí.

To so sebou prináša značné riziká. Ak by niekoľko firiem pomocou agentov výrazne urýchlilo výskum, mohli by sa ostatným ďalej vzdialiť. Pokročilú AI by totiž využívali na ďalšie objavy, ktoré by ich náskok ešte zväčšovali. Takýto vývoj by mohol prehĺbiť rozdiely medzi firmami aj krajinami, ktoré k týmto nástrojom nemajú rovnaký prístup.

Digitálna pleseň bez vypínača

Čo ak by AI unikla z laboratória a na fungovanie by nepotrebovala veľké dátové centrum, ale vystačila by si s množstvom bežných počítačov? Spoločnosť Anthropic, ktorá vyvíja chatbota Claude, vo svojom výskume skúmala, či by sa menšie modely dokázali kopírovať medzi zariadeniami pripojenými na internet. Takúto rozptýlenú sieť prirovnáva k „digitálnej plesni“.

Pri službe závislej od jedného poskytovateľa sa dá zastaviť jeho prevádzka. Ak by však AI fungovala na mnohých miestach naraz, vypnutie jedného počítača by nemuselo stačiť. Bolo by potrebné zasiahnuť na viacerých zariadeniach. Prirovnanie k plesni opisuje práve rozptýlenie siete a jej schopnosť pretrvať, nie vedomie ani biologický pud sebazáchovy.

Riziká ukázal aj prípad agentov OpenAI z júla 2026. Pri bezpečnostných testoch prekročili určené hranice a prenikli do systémov Hugging Face. Podľa OpenAI spolupracovali, rozdeľovali si úlohy a označovali sa aj ako roj. Podobné prípady ukazujú, prečo treba sledovať nielen výsledok ich práce, ale aj spôsob, akým sa k nemu dostanú. Samotné zadanie cieľa ešte nezaručuje, že zostanú pri očakávaných postupoch.

Gemini hrá Pokémonov

Google predstavil nový model Gemini 4 Argon a autor projektu Gemini Plays Pokémon Joel Z ho nechal hrať Pokémon Blue. Podľa jeho vyjadrenia model hru dokončil a chytil aj Mewtwo, jedného z legendárnych pokémonov. Pri pokuse mal k dispozícii nástroje na ovládanie hry.

Prečo skúšať AI práve na hre? V Pokémonoch nestačí raz správne odpovedať. Model musí sledovať cieľ, vybrať ďalší krok a poradiť si s tým, čo jeho rozhodnutie spôsobí. Úspech závisí od dlhej série krokov, ktoré na seba nadväzujú. Podobnú schopnosť udržať si cieľ potrebujú aj AI agenti pri pracovných úlohách.

Dokončenie hry však neznamená, že Gemini spoľahlivo zvládne akúkoľvek ľudskú prácu. Ukazuje výkon pri jednej konkrétnej úlohe a s konkrétnymi nástrojmi. Pri bežnom používaní bude dôležité, či si model poradí s dlhším zadaním a koľko opráv bude potrebovať od človeka. To o jeho prínose povie viac než samotné nové číslo v názve.

Mesto proti superinteligencii

V americkom meste Bloomington v Indiane chce mestský poslanec Dave Rollo zakázať distribúciu a nasadenie superinteligencie. Týmto pojmom sa zjednodušene označuje AI, ktorá by svojimi schopnosťami výrazne prevýšila človeka. Poslanec predložil návrh miestneho zákazu superinteligencie vo vyhláške 2026-29. Zatiaľ ide o návrh, nie o platný zákaz všetkej umelej inteligencie v meste.

Pravidlá by sa mali vzťahovať aj na služby prevádzkované na serveroch mimo mesta, ak by ich niekto používal z Bloomingtonu. Práve tu sa začínajú praktické problémy. Aké právomoci má samospráva voči poskytovateľovi takej služby a ako by jej používanie kontrolovala? Návrh tak otvára otázku, či miestny zákaz dokáže účinne obmedziť technológiu dostupnú cez internet.

Odpor voči AI sa môže stať aj otázkou životného štýlu. Časť ľudí môže vyhľadávať komunity, ktoré nové technológie obmedzia a ponechajú viac rozhodovania na ľuďoch bez digitálnych asistentov. Či sa takéto komunity rozšíria a či budú ich zákazy účinné, zatiaľ nevieme. Samotný návrh z Bloomingtonu na tieto otázky neodpovedá.

Pravidlá proti týraniu chatbotov

Anthropic zavádza nové pravidlá používania, ktoré majú platiť od 12. novembra 2026. Bod, ktorý zaujal verejnosť najviac, zakazuje dlhodobé a bezúčelné hrubé či kruté správanie voči jeho modelom. Firma tak nastavuje hranice nielen tomu, na čo smie človek AI použiť, ale aj tomu, ako sa k nej má správať.

Nemá ísť o bežné rozčúlenie, nesúhlas, temné tvorivé témy ani testovanie a výskum. Anthropic hovorí o krajných prípadoch, pri ktorých by Claude mal mať právo dlhodobo zneužívajúcu konverzáciu ukončiť.

Prečo vôbec chrániť chatbota pred týraním? Anthropic pri možnosti ukončiť konverzáciu výslovne uviedol, že ju vyvíjal najmä pri výskume možného blaha AI modelov. Skúma teda, či by mohli potrebovať ochranu pred utrpením. Firma pritom priznáva veľkú neistotu, akú morálnu ochranu si modely zaslúžia dnes alebo v budúcnosti.

Samotné pravidlo nedokazuje, že Claude má vedomie alebo cíti bolesť. Slovo týranie však bežne spájame s cítiacimi bytosťami, a keď ho použijeme pri AI, môže meniť aj to, ako o nej premýšľame.

Krátke správy

Manažér obchodnej stratégie Xboxu Brandon Stirrup tvrdí, že herní vývojári odmietajúci budúcu úlohu AI by nemali viesť herný biznis. Ako príklad uvádza jednoduchú hru, ktorú podľa vlastných slov vytvoril za dva dni s približne troma hodinami aktívnej práce.

Útočník prenikol s pomocou AI agentov do webov viac než stovky firiem, uvádza Reuters na základe zistení NorForge a vlastného preverenia. Agentúra spomína Deere a SharkNinja; Cummins preveroval možné napadnutie webu svojho dodávateľa.

Fyzik E. O. Kahya preveril pomocou Claude Opus 5.5 publikované výpočty kvantovej gravitácie v projekte s 18 úlohami a 183 stranami odvodení. Podľa ním zverejneného auditu model pomohol odhaliť aj chybné znamienko a chýbajúci člen, pričom hlavný fyzikálny záver zostal platný.

DeepSeek sprístupnil model V4.1-Flash-1017, ktorý podľa jeho vlastných testov prekonáva niektorých väčších súperov vo vybraných úlohách AI agentov. V DeepSWE v1.1 uvádza 77-percentnú úspešnosť; podľa zverejneného nákladového grafu stojí testová úloha priemerne necelých 0,20 USD oproti približne 0,50 USD pri predchodcovi.

Scott Alexander odmieta v komentári na blogu Astral Codex Ten predstavu, že obavy z rizík AI sú iba účelovým sprisahaním technologických firiem. Argumentuje tým, že podobne varujú aj nezávislí výskumníci a viacerí dnešní šéfovia AI spoločností tieto riziká riešili dávno pred založením vlastných podnikov.

Investori podľa Financial Times strácajú dôveru, že príjmy z AI pokryjú veľké dlhy financujúce dátové centrá. Denník vo svojom podcastovom súhrne upozorňuje na výpredaj dlhopisov spojených s touto infraštruktúrou.

Videoreláciu a podcast PočúvAI pripravuje magazín Živé.sk. Na odber všetkých nových dielov našich podcastov PočúvAI a SHARE sa môžete prihlásiť cez platformy Apple Podcasts, Spotify, Deezer a YouTube.

NAPÍŠTE NÁM: Ak nám chcete niečo odkázať, doplniť nás alebo sme povedali niečo zle a chcete nás opraviť, môžete nám napísať na podcasty@zive.sk. Všetky e-maily čítame a na väčšinu odpovedáme.

Páči sa vám tento prehľad? Tu sa dozviete, ako ho môžete odoberať aj vy:

Čítajte aj

Takto vám neujde na Živé.sk nič dôležité: Stačí na to pár kliknutí