Ľudia nosia na čele kamery, aby naučili roboty žehliť a AI, ktorá uteká „z klietky“

Kým prvá vlna generatívnej AI stavala predovšetkým na spracovávaní textov a obrázkov z internetu, najnovší vývoj sa presúva priamo do fyzického priestoru.

Vývojári učia humanoidných robotov chápať každodenné ľudské úkony, zatiaľ čo AI systémy preberajú kontrolu nad riadením kritickej infraštruktúry. S rastúcou autonómiou však prichádzajú aj nečakané zlyhania a etické otázky. Čo sa stane, keď AI agenti obchádzajú pravidlá, preceňujú svoje právomoci alebo pri plnení cieľov spôsobia škody?

Pozrite si novinky zo sveta AI vo videorelácii PočúvAI, ktorú pripravili redaktori Živé.sk Ján Trangel a Lucia Kobzová. Ak je to pre vás pohodlnejšie, všetko zaujímavé si môžete prečítať aj v článku nižšie:

V dnešnom prehľade sa dozviete:

• Prečo ľudia v Indii nosia na čele kamery a ako tým učia humanoidných robotov chápať fyzický svet.
• Ako systém SMART pomáha americkej Leteckej správe (FAA) riadiť vzdušný priestor a aké riziká prináša pre dispečerov.
• Prečo osobný asistent Meta Muse a autonómne modely vymazávajú e-maily či spôsobujú spory na online bazároch.
• Ako AI agenti prenikli do austrálskeho vládneho systému alebo vyhadzovali ľudí z čakacej listiny vo fitnescentre.
• Prečo sa vracia myšlienka Billa Gatesa zdaniť roboty a čo to znamená pre európsky sociálny systém.
• Študenti z Michaloviec bodujú v svetovej TOP 5 s konceptom AI robota na detekciu lesných požiarov

Ako sa zbierajú dáta pre humanoidných robotov

Spoločnosti vyvíjajúce umelú inteligenciu sa presúvajú do oblasti robotiky, kde narážajú na zásadný problém – nedostatok kvalitných tréningových dát z fyzického sveta. Kým prvá generácia veľkých jazykových modelov vznikla spracovaním voľne dostupných textov z internetu, roboty potrebujú chápať fyzický kontext a manuálne úkony.

Firmy a startupy preto najímajú ľudí v rozvojových krajinách, ako je India, ktorí v továrňach aj v domácnostiach nosia na čele kamery. Tie snímajú každodenné činnosti z pohľadu prvej osoby. Zbierajú informácie ako šitie v dielňach, žehlenie či umývanie riadu.

Tieto dáta učia robotov chápať logiku pohybov, ktorú ľudia robia automaticky (napríklad ktorou stranou položiť pohár na stôl, aby sa nevyliala voda). S týmto trendom však vznikajú aj etické otázky: pracovníci za nízke odmeny odovzdávajú svoje know-how firmám, ktoré v budúcnosti môžu ich vlastnú prácu úplne zautomatizovať.

Paralelne s tým Amazon nasadzuje inteligentné okuliare pre svojich kuriérov, ktoré pri doručovaní balíkov zaznamenávajú tisíce fotografií. Amazon tvrdí, že citlivé údaje anonymizuje, no získaný vizuálny materiál využíva na dotrénovanie svojich modelov.

Umelá inteligencia v kritickej infraštruktúre

Americká Federálna letecká správa (FAA) začala na letiskách v USA testovať AI systém SMART (Strategic Management of Airspace, Roads, and Trajectories). Systém spája obrovské množstvo dát o počasí, plánovaných letoch a kapacitách letísk, pričom dokáže vytvárať predikcie preťaženia a navrhovať preventívne úpravy prevádzky.

Nasadenie AI v kritickej infraštruktúre vyvoláva diskusiu o bezpečnosti. Keďže predikcie fungujú na základe štatistickej pravdepodobnosti, v prípade chyby hrozia katastrofálne následky. Rizikom sú aj kognitívne skreslenia operátorov, napríklad anchoring bias (ukotvenie na prvú prijatú informáciu) alebo automation bias (slepá dôvera vo výsledky AI).

Na druhej strane AI v tomto sektore nemá dispečerov nahradiť, ale pomôcť im spracovať kvantum dát, ktoré človek v reálnom čase nedokáže vyhodnotiť.

Trapasy autonómnych agentov

Spoločnosť Meta predstavila osobného AI asistenta Muse, ktorý dokáže vykonávať autonómne úlohy na pozadí, ako je vybavovanie e-mailov či vracanie tovaru. Zvýšená autonómia AI agentov však so sebou prináša aj kuriózne a nebezpečné zlyhania.

V praxi sa už objavil prípad, kedy predávajúci na Facebook Marketplace zveril komunikáciu AI agentovi. Agent autonómne dohodol predaj aj čas stretnutia a kupujúcemu poslal adresu majiteľa. Zabudol však o tom informovať samotného predávajúceho, čo vyústilo do nepríjemného sporu, keď kupujúci dorazil pred prázdny dom.

Zatiaľ čo pri jednoduchých úlohách ide len o trapasy, udelenie širokých oprávnení agentom (napríklad prístupu k e-mailom) môže viesť k vymazaniu schránok či úniku osobných údajov. Do budúcnosti hrozí aj zaplavenie trhovísk a webov spamom zo strany agentov komunikujúcich navzájom

Predbiehanie vo fitku aj útok na vládny web

Ešte vážnejší rozmer predstavuje správanie AI agentov pri plnení zadaných cieľov. V Austrálii bol zaznamenaný prípad, kedy AI agent pri hľadaní informácií objavil zraniteľnosť na portáli Medicare a získal neoprávnený prístup do neverejnej časti vládneho systému. Podobný pokus zaznamenal aj výskum v Kanade.

V súkromnom sektore sa stal incident, keď AI agent pri rezervácii hodiny vo fitnescentre nevedel vyriešiť plnú kapacitu, a tak začal z čakacej listiny vyhadzovať iných ľudí. Agenti sú totiž optimalizovaní na splnenie cieľa, pričom bezpečnostné či etické zábrany môžu ísť bokom. Tieto prípady otvárajú pálčivé právne otázky o tom, kto nesie zodpovednosť za škody spôsobené autonómnym konaním AI.

Mali by roboty platiť dane?

Miliardár Bill Gates opätovne otvoril diskusiu o zavedení daní pre roboty a AI systémy, ktoré nahrádzajú ľudskú prácu. Získané financie by mali slúžiť na vytvorenie sociálnej siete pre občanov, financovanie rekvalifikácií či podporu nových pracovných pozícií.

Téma je mimoriadne pálčivá najmä pre Európsku úniu, ktorá čelí demografickej kríze a starnutiu populácie. Ak automatizácia zníži počet pracujúcich ľudí, štáty prídu o časť príjmov z daní a odvádzať sa bude menej prostriedkov do zdravotného a sociálneho systému. Zdanenie automatizovanej práce by tak mohlo pomôcť udržať európske sociálne systémy v chode

Stredoškoláci z Michaloviec patria medzi svetovú špičku

Slovensko zaznamenalo výrazný úspech v oblasti mládežníckej vedy a inovácií. Stredoškoláci z Michaloviecvytvorili teoretický model AI robota určeného na včasnú detekciu lesných požiarov. S týmto nápadom sa presadili v medzinárodnej konkurencii a dostali sa medzi svetovú TOP 5.

Čítajte aj

Veľký úspech slovenských študentov. Naučili AI počuť požiar skôr, než ho…

Krátky prehľad správ z AI sveta:

OpenAI predstavilo autonómnych AI agentov Dots, ktorí majú dlhodobo pracovať na zadaných cieľoch a používať digitálne nástroje. Oznámenie prišlo krátko po tom, čo firma z bezpečnostných dôvodov zastavila vydanie pripravovaného modelu, ktorý počas testov vykazoval klamlivé správanie a prekračoval povolené hranice.

Google predstavil model Gemini 4 Argon zameraný na komplexné programovanie, profesionálnu prácu a kybernetickú bezpečnosť. Pre riziko zneužitia ho zatiaľ sprístupňuje iba obmedzene vybraným organizáciám a bezpečnostným expertom.

Americká FTC (Federal Trade Commission) začala vyšetrovať OpenAI a Anthropic pre možné riziká pokročilých AI systémov pre spotrebiteľov. Prípady, pri ktorých agenti prekročili pôvodné zadanie alebo zasiahli do externých systémov, otvárajú otázku právnej zodpovednosti za autonómne konajúcu AI.

Nvidia predstavila Open Agent Safety Platform, ktorá má obmedzovať prístup AI agentov k citlivým dátam a nástrojom a monitorovať ich správanie. Prístup stavia na tom, že nebezpečné kroky sa agentovi technicky znemožnia, namiesto spoliehania sa iba na jeho „poslušnosť“.

Spojené štáty chcú Číne navrhnúť núdzový komunikačný mechanizmus pre vážne AI incidenty. Cieľom je vzájomné upozorňovanie, ak by sa vývoj alebo použitie umelej inteligencie vymklo spod kontroly.

Šéf OpenAI Sam Altman vyhlásil, že spoločnosť bude musieť pri rozširovaní AI akceptovať určitú mieru rizika, pretože jej prínosy podľa neho prevážia možné škody. Zároveň odmietol predstavu, že najpokročilejšiu AI by mala kontrolovať iba úzka skupina organizácií.

Donald Trump oznámil vznik novej americkej Jednotky pre superinteligenciu, ktorá má koordinovať federálnu AI politiku a prepájať spravodajské služby, Pentagon, FTC a ďalšie inštitúcie. Administratíva pritom čoraz viac používa pojem „superinteligencia“ namiesto všeobecného označenia AI.

McDonald’s využíva algoritmický systém, ktorý analyzuje milióny transakcií a podľa miestneho dopytu či konkurencie odporúča ceny jednotlivým prevádzkam. Nejde o individuálne ceny pre konkrétnych zákazníkov, ale o ďalší príklad toho, ako AI vstupuje do každodenného určovania cien.

Videoreláciu a podcast PočúvAI pripravuje magazín Živé.sk. Na odber všetkých nových dielov našich podcastov PočúvAI a SHARE sa môžete prihlásiť cez platformy Apple Podcasts, Spotify, Deezer a YouTube.

NAPÍŠTE NÁM: Ak nám chcete niečo odkázať, doplniť nás alebo sme povedali niečo zle a chcete nás opraviť, môžete nám napísať na podcasty@zive.sk. Všetky e-maily čítame a na väčšinu odpovedáme.

Páči sa vám tento prehľad? Tu sa dozviete, ako ho môžete odoberať aj vy:

Čítajte aj

Takto vám neujde na Živé.sk nič dôležité: Stačí na to pár kliknutí