Zahubí nás umelá inteligencia? Neberme to na ľahkú váhu, tvrdí známy odborník na AI

„Štát, ktorý bude disponovať dátovými centrami a pokročilou AI, získa obrovskú konkurenčnú výhodu aj na budúcom bojisku. Zároveň drak občas spáli aj mestá vlastných majiteľov,” vysvetľuje v rozhovore.  

Experti čoraz častejšie varujú, že existuje reálna šanca, že nás umelá inteligencia v priebehu nasledujúcich rokov vyhubí, ak nespomalíme jej vývoj.

Český popularizátor AI, spisovateľ a podnikateľ Petr LUDWIG potvrdzuje, že to nie sú len reči alarmistov, ale hrozba, ktorú berú mimoriadne vážne aj zakladatelia tejto technológie a šéfovia najväčších technologických firiem. V rozhovore pre Aktuality.sk vysvetľuje, prečo je umelá inteligencia ako drak, ktorému len veľmi ťažko staviame klietku, a v čom spočíva jej najväčšie nebezpečenstvo.

Vývoj je totiž natoľko raketový, že podľa jeho vlastných slov môže byť už do pol roka všetko, o čom sme sa rozprávali, úplne inak.

Čo sa ďalej dozviete:

• Prečo európska ekonomika riskuje extrémnu závislosť od Ameriky, ak nezačne budovať vlastné dátové centrá a modely;
• či môže AI prehĺbiť rozdiely v sociálnych vrstvách spoločnosti;
• aké dohody medzi sebou majú spraviť krajiny v rámci rozvoja umelej inteligencie;
• a prečo sú pre blížiace sa voľby najväčším rizikom realistické deepfake videá, ktoré cielene útočia na emócie voličov.

Pozrite si celý videorozhovor:

Ako vnímate varovania a výroky niektorých expertov, podľa ktorých existuje viac ako 10-percentná šanca, že umelá inteligencia v budúcnosti vyhubí ľudstvo?

Nehovoria to len nejakí alarmisti, ale napríklad aj Geoffrey Hinton, ktorý dostal Nobelovu cenu za fyziku a je považovaný za jedného z otcov zakladateľov súčasnej umelej inteligencie. Ten hovorí dokonca o 10 až 20 percentách, a to patrí k tým optimistom.

Sú aj ľudia ako Eliezer Yudkowsky, ktorý tvrdí, že táto pravdepodobnosť je vlastne 100-percentná, pretože ak dosiahneme úroveň takzvanej superinteligencie, je takmer nereálne urobiť to bezpečne.

Táto diskusia je nesmierne dôležitá a mali by sme počúvať expertov na AI, ktorí na tieto riziká upozorňujú už pomerne dlho. Dnes už aj šéfovia najvýznamnejších firiem, či už je to Dario Amodei zo spoločnosti Anthropic alebo Sam Altman z OpenAI, zhodne potvrdzujú, že je to realita a hrozby sú skutočné.

20 fotiek v galérii

Petr Ludwig

Zdroj: Branislav Wáclav/Aktuality.sk

Obrovským problémom sú čínske takzvané open-weight (otvorené) modely, ktoré sú úplne neregulované. Ktokoľvek si tak môže stiahnuť najpokročilejší čínsky open-weight model, ktorý zaostáva za najlepšími americkými modelmi len o štyri až šesť mesiacov. Na vlastnej serverovej farme potom môže spustiť autonómnych agentov, ktorí už dnes dokážu napríklad hacknúť kritickú infraštruktúru. Tieto riziká sú teda aktuálne už dnes a to, že sme ich doteraz nevídali častejšie, je spôsobené len tým, že zlí aktéri zatiaľ nemajú prístup k najpokročilejším čipom. Samotné technológie tu však už existujú.

Súčasný rozmach umelej inteligencie nastal najmä príchodom modelu ChatGPT, ktorý v novembri oslávi štyri roky. AI tu však bola aj predtým. Kedy ste sa vy osobne začali zaoberať umelou inteligenciou? Predpokladám, že to bolo už počas štúdia, keďže ste záverečnú skúšku na vysokej škole skladali práve z umelej inteligencie.

Áno, dokonca aj diplomovú prácu som písal na takzvané multiagentové systémy. Vtedy išlo o inteligenciu, ktorá sa so súčasnou nedá absolútne porovnávať, no samotná agentová paradigma — teda samostatne fungujúce entity, ktorým vymeníte mozog za múdrejší — je tu už desaťročia. Chýbal nám však dostatočný výpočtový výkon.

To, čo sa zmenilo, sú obrovské dátové centrá, do ktorých sa inštaluje výpočtový výkon za stovky miliárd dolárov. Vyzerá to tak, že inteligencia rastie jednoducho tým, že zvyšujeme počet zapojených čipov. Čím viac čipov zapojíme, tým je model múdrejší, pričom tento trend sa zatiaľ skôr zrýchľuje. Vo výkonnostných testoch najpokročilejšie modely, ako napríklad Claude Opus, ukazujú, že sú reálne inteligentné. Dokážu generovať kreatívne riešenia a vo vedeckých otázkach z fyziky, biológie či chémie porážajú doktorandských absolventov z technických odborov.

Veľmi rýchlo budeme mať entitu, ktorá bude múdrejšia ako my sami. Bude pre nás obrovskou výzvou, ako sa k tomu ako ľudstvo postavíme a ako vytvoríme hranice pre niečo, čo nás inteligenciou presahuje.

Niekedy to prirovnávam k fantasy románom, napríklad k Hre o tróny. Armáda, ktorá má draka, získa obrovskú prevahu, no urobiť pre draka klietku je nesmierne ťažké. Umelá inteligencia je svojím spôsobom drak: štát, ktorý bude disponovať dátovými centrami a pokročilou AI, získa obrovskú konkurenčnú výhodu aj na budúcom bojisku.

Zároveň však drak občas spáli aj mestá vlastných majiteľov. Ukázalo sa napríklad, že nedávno boli agenti schopní hacknúť americké ministerstvo. To, že Amerika a Čína budú mať najpokročilejšie modely, môže znamenať aj to, že im tieto modely utečú spod kontroly. Vôbec totiž nie je zaručené, že umelá inteligencia bude počúvať svojho stvoriteľa.

20 fotiek v galérii

Petr Ludwig

Zdroj: Branislav Wáclav/Aktuality.sk

Stretávali sme sa s umelou inteligenciou, ale v odlišnej podobe, už v minulosti?

Umelá inteligencia existuje v podstate od 60. rokov minulého storočia, kedy bol v počítači vytvorený prvý umelý neurón, takzvaný perceptrón. Odvtedy sa technológia zdokonaľuje a v informatike či kybernetike sa snažíme modelovať neurónovú sieť ľudského mozgu. Preto hlboké neurónové siete dokážu veľmi dobre robiť napríklad klasifikáciu obrázkov.