Umelá inteligencia môže byť pre ľudstvo existenčnou hrozbou, upozornil Türk

Vysoký komisár Organizácie Spojených národov (OSN) pre ľudské práva Volker Türk upozornil, že umelá inteligencia (AI) môže byť raz natoľko výkonná, že sa stane pre ľudstvo existenčnou hrozbou. V prejave pri otvorení zasadnutia Rady OSN pre ľudské práva v Ženeve preto vyzval na prijatie okamžitých opatrení s cieľom obmedziť možné riziká.  

„Zdieľam obavy ľudí z odvetvia, že pokročila umelá inteligencia by mohla predstavovať existenčné riziko pre ľudstvo,“ vyhlásil Türk. Ľudské práva sú podľa neho v dnešnej dobe vystavené neznámym, až dokonca bezprecedentným hrozbám.

„Potreba regulácie umelej inteligencie je všeobecne uznávaná, ale kde sú konkrétne kroky?“ spýtal sa ďalej Türk a varoval, že z nečinnosti ťažia „len veľké technologické firmy, ich majitelia a tým, ktorí im to umožňujú“.

Bez priameho menovania zároveň podotkol, že len hŕstka mužov „má takmer neobmedzenú moc nad AI“. „Hovoria o slobode, ale keď sa na to pozrieme bližšie, ukáže sa, že ide vlastne len o slobodu využívať naše údaje,“ upozornil. Medzi popredné spoločnosti v oblasti AI patria Meta, Anthropic, OpenAI či Google.

Türk sa vo svojom prejave podľa agentúry AFP vyjadril aj k júlovým zisteniam, že autonómni agenti OpenAI unikli z údajne kontrolovaného prostredia a ovládli servery platformy Hugging Face, ktorú programátori využívajú na šírenie softvéru umelej inteligencie. Podobné incidenty pri testovaní agentov hlásili aj ďalšie firmy vrátane Anthropicu a Mety.

„Dnes tu vyzývam, aby sme vynaložili všetko úsilie a zaviedli záruky bezpečnosti a ochrany umelej inteligencie skôr, než bude neskoro,“ zdôraznil šéf ľudskoprávnej agentúry OSN. Podľa svojich slov plánuje v najbližších dňoch osobne napísať spoločnostiam vyvíjajúcim AI, aby „prijali opatrenia, ktoré sú v ich silách, s cieľom okamžite znížiť riziká“.

„Prinajmenšom potrebujeme, aby sa krajiny, v ktorých sa umelá inteligencia prevádzkuje, a ktoré sú zapojené do jej dodávateľských reťazcov, dohodli na jasných hraniciach, ktoré nemožno prekročiť,“ dodal.

Na existenčné riziko pre ľudstvo zo strany umelej inteligencie podľa Reuters už predtým upozornili vedúci predstavitelia zúčastnených firiem vrátane šéfa OpenAI Sama Altmana. Samotná OSN v júli usporiadala prvé globálne stretnutie venované otázke riadenia AI a vyzvala na zavedenie harmonizovaných pravidiel.

Témy:
umelá inteligencia

Sledujte Pravdu na Google news
po kliknutí zvoľte “Sledovať”

mReportér

Zdielajte článok

Vážení čitatelia, pod týmto článkom sme neumožnili diskusiu

Obsah článku a skúsenosti s administráciou debát nám dávajú predpoklad, že aj na tomto mieste by pribúdali
prevažne príspevky, ktoré by boli v rozpore s pravidlami debaty aj dobrými mravmi.

Ďakujeme za pochopenie a tešíme sa na slušné debaty pod inými článkami.