Hrozivá predpoveď: Umelá inteligencia môže do desiatich rokov vyhladiť ľudstvo

Bývalý zamestnanec dvoch vedúcich amerických spoločností zaoberajúcich sa vývojom umelej inteligencie, OpenAI a Anthropic, obvinil svojich bývalých zamestnávateľov z toho, že v pretekoch o vývoj modelov schopných samostatného zlepšovania sa zahrávajú s ľudskými životmi.  

„Ani jedna spoločnosť nekoná zodpovedne. Ženú sa priamo k samostatne sa zlepšujúcej superinteligencii a hazardujú s našimi životmi,“ vyhlásil v utorok dvadsaťsedemročný Jacob Coxon. Superinteligencia je teoretický bod, keď schopnosti AI presiahnu ľudskú inteligenciu.

Coxon, ktorý posledné tri roky strávil predtrénovaním AI modelov – najprv v OpenAI a tento rok v konkurenčnom Anthropicu –, sa preto rozhodol túto oblasť úplne opustiť. „Ľudia, ktorí vyvíjajú AI, úprimne veria, že nás to môže do konca desaťročia všetkých zabiť,“ uviedol na platforme X. „Toto nie je marketingový trik,“ dodal.

Bezpečnostný pracovník spoločnosti Anthropic Evan Hubinger Coxona v príspevku na platforme X podporil. „My naozaj úprimne veríme, že AI môže zabiť všetkých ľudí!“ napísal a riziko odhadol na viac než desať percent v priebehu nasledujúceho desaťročia.

Hubinger uviedol, že Anthropic „robí, čo môže“, no zatiaľ nemá plán, ako zabezpečiť, aby systém „s nadľudskými schopnosťami“ poslúchal svojich tvorcov. Pri súčasných modeloch je však podľa neho toto riziko nízke.

Lídri v oblasti umelej inteligencie tvrdia, že tzv. „rekurzívne samostatné zlepšovanie“, t.j. fáza, keď by systémy AI mohli navrhovať a trénovať ďalšiu generáciu modelov s minimálnym zásahom človeka, sa blíži.

Koncom júla viac než 1 000 pracovníkov technologického sektora vrátane generálneho riaditeľa spoločnosti Anthropic Daria Amodeiho požiadalo Washington, aby podporil koordinované spomalenie vývoja najpokročilejších AI systémov.

V nedeľu šéf výskumu v OpenAI Jakub Pachocki vyzval na „extrémnu opatrnosť“. „Medzinárodná koordinácia budúceho vývoja AI sa musí stať najvyššou prioritou vlád na celom svete,“ napísal na blogu.

Témy:
umelá inteligencia
AI
OpenAI
Anthropic

Sledujte Pravdu na Google news
po kliknutí zvoľte “Sledovať”

mReportér

Zdielajte článok

Vážení čitatelia, pod týmto článkom sme diskusiu zastavili

Prevládali v nej príspevky, ktoré boli v rozpore s pravidlami debaty aj dobrými mravmi. Celú debatu sme
vymazali, autorom všetkých slušných príspevkov sa ospravedlňujeme.

Ďakujeme za pochopenie a tešíme sa na slušné debaty pod inými článkami.