Anthropic zablokoval pokusy o zneužitie svojich AI modelov na kybernetické útoky

Startup Anthropic priznal, že musel blokovať pokusy zneužiť četbota Claude na kybernetické útoky, špionáž aj biologický výskum. Varuje pred rastúcimi rizikami AI.  

Americký startup zaoberajúci sa umelou inteligenciou (AI) Anthropic oznámil, že v posledných mesiacoch prekazil pokusy o využitie rôznych modelov četbota Claude na kybernetické útoky, sledovanie politických oponentov či výskum, ktorý mohol viesť k vývoju biologických zbraní. Firma to uviedla v novej správe o zneužití umelej inteligencie, na ktorú sa odvolala agentúra AP.

V skratke:

• Anthropic zmaril pokusy zneužiť četbota Claude na kyberútoky a politické sledovanie
• Rastúca výkonnosť modelov AI znižuje prah potrebných zručností pre kyberútoky
• Medzi rokmi 2025 a 2026 Anthropic zaznamenal zneužitie AI rôznymi štátnymi aj neštátnymi aktérmi

„Prípady, o ktorých tu hovoríme, nie sú typickým zneužitím, ale skôr príkladmi najvýraznejších a najnovších hrozieb, ktoré sme doteraz identifikovali,“ uvádza v poradí tretej správe od marca 2025.

Kritika technologických závodov

Zverejnená bola dva dni po verejnom odchode výskumníka Jacoba Coxona z Anthropicu, ktorý túto aj konkurenčnú spoločnosť OpenAI obvinil z toho, že „hazardujú s našimi životmi“ tým, že sa predbiehajú vo vývoji pokročilých modelov AI. Zopakoval tak obavy, ktoré vyjadrujú aj ďalší predstavitelia odvetvia.

Anthropic v správe upozornil, že so stúpajúcou výkonnosťou modelov budú rásť aj s nimi spojené riziká, ak vývojári a zástupcovia spoločnosti nepodniknú kroky na zvýšenie ich bezpečnosti. Napríklad na vykonanie kybernetických útokov podľa nej už nie sú potrebné pokročilé zručnosti a hrozby, ktoré boli ešte pred rokom nemysliteľné, môžu teraz vytvárať aj jednotlivci.

Zneužitie na biologický výskum

Medzi decembrom 2025 a augustom 2026 odborníci v Anthropicu odhalili prípady zneužitia modelov AI zo strany rôznych aktérov, od predajcov špionážneho softvéru až po štátom podporované skupiny šíriace propagandu.

Zistenia zahŕňajú aj pokusy o využitie AI na pochybný biologický výskum, ktorý údajne mohol viesť k vývoju zbraní. Anthropic preto do svojich najnovších modelov zabudoval prísnejšie bezpečnostné opatrenia.

Politické sledovanie a propaganda

Výskumníci podľa správy nehľadali konkrétnu vedeckú pomoc, ale skôr organizačnú podporu, napríklad pri vypracúvaní článkov. Spoločnosť OpenAI ale tvrdí, že môže byť ťažké určiť zámery podobných požiadaviek, lebo ten istý výskum môže slúžiť na lekárske aj vojenské účely. V správe sa spomína výskum vírusu chikungunya, jedného z kmeňov vtáčej chrípky a skupiny vírusov, do ktorej patria kiahne, jedy a iné toxíny.

Anthropic zároveň upozornil, že vlády a so štátom spriaznení aktéri čoraz viac využívajú AI na sledovanie etnických menšín a disidentov. Prekazené incidenty mali pôvod v Číne, Iráne a západnej Afrike.

Hrozby vo vojenskom vývoji

Správa ďalej poukazuje na prípady, keď ruské štátne médiá využívali Claude na vytváranie propagandy, ktorú vydávali za nezávislé spravodajstvo. Súčasťou podľa AP boli napríklad vymyslené tvrdenia o voľbách v Moldavsku.

Za novú hrozbu Anthropic označuje využitie umelej inteligencie na vývoj softvéru s cieľom navrhovania a výroby konvenčných zbraní, rakiet, dronov a bômb. Tri takéto prípady zaznamenala spoločnosť v Číne, dva v Rusku a jeden v Jemene, kde z kontextu vyplýva, že ide o proiránskych povstalcov húsíov, podotkol denník The New York Times.