Američania pustia Brusel k jednej z najstráženejších AI. Jej schopnosti vyvolali obavy

Prístup k výkonnému modelu umelej inteligencie americká spoločnosť výrazne obmedzila.  

Anthropic predstavil model Mythos začiatkom apríla. Prístup k nemu však výrazne obmedzil, keďže ho považuje za natoľko výkonný, že je údajne schopný odhaľovať a zneužívať slabé miesta softvérov. Vyvolalo to obavy, že by mohol byť využitý na rozsiahle hackerské útoky na kritické systémy.

Americký startup preto po spustení Mythosu poskytol prísne obmedzený predbežný prístup iba približne 40 partnerským organizáciám. Medzi nimi sú aj americkí technologickí giganti ako Amazon, Apple a Google. Mimo Spojených štátov získal prístup britský AI Security Institute.

Európske orgány však prístup k AI modelu nedostali, čo viedlo EK k začatiu rokovaní s Anthropicom a odborníci na kyberbezpečnosť Európu vyzvali, aby vyvinula vlastnú verziu modelu.

EK s Anthropicom rokovala niekoľko týždňov a oficiálnu ponuku od spoločnosti dostala na minulotýždňovom stretnutí s vedením startupu v San Franciscu.

„Môžem potvrdiť, že Komisia absolvovala s firmou Anthropic niekoľko prínosných stretnutí. Vítame najnovší vývoj v súvislosti s potenciálnym budúcim prístupom k Mythosu,“ uviedol Regnier. Ponuka adresovaná ENISA je podľa neho výsledkom „intenzívnej bilaterálnej spolupráce a angažovanosti Komisie vo vzťahu k firme Anthropic“.

Finálna dohoda ešte nebola uzavretá, keďže je potrebné doladiť podmienky prístupu ENISA k modelu, ako aj to, aký prístup k systémom EÚ získa Anthropic.

„Tento najnovší vývoj má mimoriadny význam pre získanie jasného prehľadu o potenciálnych rizikách,“ povedal Regnier. „Nesmieme zabúdať, že Mythos nie je ojedinelý prípad – na trh sa chystá nová vlna výkonných AI modelov,“ upozornil.

Čítajte viac Umelá inteligencia berie ľuďom elektrinu. Problémom sú najmä dátové centrá