Stop! Americká vláda prikázala Anthropicu zamedziť prístup cudzincom k jeho najlepším modelom umelej inteligencie

Spoločnosť Anthropic má pozastaviť všetkým cudzím štátnym príslušníkom prístup k svojim modelom umelej inteligencie Fable 5 a Mythos 5.  

Spoločnosť uviedla, že v piatok dostala od vlády smernicu o kontrole exportu, ktorá neposkytla žiadne konkrétne podrobnosti o svojich obavách týkajúcich sa národnej bezpečnosti.

Podľa vyhlásenia spoločnosti sa však Anthropic domnieva, že vláda má informácie o metóde obchádzania ochrany alebo takzvaného „jailbreakingu“ modelu Fable 5.

„Čistým efektom tohto príkazu je, že musíme náhle deaktivovať modely Fable 5 a Mythos 5 pre všetkých našich zákazníkov, aby sme zaistili súlad s predpismi. Prístup k všetkým ostatným modelom Anthropic to neovplyvní,“ uviedla spoločnosť Anthropic.

Anthropic dodal, že podľa jeho názoru došlo k „nedorozumeniu“ a pracuje na tom, aby čo najskôr obnovil prístup k týmto modelom.

Tento príkaz prichádza podľa Reuters práve v momente, keď sa predchádzajúci spor medzi predstaviteľmi Trumpovej administratívy a spoločnosťou Anthropic, ktorá sa chystá na vstup na burzu (IPO), začal v niektorých zložkách americkej vlády zmierňovať.

Vzťahy spoločnosti Anthropic s vládou sa tento rok narušili po tom, čo spoločnosť odmietla povoliť americkej armáde využívať jej modely umelej inteligencie na domáce sledovanie a plne autonómne zbraňové systémy. Vláda reagovala zaradením spoločnosti Anthropic na čiernu listinu dodávateľského reťazca, čo má vstúpiť do platnosti neskôr v tomto roku.

Tento krok zároveň znamená zásadnú eskaláciu úsilia USA zastaviť kapacity umelej inteligencie zahraničných protivníkov. Americké exportné kontroly sa roky zameriavali na čipy a nástroje, ktoré poháňajú umelú inteligenciu, a nie na obmedzovanie prístupu cudzincov k samotnej umelej inteligencii.

Spoločnosť Anthropic uviedla, že vláda jej poskytla iba „ústne dôkazy o potenciálnom úzko zameranom, nie univerzálnom jailbreaku“.„Nesúhlasíme s tým, že zistenie úzko zameraného potenciálneho jailbreaku by malo byť dôvodom na stiahnutie komerčného modelu, ktorý využívajú stovky miliónov ľudí,“ uviedla spoločnosť.

Vládna smernica a reakcia spoločnosti Anthropic podčiarkujú rastúce napätie medzi vývojármi umelej inteligencie a regulačnými orgánmi v otázke, ako posudzovať riziká spojené s takzvanými „jailbreakmi“ alebo metódami používanými na obchádzanie bezpečnostných poistiek modelov. Ešte v stredu Anthropic vyzýval na väčší dohľad USA nad umelou inteligenciou, vrátane možnosti zablokovať modely s neprijateľnými rizikami. Spoločnosť však uviedla, že piatkový krok vlády sa neriadil princípmi spravodlivej regulácie založenej na faktoch.

Šéfka informačných technológií Pentagonu (CIO) Kirsten Daviesová vo svojom príspevku na sieti X uviedla, že ministerstvo obrany podporuje uprednostňovanie národnej bezpečnosti.„Niektoré veci sú jednoducho dôležitejšie ako príjmové cykly, clickbaity a hodnota spoločnosti pred vstupom na burzu. Amerika na prvom mieste. Vždy,“ uviedla Daviesová.