Americká vláda vydala příkaz k exportní kontrole, který pozastavil přístup k modelům Fable 5 a Mythos 5 společnosti Anthropic pro všechny zahraniční státní příslušníky. Tento krok otřásl tisíci zákazníků a vyvolal otázky o budoucnosti Anthropic i celého odvětví umělé inteligence.
Co přesně vláda nařídila?
Americká vláda se odvolala na pravomoci v oblasti národní bezpečnosti a vydala exportní kontrolní direktivu zakazující přístup k modelům Fable 5 a Mythos 5 jakémukoli zahraničnímu státnímu příslušníkovi. Zákaz platí bez ohledu na to, zda se daná osoba nachází uvnitř, nebo vně Spojených států, a vztahuje se i na zaměstnance Anthropic, kteří nejsou americkými občany. Přístup ke všem ostatním modelům Claude zůstal nedotčen. Anthropic obdržel direktivu v 17:21 hodin východního času a do tří hodin modely zcela vypnul.
Jak k tomu celé došlo: příběh Project Glasswing a Mythos
Kořeny problému sahají k projektu Glasswing, kdy Anthropic poprvé představil model Mythos. Společnost tehdy prohlásila, že model je tak výkonný v oblasti kybernetických útoků a obrany, že ho nemohou veřejně vydat. Tento přístup, postavený na marketingové strategii pracující se strachem, vzbudil obrovský zájem. Krátce předtím se Anthropic dostal do sporu s Ministerstvem obrany kvůli podmínkám použití svých modelů pro autonomní zbraně a masový dohled. Vláda ho následně označila za riziko dodavatelského řetězce. Fable 5 byl poté představen jako veřejně dostupná, ale „oslabená“ verze Mythosu s klasifikačním modelem blokujícím dotazy na kybernetiku, biologii a jadernou problematiku.
Role Amazonu a Andyho Jassyho
Podle Wall Street Journal provedli výzkumníci Amazonu sérii promptů, pomocí nichž přiměli model Anthropic prozradit informace o bezpečnostních zranitelnostech. Ještě závažnější zjištění přinesl web The Information: sám generální ředitel Amazonu Andy Jassy, přičemž Amazon patří mezi největší investory a dodavatele Anthropic, se obrátil na vysoce postavené úředníky Trumpovy administrativy a upozornil je na bezpečnostní rizika modelů Fable 5 a Mythos 5. Právě tyto hovory v posledních dnech přispěly k zavedení exportních omezení.
Jailbreaking: skutečná hrozba, nebo záminka?
Vláda jako důvod uvedla, že se dozvěděla o metodě obcházení bezpečnostních opatření modelu Fable 5. Anthropic ve svém blogovém příspěvku uvedl, že demonstrace ukázala pouze několik málo dříve známých a relativně jednoduchých zranitelností, které lze nalézt i pomocí jiných veřejně dostupných modelů bez nutnosti jailbreaku (obcházení bezpečnostních omezení). Podle autora videa je to problematické ze dvou důvodů:
- Každý existující AI model lze jailbreakovat. Fable ani Mythos nejsou v tomto ohledu výjimkou.
- Pliny the Prompter jailbreakoval Fable 5 během několika hodin od jeho vydání, stejně jako to dělá s každým novým modelem.
- Anthropic před spuštěním red teamoval (testoval bezpečnost) bezpečnostní opatření Fable po tisíce hodin ve spolupráci s vládou USA, britskou AISI a dalšími organizacemi.
- Mythos ani Fable nejsou v kybernetických schopnostech výrazně lepší než GPT-5.5.
Sebezpůsobená rána a regulatorní capture
Autor videa označuje celou situaci za sebezpůsobenou ránu Anthropicu. Společnost dlouhodobě komunikovala, jak nebezpečný Mythos je a jak pouze ona je dostatečně důvěryhodná k jeho použití. Tím sama přitáhla pozornost vlády k potenciálním rizikům. Dario Amodei navíc krátce před tímto incidentem zveřejnil esej vyzývající vládu k zavedení regulačních rámců pro AI. Anthropic je přitom znám agresivní snahou o regulatorní capture (ovlivňování pravidel takovým způsobem, který posiluje pozici velkých hráčů a ztěžuje konkurenci startupům). Možná přizpůsobení, která vláda může po Anthropicu požadovat, jako je například povinnost znát zákazníka (KYC, Know Your Customer), by větší společnosti zvládly snadno. Pro menší konkurenty by však představovala závažnou zátěž.
Co to znamená pro IPO Anthropicu a celé odvětví AI
Anthropic krátce před incidentem důvěrně podal dokument S-1, čímž naznačil přípravu na vstup na burzu. Tato situace IPO téměř jistě odloží. Anthropic totiž přestal být vnímán jako prodejce produktu a stal se subjektem spojeným s hrozbou národní bezpečnosti. Autor předpokládá, že v horizontu jednoho až dvou týdnů Anthropic s vládou dohodne kompromis a přístup k Fable 5 bude obnoven. Zásadnější problém však vidí v tom, že veřejnost i vláda začínají na AI modely nahlížet primárně jako na bezpečnostní hrozby, nikoli jako na nástroje zvyšující produktivitu a blahobyt.
Zákaz modelů Fable 5 a Mythos 5 je varováním pro celé odvětví umělé inteligence ve firmách. Pokud vás téma regulace AI a marketingových strategií Anthropicu zajímá, sledujte další obsah na diversity-promotion.cz. Podobné analýzy přinášíme pravidelně v sekci umělá inteligence a věnujeme se také tématům jako proč se lidé bojí umělé inteligence nebo technologie budoucnosti.
