WASHINGTON – AI-bedrijf Anthropic heeft de toegang tot de modellen Fable 5 en Mythos 5 voor alle klanten stopgezet. De maatregel volgt op een richtlijn van de Amerikaanse overheid, die zich beroept op nationale veiligheidsbevoegdheden. Volgens Anthropic verbiedt het besluit toegang tot de modellen voor alle buitenlandse staatsburgers, zowel binnen als buiten de Verenigde Staten. Ook buitenlandse medewerkers van het bedrijf vallen onder de beperking.
Omdat Anthropic naar eigen zeggen moet voldoen aan de richtlijn, worden Fable 5 en Mythos 5 niet alleen voor buitenlandse gebruikers, maar voor alle klanten tijdelijk uitgeschakeld. De toegang tot andere modellen van Anthropic blijft volgens het bedrijf ongemoeid.
Zorgen over mogelijke jailbreak
De Amerikaanse overheid heeft volgens Anthropic geen concrete details gegeven over de nationale veiligheidszorgen. Het bedrijf zegt te begrijpen dat de maatregel verband houdt met een mogelijke methode om de beveiliging van Fable 5 te omzeilen. Zo’n omzeiling wordt in de AI-sector vaak een jailbreak genoemd.
Anthropic stelt dat het om een beperkte methode gaat, waarmee slechts enkele bekende en relatief kleine kwetsbaarheden zouden zijn gevonden. Volgens het bedrijf kunnen andere publiek beschikbare AI-modellen vergelijkbare kwetsbaarheden eveneens signaleren zonder dat daarvoor een specifieke omzeiling nodig is.
Bedrijf bestrijdt onderbouwing besluit
Anthropic zegt dat Fable 5 voorafgaand aan de introductie uitgebreid is getest. Daarbij zouden onder meer de Amerikaanse overheid, het Britse AI Safety Institute, externe partijen en interne teams betrokken zijn geweest. Volgens het bedrijf is tot nu toe geen universele jailbreak gevonden waarmee de beveiliging breed kan worden omzeild.
Het bedrijf is kritisch op de maatregel. Anthropic stelt dat een beperkte mogelijke jailbreak geen reden zou moeten zijn om een commercieel model voor honderden miljoenen gebruikers terug te roepen. Volgens het bedrijf zou een dergelijke standaard de uitrol van nieuwe geavanceerde AI-modellen in de hele sector kunnen stilleggen.
Exportcontrole raakt AI-sector direct
De maatregel wijst op een verdere verharding van het Amerikaanse toezicht op geavanceerde AI-systemen. Waar exportbeperkingen eerder vooral draaiden om chips en hardware, raakt deze ingreep direct de toegang tot operationele AI-modellen. Reuters meldde dat de stap wordt gezien als een beleidsverschuiving waarbij AI-software zelf onder exportcontrole komt te vallen.
Anthropic zegt de juridische richtlijn na te leven, maar noemt de maatregel niet transparant genoeg. Het bedrijf stelt dat overheidsingrijpen bij onveilige AI-modellen mogelijk moet zijn, maar alleen via een eerlijk, helder en technisch onderbouwd proces.
Ontdek meer van
Abonneer je om de nieuwste berichten naar je e-mail te laten verzenden.
