Anthropic har begrenset Fable 5 for å hindre farlig bruk

Anthropic har nylig lansert Claude Fable 5, som er deres første «Mythos-klasse»-modell. Selskapet sier at modellen overgår tidligere Opus-modeller i generelle evner. Likevel har de innført sikkerhetssperrer som hindrer modellen i å svare på spørsmål om cybersikkerhet, biologi og kjemi. Anthropic er bekymret for at ondsinnede aktører kan bruke modellen til å forårsake alvorlig skade.

Fable 5 er offentlig tilgjengelig, men den har et system av klassifiserere som oppdager forbudte emner og forsøk på å omgå sperrene. Når en bruker stiller et følsomt spørsmål, blir det sendt videre til den eldre modellen Claude Opus 4.8. Brukeren får også en advarsel. Anthropic innrømmer at sperrene er strengere enn ideelt, noe som betyr at modellen av og til avviser ufarlige forespørsler. Dette skjer i mindre enn fem prosent av tilfellene, ifølge selskapet.

Mythos 5, som er basert på samme underliggende modell som Fable 5, er ikke offentlig tilgjengelig. Den er kun tilgjengelig for en liten gruppe cybersikkerhetseksperter gjennom Project Glasswing. Anthropic har testet Fable 5 i over 1000 timer med røde lag og et bug bounty-program. Eksterne team fant ingen universelle metoder for å omgå sperrene. Modellen motsto også automatiske forsøk på juks i mye større grad enn tidligere modeller.

Anthropic er spesielt bekymret for Mythos 5s evne til å utføre «agentisk hacking», det vil si å gjennomføre flerdelte cyberangrep. Likevel viste tester fra Storbritannias AI Safety Institute at Mythos Preview presterte omtrent like bra som OpenAI GPT-5.5 på Capture the Flag-utfordringer.

Prisen for Fable 5 er $10 per million input-tokens og $50 per million output-tokens. Dette er 67 til 100 prosent høyere enn OpenAI GPT-5.5. Anthropic planlegger å utvide Project Glasswing i samråd med den amerikanske regjeringen. De vil også opprette et nytt program for livsvitenskapsorganisasjoner som fjerner biologi- og kjernisperrene, men beholder cybersikkerhetssperrene.