Improving Fable 5's biology safeguards
Summary
앤트로픽이 Claude Fable 5 모델의 생물학 관련 안전장치를 업데이트하여 오탐지율을 크게 낮추고 사용성을 개선했습니다.
Key Points
- 생물학 관련 오탐지(안전장치 오작동으로 하위 모델로 전환되는 현상)를 약 85% 감소시켜 일반적인 건강 및 교육적 질문에 대한 Fable 5의 가용성을 넓혔습니다.
- 이중 용도(바이러스학, 독성학, 분자 설계 등) 및 오용 위험(생물 무기 개발 등)이 있는 고위험 연구 분야에 대해서는 여전히 Opus 5 모델로의 전환(Fallback)이 적용됩니다.
- 악의적 사용자가 일반 연구처럼 위장하여 위험한 행동을 할 수 있는 모호성을 관리하면서, 신뢰할 수 있는 접근 경로를 통해 프론티어 생물학 기능을 과학자들에게 안전하게 제공하기 위해 지속적으로 투자하고 있습니다.
Notable Quotes & Details
Notable Data / Quotes
- 85%
- Fable 5
- Opus 5
- US Intelligence Community’s 2026 Annual Threat Assessment
Intended Audience
AI 안전 연구자, 생물학 및 의학 연구원, 의료 전문가 및 AI 기술 트렌드 관심층