Leanstral 1.5: Proof Abundance for All
Summary
Mistral AI가 formal verification(형식 검증) 및 Lean 4에서의 실무적 증명 엔지니어링을 위해 성능을 대폭 향상하고 Apache-2.0 라이선스로 완전 오픈소스화한 6B 활성 파라미터 규모의 모델 Leanstral 1.5를 출시했습니다.
Key Points
- Leanstral 1.5는 총 119B 파라미터 중 6B 활성 파라미터를 사용하며, FATE-H(87%), FATE-X(34%) 등 대학원/박사 수준의 추론 벤치마크에서 SOTA를 달성했습니다.
- 중간 학습(mid-training), 지도 미세조정(SFT), 그리고 다중 턴 및 코드 에이전트 환경의 CISPO 강화학습(RL) 3단계 프로세스를 거쳐 훈련되었습니다.
- 단순 벤치마크 성능을 넘어 실제 오픈소스 리포지토리 57개 테스트 과정에서 기존에 발견되지 않았던 새로운 버그 5개를 검출하여 실무 유용성을 입증했습니다.
Notable Quotes & Details
Notable Data / Quotes
- 6B active parameters
- 587/672 PutnamBench problems
- 87% on FATE-H
- 34% on FATE-X
- 5 previously unknown bugs across 57 repositories
- 119B total
Intended Audience
인공지능 연구원, 공식 검증(Formal Verification) 전문가, Lean 4를 사용하는 소프트웨어 엔지니어 및 수학 연구자