Introducing Mistral Large 4
Summary
Mistral AI가 1조 개의 파라미터와 520억 개의 활성 파라미터를 갖춘 네이티브 멀티모달 오픈 가중치 모델인 Mistral Large 4의 공개 프리뷰를 발표했다.
Key Points
- Mistral Large 4(ML4)는 코딩, 에이전트 워크플로우, 멀티모달 이해 전반에서 뛰어난 성능을 발휘하는 1조 파라미터 규모(활성 파라미터 520억 개)의 모델이다.
- 사이버 보안, 금융, 법률 등 주요 엔터프라이즈 워크로드에서 오픈 모델 중 최고 수준(SOTA)을 달성했으며, 오픈 가중치는 이번 달 말에 공개될 예정이다.
- 유럽 내 자체 데이터센터의 3,800대 NVIDIA Grace Blackwell GPU 인프라에서 처음부터 학습되었으며, 160개 이상의 다국어 데이터를 포함한다.
Notable Quotes & Details
Notable Data / Quotes
- 1 trillion-parameter
- 52 billion active parameters
- 3,800 NVIDIA Grace Blackwell GPUs
- 160 languages
- Weights drop end of this month.
Intended Audience
AI 연구자, 소프트웨어 엔지니어, 엔터프라이즈 보안 및 개발 담당자