Família Olmo 3: qual tamanho rodar
2 tamanhos, 7B–32B de parâmetros · Ai2
Tamanhos
| Modelo | Arquitetura | |||||||
|---|---|---|---|---|---|---|---|---|
| Olmo 3 7B Instruct | 7B | Denso | 65.536 | Nenhum resultado do LiveBench para este modelo na versão 2026-06-25 | 14 | 8 | 4,5 | 4,1 |
| Olmo 3 32B Think | 32B | Denso | 65.536 | Nenhum resultado do LiveBench para este modelo na versão 2026-06-25 | 32 | 26 | 19,5 | 18,1 |
Cada tamanho é um modelo próprio, com notas e necessidade de memória próprias. As estimativas em Q4 são números de planejamento, não medições; os tamanhos de arquivo são publicados. A coluna de Mac ou PC vale para uma máquina de 32 GB ou mais (8 GB de reserva); máquinas com menos de 32 GB reservam 25% da memória (2 a 8 GB), então precisam de menos. O publicador lista 7B e 32B, cada um em Instruct e Think.
Os dois checkpoints listados aqui são variantes pós-treinadas diferentes, 7B Instruct e 32B Think; por isso a diferença entre eles mistura tamanho e treino. A família também tem um 7B Think e um 32B Instruct (3.1) que não estão no catálogo do site.
Como ler esta tabela
Q4 significa comprimido para cerca de 4 bits por peso. GGUF (llama.cpp, Ollama, LM Studio) e MLX (Apple silicon) são formatos de arquivo; os tamanhos mostrados são os dos arquivos de 4 bits publicados. Um traço indica que não há valor publicado ou coletado para esse tamanho; o motivo está no texto acessível da célula.
Qual tamanho cabe na minha máquina
O maior tamanho cuja estimativa de planejamento em Q4 cabe no que cada máquina oferece. É uma estimativa de planejamento, não uma medição nem uma velocidade.
Um traço significa que nenhum tamanho desta família cabe nessa máquina. O requisito é a estimativa Q4 do tamanho com a reserva da própria máquina: uma placa de vídeo reserva 2 GB, como na tabela de tamanhos; um Mac ou PC reserva 25% da memória (2 a 8 GB), então abaixo de 32 GB o número é menor que o da tabela de tamanhos. Um perfil de servidor reserva 2 GB por placa de vídeo, por isso o número é maior.
Menor máquina para cada tamanho
O perfil com menos memória que ainda comporta a estimativa em Q4 do tamanho, no catálogo de hardware.
| Tamanho | Menor perfil de Mac ou PC (memória do sistema) | Menor perfil de placa de vídeo |
|---|---|---|
| Olmo 3 7B Instruct | Mac mini 2020 · M1 · 8 GB | RTX 3050 · 8 GB |
| Olmo 3 32B Think | Mac mini 2024 · M4 · 32 GB | RTX 5090 · 32 GB |
Um traço significa que nenhum perfil desse tipo no catálogo tem memória suficiente para o tamanho.
Memória por precisão do arquivo
A mesma fórmula de planejamento em três precisões (0,625, 1,125 e 2 bytes por parâmetro, mais folga de trabalho e a reserva do sistema). Estimativas, não medições.
| Tamanho | ||||||
|---|---|---|---|---|---|---|
| Olmo 3 7B Instruct | 14 | 8 | 18 | 12 | 25 | 19 |
| Olmo 3 32B Think | 32 | 26 | 52 | 46 | 85 | 79 |
Árvore da família
Família, tamanhos e, para cada tamanho, os dois arquivos de 4 bits usados nas tabelas (GGUF Q4_K_M e MLX 4 bits) quando um foi coletado. Outras precisões não aparecem aqui.
A mesma árvore em lista:
- Olmo 3 · Ai2
- 7B Instruct
- GGUF Q4_K_M · 4,5 GB · unsloth/Olmo-3-7B-Instruct-GGUF, lido em 23 de out. de 2026
- MLX 4 bits · 4,1 GB · mlx-community/Olmo-3-7B-Instruct-4bit, lido em 23 de out. de 2026
- 32B Think
- GGUF Q4_K_M · 19,5 GB · unsloth/Olmo-3-32B-Think-GGUF, lido em 23 de out. de 2026
- MLX 4 bits · 18,1 GB · lmstudio-community/Olmo-3-32B-Think-MLX-4bit, lido em 23 de out. de 2026
- 7B Instruct
Saiba mais
Veja o Olmo 3 7B Instruct
O menor tamanho da família: notas, estimativa de memória e as máquinas em que ele roda.
Fontes
Onde a família e seus tamanhos são citados, e de onde vem cada número.
- Ficha de allenai/Olmo-3-7B-Instruct · “We introduce Olmo 3, a new family of 7B and 32B models both Instruct and Think variants.” · lido em 17 de out. de 2026
- Ficha do Olmo 3 7B Instruct
- Ficha do Olmo 3 32B Think
- LiveBench 2026-06-25 · a única fonte de qualidade desta página; um traço significa que a versão não inclui o modelo · snapshot coletado em 26 de set. de 2026
- Tamanhos de arquivo publicados: repositórios do Hugging Face, lidos em 23 de out. de 2026
- Metodologia · como a estimativa de planejamento em Q4 é calculada · Aprenda