Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Família Olmo 3: qual tamanho rodar

2 tamanhos, 7B–32B de parâmetros · Ai2

Conferido em

Tamanhos

Tamanhos do Olmo 3
ModeloArquitetura
Olmo 3 7B InstructAi2 · Apache 2.0 · 20 de nov. de 20257BDenso65.536Nenhum resultado do LiveBench para este modelo na versão 2026-06-251484,54,1
Olmo 3 32B ThinkAi2 · Apache 2.0 · 20 de nov. de 202532BDenso65.536Nenhum resultado do LiveBench para este modelo na versão 2026-06-25322619,518,1

Cada tamanho é um modelo próprio, com notas e necessidade de memória próprias. As estimativas em Q4 são números de planejamento, não medições; os tamanhos de arquivo são publicados. A coluna de Mac ou PC vale para uma máquina de 32 GB ou mais (8 GB de reserva); máquinas com menos de 32 GB reservam 25% da memória (2 a 8 GB), então precisam de menos. O publicador lista 7B e 32B, cada um em Instruct e Think.

Os dois checkpoints listados aqui são variantes pós-treinadas diferentes, 7B Instruct e 32B Think; por isso a diferença entre eles mistura tamanho e treino. A família também tem um 7B Think e um 32B Instruct (3.1) que não estão no catálogo do site.

Como ler esta tabela

Q4 significa comprimido para cerca de 4 bits por peso. GGUF (llama.cpp, Ollama, LM Studio) e MLX (Apple silicon) são formatos de arquivo; os tamanhos mostrados são os dos arquivos de 4 bits publicados. Um traço indica que não há valor publicado ou coletado para esse tamanho; o motivo está no texto acessível da célula.

Qual tamanho cabe na minha máquina

O maior tamanho cuja estimativa de planejamento em Q4 cabe no que cada máquina oferece. É uma estimativa de planejamento, não uma medição nem uma velocidade.

Maior tamanho do Olmo 3 por máquina
MáquinaMaior tamanho do Olmo 3 com memória suficiente
Mac mini M2 · 8 GB unificados8Olmo 3 7B Instruct8
Mac mini M4 · 16 GB unificados16Olmo 3 7B Instruct10
Mac mini M4 · 24 GB unificados24Olmo 3 7B Instruct12
Mac mini M4 · 32 GB unificados32Olmo 3 32B Think32
Mac mini M5 Pro · 64 GB unificados56Olmo 3 32B Think32
Mac Studio M5 Max · 128 GB unificados104Olmo 3 32B Think32
Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificados392Olmo 3 32B Think32
RTX 4060 · 8 GB de VRAM8Olmo 3 7B Instruct8
RTX 3060 · 12 GB de VRAM12Olmo 3 7B Instruct8
RTX 5080 · 16 GB de VRAM16Olmo 3 7B Instruct8
RTX 4090 · 24 GB de VRAM24Olmo 3 7B Instruct8
RTX 5090 · 32 GB de VRAM32Olmo 3 32B Think26
DGX H100 · 8 × 80 GB640Olmo 3 32B Think40

Um traço significa que nenhum tamanho desta família cabe nessa máquina. O requisito é a estimativa Q4 do tamanho com a reserva da própria máquina: uma placa de vídeo reserva 2 GB, como na tabela de tamanhos; um Mac ou PC reserva 25% da memória (2 a 8 GB), então abaixo de 32 GB o número é menor que o da tabela de tamanhos. Um perfil de servidor reserva 2 GB por placa de vídeo, por isso o número é maior.

Menor máquina para cada tamanho

O perfil com menos memória que ainda comporta a estimativa em Q4 do tamanho, no catálogo de hardware.

Menor máquina por tamanho do Olmo 3
TamanhoMenor perfil de Mac ou PC (memória do sistema)Menor perfil de placa de vídeo
Olmo 3 7B InstructMac mini 2020 · M1 · 8 GBRTX 3050 · 8 GB
Olmo 3 32B ThinkMac mini 2024 · M4 · 32 GBRTX 5090 · 32 GB

Um traço significa que nenhum perfil desse tipo no catálogo tem memória suficiente para o tamanho.

Memória por precisão do arquivo

A mesma fórmula de planejamento em três precisões (0,625, 1,125 e 2 bytes por parâmetro, mais folga de trabalho e a reserva do sistema). Estimativas, não medições.

Estimativa de memória do Olmo 3 por precisão
Tamanho
Olmo 3 7B Instruct14818122519
Olmo 3 32B Think322652468579

Árvore da família

Família, tamanhos e, para cada tamanho, os dois arquivos de 4 bits usados nas tabelas (GGUF Q4_K_M e MLX 4 bits) quando um foi coletado. Outras precisões não aparecem aqui.

Família Olmo 3: tamanhos e arquivos publicadosDeslize para o lado para ver os arquivos ou leia a lista abaixo.
Família Olmo 3: tamanhos e arquivos publicadosFamíliaTamanhosArquivosOlmo 3Ai27B InstructGGUF Q4_K_M4,5 GBMLX 4 bits4,1 GB32B ThinkGGUF Q4_K_M19,5 GBMLX 4 bits18,1 GB

A mesma árvore em lista:

  • Olmo 3 · Ai2
    • 7B Instruct
      • GGUF Q4_K_M · 4,5 GB · unsloth/Olmo-3-7B-Instruct-GGUF, lido em 23 de out. de 2026
      • MLX 4 bits · 4,1 GB · mlx-community/Olmo-3-7B-Instruct-4bit, lido em 23 de out. de 2026
    • 32B Think
      • GGUF Q4_K_M · 19,5 GB · unsloth/Olmo-3-32B-Think-GGUF, lido em 23 de out. de 2026
      • MLX 4 bits · 18,1 GB · lmstudio-community/Olmo-3-32B-Think-MLX-4bit, lido em 23 de out. de 2026

Saiba mais

Fontes

Onde a família e seus tamanhos são citados, e de onde vem cada número.