Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Família Granite 4.2: qual tamanho rodar

3 tamanhos, 3B–30B de parâmetros · IBM

Conferido em

Tamanhos

Tamanhos do Granite 4.2
ModeloArquitetura
Granite 4.2 3BIBM · Apache 2.0 · 25 de ago. de 20263BDenso131.072Nenhum resultado do LiveBench para este modelo na versão 2026-06-251152,22,1
Granite 4.2 8BIBM · Apache 2.0 · 25 de ago. de 20268BDenso131.072Nenhum resultado do LiveBench para este modelo na versão 2026-06-251485,34,9
Granite 4.2 30BIBM · Apache 2.0 · 25 de ago. de 202630BDenso131.072Nenhum resultado do LiveBench para este modelo na versão 2026-06-25312517,716,5

Cada tamanho é um modelo próprio, com notas e necessidade de memória próprias. As estimativas em Q4 são números de planejamento, não medições; os tamanhos de arquivo são publicados. A coluna de Mac ou PC vale para uma máquina de 32 GB ou mais (8 GB de reserva); máquinas com menos de 32 GB reservam 25% da memória (2 a 8 GB), então precisam de menos. O publicador lista 3B, 8B, 30B.

Como ler esta tabela

Q4 significa comprimido para cerca de 4 bits por peso. GGUF (llama.cpp, Ollama, LM Studio) e MLX (Apple silicon) são formatos de arquivo; os tamanhos mostrados são os dos arquivos de 4 bits publicados. Um traço indica que não há valor publicado ou coletado para esse tamanho; o motivo está no texto acessível da célula.

Qual tamanho cabe na minha máquina

O maior tamanho cuja estimativa de planejamento em Q4 cabe no que cada máquina oferece. É uma estimativa de planejamento, não uma medição nem uma velocidade.

Maior tamanho do Granite 4.2 por máquina
MáquinaMaior tamanho do Granite 4.2 com memória suficiente
Mac mini M2 · 8 GB unificados8Granite 4.2 8B8
Mac mini M4 · 16 GB unificados16Granite 4.2 8B10
Mac mini M4 · 24 GB unificados24Granite 4.2 8B12
Mac mini M4 · 32 GB unificados32Granite 4.2 30B31
Mac mini M5 Pro · 64 GB unificados56Granite 4.2 30B31
Mac Studio M5 Max · 128 GB unificados104Granite 4.2 30B31
Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificados392Granite 4.2 30B31
RTX 4060 · 8 GB de VRAM8Granite 4.2 8B8
RTX 3060 · 12 GB de VRAM12Granite 4.2 8B8
RTX 5080 · 16 GB de VRAM16Granite 4.2 8B8
RTX 4090 · 24 GB de VRAM24Granite 4.2 8B8
RTX 5090 · 32 GB de VRAM32Granite 4.2 30B25
DGX H100 · 8 × 80 GB640Granite 4.2 30B39

Um traço significa que nenhum tamanho desta família cabe nessa máquina. O requisito é a estimativa Q4 do tamanho com a reserva da própria máquina: uma placa de vídeo reserva 2 GB, como na tabela de tamanhos; um Mac ou PC reserva 25% da memória (2 a 8 GB), então abaixo de 32 GB o número é menor que o da tabela de tamanhos. Um perfil de servidor reserva 2 GB por placa de vídeo, por isso o número é maior.

Menor máquina para cada tamanho

O perfil com menos memória que ainda comporta a estimativa em Q4 do tamanho, no catálogo de hardware.

Menor máquina por tamanho do Granite 4.2
TamanhoMenor perfil de Mac ou PC (memória do sistema)Menor perfil de placa de vídeo
Granite 4.2 3BMac mini 2020 · M1 · 8 GBRTX 3050 · 6 GB
Granite 4.2 8BMac mini 2020 · M1 · 8 GBRTX 3050 · 8 GB
Granite 4.2 30BMac mini 2024 · M4 · 32 GBRTX 5090 · 32 GB

Um traço significa que nenhum perfil desse tipo no catálogo tem memória suficiente para o tamanho.

Memória por precisão do arquivo

A mesma fórmula de planejamento em três precisões (0,625, 1,125 e 2 bytes por parâmetro, mais folga de trabalho e a reserva do sistema). Estimativas, não medições.

Estimativa de memória do Granite 4.2 por precisão
Tamanho
Granite 4.2 3B1151371610
Granite 4.2 8B14819132822
Granite 4.2 30B312549438074

Árvore da família

Família, tamanhos e, para cada tamanho, os dois arquivos de 4 bits usados nas tabelas (GGUF Q4_K_M e MLX 4 bits) quando um foi coletado. Outras precisões não aparecem aqui.

Família Granite 4.2: tamanhos e arquivos publicadosDeslize para o lado para ver os arquivos ou leia a lista abaixo.
Família Granite 4.2: tamanhos e arquivos publicadosFamíliaTamanhosArquivosGranite 4.2IBM3BGGUF Q4_K_M2,2 GBMLX 4 bits2,1 GB8BGGUF Q4_K_M5,3 GBMLX 4 bits4,9 GB30BGGUF Q4_K_M17,7 GBMLX 4 bits16,5 GB

A mesma árvore em lista:

  • Granite 4.2 · IBM
    • 3B
      • GGUF Q4_K_M · 2,2 GB · ibm-granite/granite-4.2-3b-GGUF, lido em 23 de out. de 2026
      • MLX 4 bits · 2,1 GB · lmstudio-community/granite-4.2-3b-MLX-4bit, lido em 23 de out. de 2026
    • 8B
      • GGUF Q4_K_M · 5,3 GB · ibm-granite/granite-4.2-8b-GGUF, lido em 23 de out. de 2026
      • MLX 4 bits · 4,9 GB · lmstudio-community/granite-4.2-8b-MLX-4bit, lido em 23 de out. de 2026
    • 30B
      • GGUF Q4_K_M · 17,7 GB · ibm-granite/granite-4.2-30b-GGUF, lido em 23 de out. de 2026
      • MLX 4 bits · 16,5 GB · lmstudio-community/granite-4.2-30b-MLX-4bit, lido em 23 de out. de 2026

Saiba mais

Fontes

Onde a família e seus tamanhos são citados, e de onde vem cada número.