Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Nemotron 3 Super 120B A12B

NVIDIA · nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-NVFP4

Arquivo Q4 de 82,5 GB (UD-Q4_K_M) · roda bem a partir de 128 GB · Licença dos pesos: Termos do publicador: NVIDIA Nemotron Open Model License

Velocidade medida15–15 tok/sUD-Q4_K_XL · 1 máquina · 2 fontes · todas as linhas
Memória necessária~90 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros120 Bespecificação do fabricante · 12B ativos
Contexto262.144 tokensPublicado para este modelo

Qualidade

Sem resultado em LiveBench 2026-06-25, LMArena 2026-10-22 Sem resultado no LiveBench 2026-06-25 nem no LMArena 2026-10-22

Informado pelo publicador

20 resultados · ficha de NVIDIA · lida em 2026-10-25
MMLU-Pro
83,33General Knowledge
HMMT Feb25 (with tools)
95,36Reasoning
GPQA (no tools)
79,42Reasoning
LiveCodeBench (v6 2024-08↔2025-05)
78,44Reasoning
LiveCodeBench (v5 2024-07↔2024-12)
80,56Reasoning
SciCode (subtask)
40,83Reasoning
HLE (no tools)
17,42Reasoning
Terminal Bench (hard subset)
24,48Agentic
Todos os resultados informados20
Airline
54,75TauBench V2
Retail
63,38TauBench V2
Telecom
63,27TauBench V2
Average
60,46TauBench V2
IFBench (prompt)
73,30Chat & Instruction Following
Scale AI Multi-Challenge
52,8Chat & Instruction Following
Arena-Hard-V2 (Hard Prompt)
76,00Chat & Instruction Following
AA-LCR
58,06Long Context
RULER-500 @ 128k (500 samples per task)
95,99Long Context
RULER-500 @ 256k (500 samples per task)
96,52Long Context
RULER-500 @ 512k (500 samples per task)
96,23Long Context
MMLU-ProX (avg over languages)
79,37Multilingual
Entre os tamanhos do Nemotron 32 resultados em comum · mesmo publicador e configuração
Nemotron 3: resultados que o publicador informa para cada tamanho na mesma configuração
Benchmark (configuração do publicador)Nano 30B A3BSuper 120B A12BUltra 550B A55B
IFBench (prompt) · Chat & Instruction FollowingA ficha deste tamanho não informa este resultado nesta configuração73,3082,3
AA-LCR · Long ContextA ficha deste tamanho não informa este resultado nesta configuração58,0665,5

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: License/Terms of Use › Benchmarks); coluna “Nemotron-3-Super NVFP4”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Rodar

Rodar

Arquivo UD-Q4_K_M · 82,5 GB · 3 partes · unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF · O que é Q4?

Medido 15–15 tok/s · UD-Q4_K_XL · 1 máquina · 2 fontes · todas as linhas

llama-server -hf unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF:UD-Q4_K_M
  1. Instale o llama.cpp
  2. Rode o comando acima
  3. Pergunte em localhost:8080: Explique o que é a janela de contexto, em duas frases.

Roda em

Cabe na memória rápida 14

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 14

Falta um degrau de memória 1

As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.

Nemotron 3 Super 120B A12B é um modelo de texto da NVIDIA com 120B de parâmetros, dos quais 12B ativos por token (mistura de especialistas). Foi lançado em 11 de março de 2026 e lê até 262.144 tokens de contexto. Os pesos em Q4 com a margem de trabalho somam cerca de 90 GB antes da reserva da máquina; a menor máquina de referência cuja memória rápida comporta isso é Mac Studio M5 Max · 128 GB unificados (~98 GB com a reserva). Coletamos 25 arquivos GGUF e MLX para baixar de 2 fontes de publicadores; a fonte GGUF mais baixada é a de unsloth (212,7 mil de downloads no Hub). Ele não tem resultado no LiveBench 2026-06-25, então nenhuma nota de qualidade aparece.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Cada cartão abre o perfil do hardware. Não é compatibilidade nem velocidade medida.

Nas máquinas de referência

Nemotron 3 Super 120B A12B nas máquinas de referência
Onde fica o Q4
Mac mini M2 · 8 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~92 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 16 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~94 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 24 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~96 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 32 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~98 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M5 Pro · 64 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~98 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac Studio M5 Max · 128 GB unificadosCabe na memória rápidaUD-IQ4_XSGGUF · 64,5 GB · precisa de ~86 GB262.144 tokens~98 GBCabe na memória rápidaUD-IQ4_XSGGUF · 64,5 GB · precisa de ~86 GB262.144 tokens
Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificadosCabe na memória rápidaQ8_0GGUF · 128,5 GB · precisa de ~163 GB262.144 tokens~98 GBCabe na memória rápidaQ8_0GGUF · 128,5 GB · precisa de ~163 GB262.144 tokens
RTX 4060 · 8 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~92 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 3060 · 12 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~92 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 5080 · 16 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~92 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 4090 · 24 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~92 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 5090 · 32 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~92 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
DGX H100 · 8 × 80 GBCabe na memória rápidaQ8_0GGUF · 128,5 GB · precisa de ~171 GB262.144 tokens~106 GBCabe na memória rápidaQ8_0GGUF · 128,5 GB · precisa de ~171 GB262.144 tokens

A coluna de arquivo usa a escada de quantização do site (Q8_0 a Q3_K_M; MLX de 8 a 4 bits no Mac): o maior arquivo coletado cujo tamanho × 1,2, mais o cache de contexto e a reserva da máquina, cabe na memória rápida. Estimativas de planejamento, não execuções medidas.

Planejar outra quantização ou contexto

Considere para

Compare Nemotron 3 Super 120B A12B pela ficha do publicador. Não há nota geral no snapshot LiveBench 2026-06-25.

Confira antes

Os pesos em Q4 com a margem de trabalho somam cerca de 90 GB a partir de 120B parâmetros declarados, antes da reserva da máquina (Roda em soma a reserva de cada máquina). Não é um mínimo medido; contexto, lote, runtime e quantização mudam o uso real de memória.

Versões para baixar

Arquivos que você pode baixar deste checkpoint. A seção abre na fonte GGUF coletada mais baixada, unsloth (212,7 mil de downloads no Hub), no arquivo UD-Q4_K_M. Num Mac abre na fonte MLX mais baixada. Os tamanhos são os bytes publicados no Hub. O que é Q4?

unsloth · 212,7 mil downloads

unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF · UD-Q4_K_M/NVIDIA-Nemotron-3-Super-120B-A12B-UD-Q4_K_M-00001-of-00003.gguf · 82,5 GB

Rodar este arquivo

llama-server -hf unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF:UD-Q4_K_M
lms get https://huggingface.co/unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF
  • Ollama: A forma hf.co documentada do Ollama cobre GGUFs de um arquivo só; este tem 3 partes
  • mlx-lm: O mlx-lm roda repositórios MLX; escolha a versão MLX num Mac

As notas de qualidade desta página pertencem ao checkpoint original; estes arquivos não recebem nota nem ranking. Tamanhos lidos em 2026-10-23 · downloads lidos em 2026-10-17 · comandos: Documentação do Hugging Face Hub: Ollama com qualquer modelo GGUF · README do servidor do llama.cpp (-hf <user>/<model>[:quant]) · Documentação do LM Studio: lms get com uma URL do Hugging Face · README do mlx-lm (mlx_lm.generate --model)

Ajustes, adaptadores e outras versões17 ajustes
Versões quantizadas
57
Ajustes (fine-tunes)
17
Adaptadores · misturas
152 · 0

Ver na árvore de modelos do Hugging Face · lido em 2026-10-23

Versões sem filtro (uncensored, abliterated)0

Algumas versões da comunidade removem as recusas de segurança do modelo. A qualidade pode cair, o publicador original não dá suporte, as afirmações sobre elas são de quem as publicou e a licença original continua valendo. Este site nunca as recomenda nem as ranqueia.

0 repositórios derivados têm “uncensored” ou “abliterated” no nome (lido em 2026-10-23).

Velocidade medida

Tokens por segundo por máquina

Saída em tok/s · 2 máquinas · todas as linhas na tabela · O que é um token?

DGX Spark · Q4_K, 19,94 ± 0,16 · Q4_K (informado como 'Q4_K' pelo llama-bench; GGUF da ggml-org) · llama.cpp CUDA · llama.cpp build 04a65daab (8268); n_ubatch=2048; flash attention=1 (llama-bench)19,9
Framework Desktop 128GB · UD-Q4_K_XL, 14,86 ± 0,06 · UD-Q4_K_XL (llama-bench: Q4_K - Medium, 78,02 GiB) · llama.cpp Vulkan (Mesa RADV, toolbox vulkan_radv) · llama.cpp build 1a68ec937 (9193); -ngl 99, -fa 1, mmap 0 (llama-bench)14,9
Framework Desktop 128GB · UD-Q4_K_XL, 14,85 ± 0,04 · UD-Q4_K_XL (llama-bench: Q4_K - Medium, 78,02 GiB) · llama.cpp ROCm 7.2.3 (toolbox rocm-7.2.3) · llama.cpp build 1a68ec937 (9193); -ngl 99, -fa 1, mmap 0 (llama-bench)14,9
Velocidade medida
DGX SparkDGX Spark · 1× NVIDIA GB10 · 128 GB unificada19,94 ± 0,16Q4_K (informado como 'Q4_K' pelo llama-bench; GGUF da ggml-org)0 / 32 · Um processo llama-bench; concorrência de servidor não medidallama.cpp CUDAllama.cpp build 04a65daab (8268); n_ubatch=2048; flash attention=1 (llama-bench)Flash Attention ativadoggml-org/Nemotron-3-Super-120B-GGUF · Q4_K (65,10 GiB); não é o checkpoint NVFP4 indicado na página do modelollama.cpp benches/nemotron · DGX Spark · 2026-10-09
Framework Desktop 128GBFramework Desktop · AMD Ryzen AI Max+ 395 (Radeon 8060S) · 128 GB unificada14,86 ± 0,06UD-Q4_K_XL (llama-bench: Q4_K - Medium, 78,02 GiB)0 / 128 · Um processo llama-bench; concorrência de servidor não medidallama.cpp Vulkan (Mesa RADV, toolbox vulkan_radv)llama.cpp build 1a68ec937 (9193); -ngl 99, -fa 1, mmap 0 (llama-bench)Flash Attention ativadoNVIDIA-Nemotron-3-Super-120B-A12B-UD-Q4_K_XL-00001-of-00003.gguf (Unsloth UD-Q4_K_XL, 78,02 GiB)kyuz0/amd-strix-halo-toolboxes raw llama-bench log (GitHub) · benchmark da comunidade · 2026-10-09
Framework Desktop 128GBFramework Desktop · AMD Ryzen AI Max+ 395 (Radeon 8060S) · 128 GB unificada14,85 ± 0,04UD-Q4_K_XL (llama-bench: Q4_K - Medium, 78,02 GiB)0 / 128 · Um processo llama-bench; concorrência de servidor não medidallama.cpp ROCm 7.2.3 (toolbox rocm-7.2.3)llama.cpp build 1a68ec937 (9193); -ngl 99, -fa 1, mmap 0 (llama-bench)Flash Attention ativadoNVIDIA-Nemotron-3-Super-120B-A12B-UD-Q4_K_XL-00001-of-00003.gguf (Unsloth UD-Q4_K_XL, 78,02 GiB)kyuz0/amd-strix-halo-toolboxes raw llama-bench log (GitHub) · benchmark da comunidade · 2026-10-09

Fontes: llama.cpp benches/nemotron · DGX Spark · kyuz0/amd-strix-halo-toolboxes raw llama-bench log (GitHub) · benchmark da comunidade · kyuz0/amd-strix-halo-toolboxes raw llama-bench log (GitHub) · benchmark da comunidade · não estimado

Como rodar

A memória necessária acima é a carga Q4 antes da reserva da máquina. Fórmula: parâmetros × 0,625 byte, mais 20% de margem; cada máquina soma então a reserva do sistema: 25% da memória unificada ou do sistema, de 2 a 8 GB, ou 2 GB por GPU em placas dedicadas. Não é VRAM medida nem tamanho do download do checkpoint.

Apenas estimativa de planejamento Q4. Verifique formato do checkpoint, suporte do runtime, cache KV, contexto, tamanho de lote e offload antes de escolher hardware.

Nível da evidência: Apenas estimativa genérica; nenhuma execução reproduzida por este site.

Amostragem padrão do publicador
temperature 1 · top_p 0,95generation_config.json · lido em 2026-10-23fonte
Marcadores do template de chat
chamadas de ferramenta · raciocínio (thinking)marcadores encontrados no template, não um teste do recurso · lido em 2026-10-23fonte
Antes de baixar
  1. Confirme o checkpoint exato e a licença vinculada aqui.
  2. Confirme runtime e precisão ou quantização compatíveis com sua plataforma.
  3. Reserve memória para contexto, lote e eventuais componentes de mídia além dos pesos.

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa e modalidade
linguagem e raciocínio · texto
Contagem e base
120B · especificação do fabricante · 12B ativos
Contexto
262.144 tokens publicados para este modelo
Arquitetura
MoE
Lançamento
nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-NVFP4 model card (Hugging Face) · consultado em 2026-10-09fonte
Runtime e precisão
Nenhuma execução local verificada.
Idiomas
en, fr, es, it, de, ja, zhMetadados do model card · consultado em 2026-10-25fonte
Uso comercial
Texto da licença não lido: nvidia.com estava inacessível em 2026-10-18 e os repositórios não trazem cópia
Todos os campos guardados12 campos
Revisão conferida
ff433f5493e25d631c9f12b5d55c674229923d02
Arquitetura
NemotronHForCausalLM
Biblioteca
transformers
Tag de tarefa no Hub
text-generation
Formatos
safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Repositório criado
2026-03-10criação não é o lançamento do modelo
Repositório atualizado
2026-08-24um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
535.065 · 455só este repositório · lido em 2026-10-25
Lido na página do Hub
classe transformers, tags de tarefa, nome da licençaVisão geral e lista de arquivos do Hub · lido em 2026-10-18
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Catálogo revisado: 2026-09-30. Versão do benchmark: 2026-06-25; snapshot coletado: 2026-09-26.