Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Nemotron 3 Nano 30B A3B

NVIDIA · nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16

Arquivo Q4 de 24,6 GB (Q4_K_M) · roda bem a partir de 32 GB · Licença dos pesos: Termos do publicador: NVIDIA Nemotron Open Model License

LMArena · texto1.314 ± 5Posição 273 · rodada 2026-10-22 · escala própria
Memória necessária~30 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros30 Bespecificação do fabricante · 3,5B ativos
Contexto262.144 tokensPublicado para este modelo

Qualidade

LMArena · texto · pontuação
1.314 ± 5Intervalo de confiança 1.308–1.319 · 15.765 votos · posição 273 da rodada · O nome no Arena traz (BF16), os mesmos pesos BF16LMArena 2026-10-22 · CC BY 4.0

Sem resultado em LiveBench 2026-06-25 Sem resultado no LiveBench 2026-06-25

Informado pelo publicador

29 resultados · ficha de NVIDIA · lida em 2026-10-25
MMLU-Pro
78,3General Knowledge
AIME25 (no tools)
89,1Reasoning
AIME25 (with tools)
99,2Reasoning
GPQA (no tools)
73,0Reasoning
GPQA (with tools)
75,0Reasoning
LiveCodeBench (v6 2025-08–2025-05)
68,3Reasoning
SciCode (subtask)
33,3Reasoning
HLE (no tools)
10,6Reasoning
Todos os resultados informados29
HLE (with tools)
15,5Reasoning
MiniF2F pass@1
50,0Reasoning
MiniF2F pass@32
79,9Reasoning
Terminal Bench (hard subset)
8,5Agentic
SWE-Bench (OpenHands)
38,8Agentic
TauBench V2 (Airline)
48,0Agentic
TauBench V2 (Retail)
56,9Agentic
TauBench V2 (Telecom)
42,2Agentic
TauBench V2 (Average)
49,0Agentic
BFCL v4
53,8Agentic
IFBench (prompt)
71,5Chat & Instruction Following
Scale AI Multi Challenge
38,5Chat & Instruction Following
Arena-Hard-V2 (Hard Prompt)
72,1Chat & Instruction Following
Arena-Hard-V2 (Creative Writing)
63,2Chat & Instruction Following
Arena-Hard-V2 (Average)
67,7Chat & Instruction Following
AA-LCR
35,9Long Context
RULER-100@256k
92,9Long Context
RULER-100@512k
91,3Long Context
RULER-100@1M
86,3Long Context
MMLU-ProX (avg over langs)
59,5Multilingual
WMT24++ (en-\>xx)
86,2Multilingual

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: License/Terms of Use › Reasoning Benchmark Evaluations); coluna “NVIDIA-Nemotron-3-Nano-30B-A3B-BF16”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Rodar

Rodar

Arquivo Q4_K_M · 24,6 GB · unsloth/Nemotron-3-Nano-30B-A3B-GGUF · O que é Q4?

ollama run hf.co/unsloth/Nemotron-3-Nano-30B-A3B-GGUF:Q4_K_M
  1. Instale o Ollama
  2. Rode o comando acima
  3. Pergunte: Explique o que é a janela de contexto, em duas frases.

Roda em

Cabe na memória rápida 30

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 30

Na memória, fora da parte rápida 46

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 46

Falta um degrau de memória 3

As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.

Nemotron 3 Nano 30B A3B é um modelo de texto da NVIDIA com 30B de parâmetros, dos quais 3,5B ativos por token (mistura de especialistas). Foi lançado em 15 de dezembro de 2025 e lê até 262.144 tokens de contexto. Os pesos em Q4 com a margem de trabalho somam cerca de 30 GB antes da reserva da máquina; as menores máquinas de referência cuja memória rápida comporta isso são Mac mini M5 Pro · 64 GB unificados (~38 GB com a reserva) e RTX 5090 · 32 GB de VRAM (~32 GB com a reserva). Coletamos 26 arquivos GGUF e MLX para baixar de 2 fontes de publicadores; a fonte GGUF mais baixada é a de unsloth. Ele não tem resultado no LiveBench 2026-06-25. Sua pontuação de texto no LMArena é 1.314 ± 5 (rodada 2026-10-22), uma escala separada de preferência humana.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Cada cartão abre o perfil do hardware. Não é compatibilidade nem velocidade medida.

Nas máquinas de referência

Nemotron 3 Nano 30B A3B nas máquinas de referência
Onde fica o Q4
Mac mini M2 · 8 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~32 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 16 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~34 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 24 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~36 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 32 GB unificadosMaior que a memóriaIQ4_XSGGUF · 18,2 GB · precisa de ~30 GB262.144 tokens~38 GBMaior que a memóriaIQ4_XSGGUF · 18,2 GB · precisa de ~30 GB262.144 tokens
Mac mini M5 Pro · 64 GB unificadosCabe na memória rápidaQ8_0GGUF · 33,6 GB · precisa de ~49 GB262.144 tokens~38 GBCabe na memória rápidaQ8_0GGUF · 33,6 GB · precisa de ~49 GB262.144 tokens
Mac Studio M5 Max · 128 GB unificadosCabe na memória rápidaQ8_0GGUF · 33,6 GB · precisa de ~49 GB262.144 tokens~38 GBCabe na memória rápidaQ8_0GGUF · 33,6 GB · precisa de ~49 GB262.144 tokens
Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificadosCabe na memória rápidaQ8_0GGUF · 33,6 GB · precisa de ~49 GB262.144 tokens~38 GBCabe na memória rápidaQ8_0GGUF · 33,6 GB · precisa de ~49 GB262.144 tokens
RTX 4060 · 8 GB de VRAMNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~32 GBNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 3060 · 12 GB de VRAMNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~32 GBNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 5080 · 16 GB de VRAMNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~32 GBNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 4090 · 24 GB de VRAMNa memória, fora da parte rápidaIQ4_XSGGUF · 18,2 GB · precisa de ~24 GB16.384 tokens~32 GBNa memória, fora da parte rápidaIQ4_XSGGUF · 18,2 GB · precisa de ~24 GB16.384 tokens
RTX 5090 · 32 GB de VRAMCabe na memória rápidaQ4_K_MGGUF · 24,6 GB · precisa de ~32 GB65.536 tokens~32 GBCabe na memória rápidaQ4_K_MGGUF · 24,6 GB · precisa de ~32 GB65.536 tokens
DGX H100 · 8 × 80 GBCabe na memória rápidaQ8_0GGUF · 33,6 GB · precisa de ~57 GB262.144 tokens~46 GBCabe na memória rápidaQ8_0GGUF · 33,6 GB · precisa de ~57 GB262.144 tokens

A coluna de arquivo usa a escada de quantização do site (Q8_0 a Q3_K_M; MLX de 8 a 4 bits no Mac): o maior arquivo coletado cujo tamanho × 1,2, mais o cache de contexto e a reserva da máquina, cabe na memória rápida. Estimativas de planejamento, não execuções medidas.

Planejar outra quantização ou contexto

Considere para

Compare Nemotron 3 Nano 30B A3B pela ficha do publicador. Não há nota geral no snapshot LiveBench 2026-06-25.

Confira antes

Os pesos em Q4 com a margem de trabalho somam cerca de 30 GB a partir de 30B parâmetros declarados, antes da reserva da máquina (Roda em soma a reserva de cada máquina). Não é um mínimo medido; contexto, lote, runtime e quantização mudam o uso real de memória.

Versões para baixar

Arquivos que você pode baixar deste checkpoint. A seção abre na fonte GGUF coletada mais baixada, unsloth, no arquivo Q4_K_M. Num Mac abre na fonte MLX mais baixada. Os tamanhos são os bytes publicados no Hub. O que é Q4?

unsloth

unsloth/Nemotron-3-Nano-30B-A3B-GGUF · Nemotron-3-Nano-30B-A3B-Q4_K_M.gguf · 24,6 GB

Rodar este arquivo

ollama run hf.co/unsloth/Nemotron-3-Nano-30B-A3B-GGUF:Q4_K_M
llama-server -hf unsloth/Nemotron-3-Nano-30B-A3B-GGUF:Q4_K_M
lms get https://huggingface.co/unsloth/Nemotron-3-Nano-30B-A3B-GGUF
  • mlx-lm: O mlx-lm roda repositórios MLX; escolha a versão MLX num Mac

As notas de qualidade desta página pertencem ao checkpoint original; estes arquivos não recebem nota nem ranking. Tamanhos lidos em 2026-10-23 · downloads lidos em 2026-10-17 · comandos: Documentação do Hugging Face Hub: Ollama com qualquer modelo GGUF · README do servidor do llama.cpp (-hf <user>/<model>[:quant]) · Documentação do LM Studio: lms get com uma URL do Hugging Face · README do mlx-lm (mlx_lm.generate --model)

Ajustes, adaptadores e outras versões73 ajustes
Versões quantizadas
72
Ajustes (fine-tunes)
73
Adaptadores · misturas
285 · 0

Ver na árvore de modelos do Hugging Face · lido em 2026-10-23

Versões sem filtro (uncensored, abliterated)1

Algumas versões da comunidade removem as recusas de segurança do modelo. A qualidade pode cair, o publicador original não dá suporte, as afirmações sobre elas são de quem as publicou e a licença original continua valendo. Este site nunca as recomenda nem as ranqueia.

1 repositórios derivados têm “uncensored” ou “abliterated” no nome (lido em 2026-10-23).

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

A memória necessária acima é a carga Q4 antes da reserva da máquina. O arquivo Q4_K_M (24,6 GB) é mais pesado do que a fórmula por parâmetros indica, então a memória necessária é esse arquivo × 1,2. Fórmula: parâmetros × 0,625 byte, mais 20% de margem; cada máquina soma então a reserva do sistema: 25% da memória unificada ou do sistema, de 2 a 8 GB, ou 2 GB por GPU em placas dedicadas. Não é VRAM medida nem tamanho do download do checkpoint.

Apenas estimativa de planejamento Q4. Verifique formato do checkpoint, suporte do runtime, cache KV, contexto, tamanho de lote e offload antes de escolher hardware.

Nível da evidência: Apenas estimativa genérica; nenhuma execução reproduzida por este site.

Amostragem padrão do publicador
temperature 1 · top_p 1generation_config.json · lido em 2026-10-23fonte
Marcadores do template de chat
chamadas de ferramenta · raciocínio (thinking)marcadores encontrados no template, não um teste do recurso · lido em 2026-10-23fonte
Antes de baixar
  1. Confirme o checkpoint exato e a licença vinculada aqui.
  2. Confirme runtime e precisão ou quantização compatíveis com sua plataforma.
  3. Reserve memória para contexto, lote e eventuais componentes de mídia além dos pesos.

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa e modalidade
linguagem e raciocínio · texto
Contagem e base
30B · especificação do fabricante · 3,5B ativosnvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 model card (Hugging Face) · consultado em 2026-10-17fonte
Contexto
262.144 tokens publicados para este modelonvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 config.json (Hugging Face) · consultado em 2026-10-17fonte
Arquitetura
MoEnvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 model card (Hugging Face) · consultado em 2026-10-17fonte
Lançamento
nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 model card (Hugging Face) · consultado em 2026-10-17fonte
Runtime e precisão
Nenhuma execução local verificada.
Idiomas
en, es, fr, de, ja, itMetadados do model card · consultado em 2026-10-25fonte
Uso comercial
Texto da licença não lido: nvidia.com estava inacessível em 2026-10-18 e os repositórios não trazem cópia
Todos os campos guardados12 campos
Revisão conferida
bf77c3174f68ad409e1c2aa60daeb46e32d1c606
Arquitetura
NemotronHForCausalLM
Biblioteca
transformers
Tag de tarefa no Hub
text-generation
Formatos
safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Repositório criado
2025-12-04criação não é o lançamento do modelo
Repositório atualizado
2026-08-24um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
1.438.724 · 835só este repositório · lido em 2026-10-25
Lido na página do Hub
classe transformers, tags de tarefa, nome da licençaVisão geral e lista de arquivos do Hub · lido em 2026-10-18
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Arquitetura híbrida Mamba-2 e atenção com mistura de especialistas: apenas 6 das 52 camadas usam atenção. O repositório vinculado é o checkpoint de referência em BF16; a estimativa genérica em Q4 não é um requisito medido.

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Catálogo revisado: 2026-10-17. Versão do benchmark: 2026-06-25; snapshot coletado: 2026-10-18.