Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Qwen3 4B Instruct 2507

Alibaba · Qwen/Qwen3-4B-Instruct-2507

Arquivo Q4 de 2,5 GB (Q4_K_M) · roda bem a partir de 8 GB · Licença dos pesos: Apache 2.0

Velocidade medida134,5 tok/sMLX q4 · 1 máquina · mlx-lm BENCHMARKS.md · todas as linhas
Memória necessária~3 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros4 Bespecificação do fabricante
Contexto262.144 tokensPublicado para este modelo

Qualidade

Sem resultado em LiveBench 2026-06-25, LMArena 2026-10-22 Sem resultado no LiveBench 2026-06-25 nem no LMArena 2026-10-22

Informado pelo publicador

25 resultados · ficha de Alibaba · lida em 2026-10-25
MMLU-Pro
69,6Knowledge
MMLU-Redux
84,2Knowledge
GPQA
62,0Knowledge
SuperGPQA
42,8Knowledge
AIME25
47,4Reasoning
HMMT25
31,0Reasoning
ZebraLogic
80,2Reasoning
LiveBench 20241125
63,0Reasoning
Todos os resultados informados25
LiveCodeBench v6 (25.02-25.05)
35,1Coding
MultiPL-E
76,8Coding
Aider-Polyglot
12,9Coding
IFEval
83,4Alignment
Arena-Hard v2
43,4Alignment
Creative Writing v3
83,5Alignment
WritingBench
83,4Alignment
BFCL-v3
61,9Agent
TAU1-Retail
48,7Agent
TAU1-Airline
32,0Agent
TAU2-Retail
40,4Agent
TAU2-Airline
24,0Agent
TAU2-Telecom
13,2Agent
MultiIF
69,0Multilingualism
MMLU-ProX
61,6Multilingualism
INCLUDE
60,1Multilingualism
PolyMATH
31,1Multilingualism
Entre os tamanhos do Qwen325 resultados em comum · mesmo publicador e configuração
Qwen3: resultados que o publicador informa para cada tamanho na mesma configuração
Benchmark (configuração do publicador)4B Instruct 250730B A3B Instruct 2507
MMLU-Pro · Knowledge69,678,4
MMLU-Redux · Knowledge84,289,3
GPQA · Knowledge62,070,4
SuperGPQA · Knowledge42,853,4
AIME25 · Reasoning47,461,3
HMMT25 · Reasoning31,043,0
ZebraLogic · Reasoning80,290,0
LiveBench 20241125 · Reasoning63,069,0
LiveCodeBench v6 (25.02-25.05) · Coding35,143,2
MultiPL-E · Coding76,883,8
Aider-Polyglot · Coding12,935,6
IFEval · Alignment83,484,7
Arena-Hard v2 · Alignment43,469,0
Creative Writing v3 · Alignment83,586,0
WritingBench · Alignment83,485,5
BFCL-v3 · Agent61,965,1
TAU1-Retail · Agent48,759,1
TAU1-Airline · Agent32,040,0
TAU2-Retail · Agent40,457,0
TAU2-Airline · Agent24,038,0
TAU2-Telecom · Agent13,212,3
MultiIF · Multilingualism69,067,9
MMLU-ProX · Multilingualism61,672,0
INCLUDE · Multilingualism60,171,9
PolyMATH · Multilingualism31,143,1

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Performance); coluna “Qwen3-4B-Instruct-2507”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Rodar

Rodar

Arquivo Q4_K_M · 2,5 GB · unsloth/Qwen3-4B-Instruct-2507-GGUF · O que é Q4?

Medido 134,5 tok/s · MLX q4 · 1 máquina · mlx-lm BENCHMARKS.md · todas as linhas

ollama run hf.co/unsloth/Qwen3-4B-Instruct-2507-GGUF:Q4_K_M
  1. Instale o Ollama
  2. Rode o comando acima
  3. Pergunte: Explique o que é a janela de contexto, em duas frases.

Roda em

Cabe na memória rápida 118

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 118

Na memória, fora da parte rápida 1

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Qwen3 4B Instruct 2507 é um modelo de texto da Alibaba com 4B de parâmetros. Foi lançado em 6 de agosto de 2025 e lê até 262.144 tokens de contexto. Os pesos em Q4 com a margem de trabalho somam cerca de 3 GB antes da reserva da máquina; as menores máquinas de referência cuja memória rápida comporta isso são Mac mini M2 · 8 GB unificados (~5 GB com a reserva) e RTX 4060 · 8 GB de VRAM (~5 GB com a reserva). Coletamos 29 arquivos GGUF e MLX para baixar de 3 fontes de publicadores; a fonte GGUF mais baixada é a de unsloth. Ele não tem resultado no LiveBench 2026-06-25, então nenhuma nota de qualidade aparece.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Cada cartão abre o perfil do hardware. Não é compatibilidade nem velocidade medida.

Nas máquinas de referência

Qwen3 4B Instruct 2507 nas máquinas de referência
Onde fica o Q4
Mac mini M2 · 8 GB unificadosCabe na memória rápidaQ6_KGGUF · 3,3 GB · precisa de ~8 GB8.192 tokens~5 GBCabe na memória rápidaQ6_KGGUF · 3,3 GB · precisa de ~8 GB8.192 tokens
Mac mini M4 · 16 GB unificadosCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~11 GB32.768 tokens~7 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~11 GB32.768 tokens
Mac mini M4 · 24 GB unificadosCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~13 GB65.536 tokens~9 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~13 GB65.536 tokens
Mac mini M4 · 32 GB unificadosCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~15 GB65.536 tokens~11 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~15 GB65.536 tokens
Mac mini M5 Pro · 64 GB unificadosCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~15 GB262.144 tokens~11 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~15 GB262.144 tokens
Mac Studio M5 Max · 128 GB unificadosCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~15 GB262.144 tokens~11 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~15 GB262.144 tokens
Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificadosCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~15 GB262.144 tokens~11 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~15 GB262.144 tokens
RTX 4060 · 8 GB de VRAMCabe na memória rápidaQ6_KGGUF · 3,3 GB · precisa de ~8 GB8.192 tokens~5 GBCabe na memória rápidaQ6_KGGUF · 3,3 GB · precisa de ~8 GB8.192 tokens
RTX 3060 · 12 GB de VRAMCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~9 GB32.768 tokens~5 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~9 GB32.768 tokens
RTX 5080 · 16 GB de VRAMCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~9 GB32.768 tokens~5 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~9 GB32.768 tokens
RTX 4090 · 24 GB de VRAMCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~9 GB65.536 tokens~5 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~9 GB65.536 tokens
RTX 5090 · 32 GB de VRAMCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~9 GB131.072 tokens~5 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~9 GB131.072 tokens
DGX H100 · 8 × 80 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~23 GB262.144 tokens~19 GBCabe na memória rápidaQ8_0GGUF · 4,3 GB · precisa de ~23 GB262.144 tokens

A coluna de arquivo usa a escada de quantização do site (Q8_0 a Q3_K_M; MLX de 8 a 4 bits no Mac): o maior arquivo coletado cujo tamanho × 1,2, mais o cache de contexto e a reserva da máquina, cabe na memória rápida. Estimativas de planejamento, não execuções medidas.

Planejar outra quantização ou contexto

Considere para

Compare Qwen3 4B Instruct 2507 pela ficha do publicador. Não há nota geral no snapshot LiveBench 2026-06-25.

Confira antes

Os pesos em Q4 com a margem de trabalho somam cerca de 3 GB a partir de 4B parâmetros declarados, antes da reserva da máquina (Roda em soma a reserva de cada máquina). Não é um mínimo medido; contexto, lote, runtime e quantização mudam o uso real de memória.

Versões para baixar

Arquivos que você pode baixar deste checkpoint. A seção abre na fonte GGUF coletada mais baixada, unsloth, no arquivo Q4_K_M. Num Mac abre na fonte MLX mais baixada. Os tamanhos são os bytes publicados no Hub. O que é Q4?

unsloth

unsloth/Qwen3-4B-Instruct-2507-GGUF · Qwen3-4B-Instruct-2507-Q4_K_M.gguf · 2,5 GB

Rodar este arquivo

ollama run hf.co/unsloth/Qwen3-4B-Instruct-2507-GGUF:Q4_K_M
llama-server -hf unsloth/Qwen3-4B-Instruct-2507-GGUF:Q4_K_M
lms get https://huggingface.co/unsloth/Qwen3-4B-Instruct-2507-GGUF
  • mlx-lm: O mlx-lm roda repositórios MLX; escolha a versão MLX num Mac

As notas de qualidade desta página pertencem ao checkpoint original; estes arquivos não recebem nota nem ranking. Tamanhos lidos em 2026-10-23 · downloads lidos em 2026-10-17 · comandos: Documentação do Hugging Face Hub: Ollama com qualquer modelo GGUF · README do servidor do llama.cpp (-hf <user>/<model>[:quant]) · Documentação do LM Studio: lms get com uma URL do Hugging Face · README do mlx-lm (mlx_lm.generate --model)

Ajustes, adaptadores e outras versões2.615 ajustes
Versões quantizadas
353
Ajustes (fine-tunes)
2.615
Adaptadores · misturas
Ainda não contadas: as listas de modelo base do Hub são lidas pelo coletor semanal.

Ver na árvore de modelos do Hugging Face · lido em 2026-10-23

Versões sem filtro (uncensored, abliterated)22

Algumas versões da comunidade removem as recusas de segurança do modelo. A qualidade pode cair, o publicador original não dá suporte, as afirmações sobre elas são de quem as publicou e a licença original continua valendo. Este site nunca as recomenda nem as ranqueia.

22 repositórios derivados têm “uncensored” ou “abliterated” no nome (lido em 2026-10-23).

Velocidade medida

Tokens por segundo por máquina

Saída em tok/s · 1 máquina · as 5 mais rápidas de 7 · todas as linhas na tabela · O que é um token?

Apple M4 Max · 64 GB · MLX q4, 134,52 · MLX q4134,5
Apple M4 Max · 64 GB · MLX q4 g32, 126,00 · MLX q4 g32126,0
Apple M4 Max · 64 GB · MLX q5, 116,39 · MLX q5116,4
Apple M4 Max · 64 GB · MLX q5 g32, 110,29 · MLX q5 g32110,3
Apple M4 Max · 64 GB · MLX q6, 104,68 · MLX q6104,7
Velocidade medida
Apple M4 Max · 64 GB (núcleos de GPU não informados)134,52MLX q42048 / 128 · Um processo mlx_lm.benchmarkMLX (mlx-lm)mlx 0.29.2.dev20251008+85a8824a8 · mlx-lm 0.28.2 · macOS 26.1mlx-community/Qwen3-4B-Instruct-2507-4bit
Apple M4 Max · 64 GB (núcleos de GPU não informados)126,00MLX q4 g322048 / 128 · Um processo mlx_lm.benchmarkMLX (mlx-lm)mlx 0.29.2.dev20251008+85a8824a8 · mlx-lm 0.28.2 · macOS 26.1mlx-community/Qwen3-4B-Instruct-2507-4bit-g32
Apple M4 Max · 64 GB (núcleos de GPU não informados)116,39MLX q52048 / 128 · Um processo mlx_lm.benchmarkMLX (mlx-lm)mlx 0.29.2.dev20251008+85a8824a8 · mlx-lm 0.28.2 · macOS 26.1mlx-community/Qwen3-4B-Instruct-2507-5bit
Apple M4 Max · 64 GB (núcleos de GPU não informados)110,29MLX q5 g322048 / 128 · Um processo mlx_lm.benchmarkMLX (mlx-lm)mlx 0.29.2.dev20251008+85a8824a8 · mlx-lm 0.28.2 · macOS 26.1mlx-community/Qwen3-4B-Instruct-2507-5bit-g32
Apple M4 Max · 64 GB (núcleos de GPU não informados)104,68MLX q62048 / 128 · Um processo mlx_lm.benchmarkMLX (mlx-lm)mlx 0.29.2.dev20251008+85a8824a8 · mlx-lm 0.28.2 · macOS 26.1mlx-community/Qwen3-4B-Instruct-2507-6bit
Apple M4 Max · 64 GB (núcleos de GPU não informados)86,907MLX q82048 / 128 · Um processo mlx_lm.benchmarkMLX (mlx-lm)mlx 0.29.2.dev20251008+85a8824a8 · mlx-lm 0.28.2 · macOS 26.1mlx-community/Qwen3-4B-Instruct-2507-8bit
Apple M4 Max · 64 GB (núcleos de GPU não informados)52,47MLX bf162048 / 128 · Um processo mlx_lm.benchmarkMLX (mlx-lm)mlx 0.29.2.dev20251008+85a8824a8 · mlx-lm 0.28.2 · macOS 26.1Qwen/Qwen3-4B-Instruct-2507

Fonte: mlx-lm BENCHMARKS.md · resultado dos mantenedores (consultado 2026-10-25) · MLX (mlx-lm) · mlx 0.29.2.dev20251008+85a8824a8 · mlx-lm 0.28.2 · macOS 26.1 · não estimado

Como rodar

A memória necessária acima é a carga Q4 antes da reserva da máquina. Fórmula: parâmetros × 0,625 byte, mais 20% de margem; cada máquina soma então a reserva do sistema: 25% da memória unificada ou do sistema, de 2 a 8 GB, ou 2 GB por GPU em placas dedicadas. Não é VRAM medida nem tamanho do download do checkpoint.

Apenas estimativa de planejamento Q4. Verifique formato do checkpoint, suporte do runtime, cache KV, contexto, tamanho de lote e offload antes de escolher hardware.

Nível da evidência: Apenas estimativa genérica; nenhuma execução reproduzida por este site.

Amostragem padrão do publicador
temperature 0,7 · top_p 0,8 · top_k 20generation_config.json · lido em 2026-10-23fonte
Marcadores do template de chat
chamadas de ferramenta · sem marcadores de raciocíniomarcadores encontrados no template, não um teste do recurso · lido em 2026-10-23fonte
Antes de baixar
  1. Confirme o checkpoint exato e a licença vinculada aqui.
  2. Confirme runtime e precisão ou quantização compatíveis com sua plataforma.
  3. Reserve memória para contexto, lote e eventuais componentes de mídia além dos pesos.

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Checkpoint / versão
Qwen/Qwen3-4B-Instruct-2507
Tarefa e modalidade
linguagem e raciocínio · texto
Contagem e base
4B · especificação do fabricanteQwen/Qwen3-4B-Instruct-2507 model card (Hugging Face) · consultado em 2026-10-17fonte
Contexto
262.144 tokens publicados para este modeloQwen/Qwen3-4B-Instruct-2507 model card (Hugging Face) · consultado em 2026-10-17fonte
Arquitetura
DenseQwen/Qwen3-4B-Instruct-2507 config.json (Hugging Face) · consultado em 2026-10-17fonte
Lançamento
QwenLM/Qwen3 README (GitHub) · consultado em 2026-10-09fonte
Runtime e precisão
Nenhuma execução local verificada.
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Todos os campos guardados13 campos
Revisão conferida
cdbee75f17c01a7cc42f958dc650907174af0554
Arquitetura
Qwen3ForCausalLM
Biblioteca
transformers
Tag de tarefa no Hub
text-generation
Formatos
safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Evidência de tensores
floating-tensor-elements · 4,02B · BF16conferido em 2026-09-26
Repositório criado
2025-08-05criação não é o lançamento do modelo
Repositório atualizado
2025-09-17um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
2.577.859 · 1.027só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Catálogo revisado: 2026-10-17. Versão do benchmark: 2026-06-25; snapshot coletado: 2026-09-26.