Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Qwen3.5 35B A3B

Alibaba · Qwen/Qwen3.5-35B-A3B

Texto e chatVisãoVídeo

Arquivo Q4 de 22,0 GB (Q4_K_M) · roda bem a partir de 32 GB · Licença dos pesos: Apache 2.0

LMArena · texto1.394 ± 4Posição 172 · rodada 2026-10-22 · escala própria
Memória necessária~27 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros35 Bcomponente de linguagem · 3B ativos
Contexto262.144 tokensPublicado para este modelo

Qualidade

LMArena · texto · pontuação
1.394 ± 4Intervalo de confiança 1.390–1.398 · 30.443 votos · posição 172 da rodadaLMArena 2026-10-22 · CC BY 4.0

Sem resultado em LiveBench 2026-06-25 Sem resultado no LiveBench 2026-06-25

Informado pelo publicador

79 resultados · ficha de Alibaba · lida em 2026-10-25
MMLU-Pro
85,3Language
MMLU-Redux
93,3Language
C-Eval
90,2Language
SuperGPQA
63,4Language
IFEval
91,9Language
IFBench
70,2Language
MultiChallenge
60,0Language
AA-LCR
58,5Language
Todos os resultados informados79
LongBench v2
59,0Language
HLE w/ CoT
22,4Language
GPQA Diamond
84,2Language
HMMT Feb 25
89,0Language
HMMT Nov 25
89,2Language
SWE-bench Verified
69,2Language
Terminal Bench 2
40,5Language
LiveCodeBench v6
74,6Language
CodeForces
2.028Language
OJBench
36,0Language
FullStackBench en
58,1Language
FullStackBench zh
55,0Language
BFCL-V4
67,3Language
TAU2-Bench
81,2Language
VITA-Bench
31,9Language
DeepPlanning
22,8Language
HLE w/ tool
47,4Language
Browsecomp
61,0Language
Browsecomp-zh
69,5Language
WideSearch
57,1Language
Seal-0
41,4Language
MMMLU
85,2Language
MMLU-ProX
81,0Language
NOVA-63
57,1Language
INCLUDE
79,7Language
Global PIQA
86,6Language
PolyMATH
64,4Language
WMT24++
76,3Language
MAXIFE
86,6Language
MMMU
81,4Vision Language
MMMU-Pro
75,1Vision Language
MathVision
83,9Vision Language
Mathvista (mini)
86,2Vision Language
DynaMath
85,0Vision Language
ZEROBench
8Vision Language
ZEROBench_sub
34,1Vision Language
VlmsAreBlind
97,0Vision Language
RealWorldQA
84,1Vision Language
MMStar
81,9Vision Language
MMBench EN-DEV-v1.1
91,5Vision Language
SimpleVQA
58,3Vision Language
HallusionBench
67,9Vision Language
OmniDocBench1.5
89,3Vision Language
CharXiv (RQ)
77,5Vision Language
MMLongBench-Doc
59,5Vision Language
CC-OCR
80,7Vision Language
AI2D_TEST
92,6Vision Language
OCRBench
91,0Vision Language
ERQA
64,8Vision Language
CountBench
97,8Vision Language
RefCOCO (avg)
89,2Vision Language
ODInW13
42,6Vision Language
EmbSpatialBench
83,1Vision Language
RefSpatialBench
63,5Vision Language
LingoQA
79,2Vision Language
Hypersim
13,1Vision Language
SUNRGBD
33,4Vision Language
Nuscene
14,6Vision Language
VideoMME (w sub.)
86,6Vision Language
VideoMME (w/o sub.)
82,5Vision Language
VideoMMMU
80,4Vision Language
MLVU
85,6Vision Language
MVBench
74,8Vision Language
LVBench
71,4Vision Language
MMVU
72,3Vision Language
ScreenSpot Pro
68,6Vision Language
OSWorld-Verified
54,5Vision Language
AndroidWorld
71,1Vision Language
SLAKE
78,7Vision Language
PMC-VQA
62,0Vision Language
MedXpertQA-MM
61,4Vision Language
Entre os tamanhos do Qwen3.566 resultados em comum · mesmo publicador e configuração
Qwen3.5: resultados que o publicador informa para cada tamanho na mesma configuração
Benchmark (configuração do publicador)9B35B A3B
MMLU-Pro82,585,3
MMLU-Redux91,193,3
C-Eval88,290,2
SuperGPQA58,263,4
IFEval91,591,9
IFBench64,570,2
MultiChallenge54,560,0
AA-LCR63,058,5
LongBench v255,259,0
GPQA Diamond81,784,2
HMMT Feb 2583,289,0
HMMT Nov 2582,989,2
LiveCodeBench v665,674,6
OJBench29,236,0
BFCL-V466,167,3
TAU2-Bench79,181,2
VITA-Bench29,831,9
DeepPlanning18,022,8
MMMLU81,285,2
MMLU-ProX76,381,0
NOVA-6355,957,1
INCLUDE75,679,7
Global PIQA83,286,6
PolyMATH57,364,4
WMT24++72,676,3
MAXIFE83,486,6
MMMU78,481,4
MMMU-Pro70,175,1
MathVision78,983,9
Mathvista (mini)85,786,2
DynaMath83,685,0
ZEROBench3,08
ZEROBench_sub31,134,1
VlmsAreBlind93,797,0
RealWorldQA80,384,1
MMStar79,781,9
MMBench EN-DEV-v1.190,191,5
SimpleVQA51,258,3
HallusionBench69,367,9
OmniDocBench1.587,789,3
CharXiv (RQ)73,077,5
MMLongBench-Doc57,759,5
CC-OCR79,380,7
AI2D_TEST90,292,6
OCRBench89,291,0
ERQA55,564,8
CountBench97,297,8
RefCOCO (avg)89,789,2
EmbSpatialBench83,083,1
RefSpatialBench58,563,5
LingoQA80,479,2
Hypersim13,513,1
Nuscene11,814,6
VideoMME (w sub.)84,586,6
VideoMME (w/o sub.)78,482,5
VideoMMMU78,980,4
MLVU84,485,6
MVBench74,474,8
LVBench70,071,4
MMVU67,872,3
ScreenSpot Pro65,268,6
OSWorld-Verified41,854,5
AndroidWorld57,871,1
SLAKE79,078,7
PMC-VQA57,962,0
MedXpertQA-MM49,961,4

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Benchmark Results › Language; Benchmark Results › Vision Language); coluna “Qwen3.5-35B-A3B”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Rodar

Rodar

Arquivo Q4_K_M · 22 GB · unsloth/Qwen3.5-35B-A3B-GGUF · O que é Q4?

Medido 63,1 tok/s · MXFP4 · 1 máquina · 2 fontes · todas as linhas

ollama run hf.co/unsloth/Qwen3.5-35B-A3B-GGUF:Q4_K_M
  1. Instale o Ollama
  2. Rode o comando acima
  3. Pergunte: Explique o que é a janela de contexto, em duas frases.

Roda em

Cabe na memória rápida 33

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 33

Na memória, fora da parte rápida 50

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 50

Falta um degrau de memória 9

As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.

Mostrar todos os 9

Qwen3.5 35B A3B é um modelo de texto da Alibaba com 35B de parâmetros, dos quais 3B ativos por token (mistura de especialistas). Foi lançado em 24 de fevereiro de 2026 e lê até 262.144 tokens de contexto. Os pesos em Q4 com a margem de trabalho somam cerca de 27 GB antes da reserva da máquina; as menores máquinas de referência cuja memória rápida comporta isso são Mac mini M5 Pro · 64 GB unificados (~35 GB com a reserva) e RTX 5090 · 32 GB de VRAM (~29 GB com a reserva). Coletamos 27 arquivos GGUF e MLX para baixar de 2 fontes de publicadores; a fonte GGUF mais baixada é a de unsloth (5,5 mi de downloads no Hub). Ele não tem resultado no LiveBench 2026-06-25. Sua pontuação de texto no LMArena é 1.394 ± 4 (rodada 2026-10-22), uma escala separada de preferência humana.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Cada cartão abre o perfil do hardware. Não é compatibilidade nem velocidade medida.

Nas máquinas de referência

Qwen3.5 35B A3B nas máquinas de referência
Onde fica o Q4
Mac mini M2 · 8 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~29 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 16 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~31 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 24 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~33 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 32 GB unificadosMaior que a memóriaUD-IQ4_XSGGUF · 17,5 GB · precisa de ~30 GB131.072 tokens~35 GBMaior que a memóriaUD-IQ4_XSGGUF · 17,5 GB · precisa de ~30 GB131.072 tokens
Mac mini M5 Pro · 64 GB unificadosCabe na memória rápidaQ8_0GGUF · 36,9 GB · precisa de ~53 GB131.072 tokens~35 GBCabe na memória rápidaQ8_0GGUF · 36,9 GB · precisa de ~53 GB131.072 tokens
Mac Studio M5 Max · 128 GB unificadosCabe na memória rápidaQ8_0GGUF · 36,9 GB · precisa de ~53 GB262.144 tokens~35 GBCabe na memória rápidaQ8_0GGUF · 36,9 GB · precisa de ~53 GB262.144 tokens
Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificadosCabe na memória rápidaQ8_0GGUF · 36,9 GB · precisa de ~53 GB262.144 tokens~35 GBCabe na memória rápidaQ8_0GGUF · 36,9 GB · precisa de ~53 GB262.144 tokens
RTX 4060 · 8 GB de VRAMNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~29 GBNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 3060 · 12 GB de VRAMNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~29 GBNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 5080 · 16 GB de VRAMNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~29 GBNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 4090 · 24 GB de VRAMNa memória, fora da parte rápidaUD-IQ4_XSGGUF · 17,5 GB · precisa de ~24 GB32.768 tokens~29 GBNa memória, fora da parte rápidaUD-IQ4_XSGGUF · 17,5 GB · precisa de ~24 GB32.768 tokens
RTX 5090 · 32 GB de VRAMCabe na memória rápidaQ4_K_MGGUF · 22,0 GB · precisa de ~29 GB131.072 tokens~29 GBCabe na memória rápidaQ4_K_MGGUF · 22,0 GB · precisa de ~29 GB131.072 tokens
DGX H100 · 8 × 80 GBCabe na memória rápidaQ8_0GGUF · 36,9 GB · precisa de ~61 GB262.144 tokens~43 GBCabe na memória rápidaQ8_0GGUF · 36,9 GB · precisa de ~61 GB262.144 tokens

A coluna de arquivo usa a escada de quantização do site (Q8_0 a Q3_K_M; MLX de 8 a 4 bits no Mac): o maior arquivo coletado cujo tamanho × 1,2, mais o cache de contexto e a reserva da máquina, cabe na memória rápida. Estimativas de planejamento, não execuções medidas.

Planejar outra quantização ou contexto

Considere para

Compare com o Qwen denso de 27B para programação; a arquitetura MoE publicada ativa cerca de 3B parâmetros de linguagem por token.

Confira antes

Parâmetros ativos não equivalem aos pesos armazenados. Os 35B pesos completos entram na estimativa genérica de memória.

Versões para baixar

Arquivos que você pode baixar deste checkpoint. A seção abre na fonte GGUF coletada mais baixada, unsloth (5,5 mi de downloads no Hub), no arquivo Q4_K_M. Num Mac abre na fonte MLX mais baixada. Os tamanhos são os bytes publicados no Hub. O que é Q4?

unsloth · 5,5 mi downloads

unsloth/Qwen3.5-35B-A3B-GGUF · Qwen3.5-35B-A3B-Q4_K_M.gguf · 22,0 GB

Rodar este arquivo

ollama run hf.co/unsloth/Qwen3.5-35B-A3B-GGUF:Q4_K_M
llama-server -hf unsloth/Qwen3.5-35B-A3B-GGUF:Q4_K_M
lms get https://huggingface.co/unsloth/Qwen3.5-35B-A3B-GGUF
  • mlx-lm: O mlx-lm roda repositórios MLX; escolha a versão MLX num Mac

As notas de qualidade desta página pertencem ao checkpoint original; estes arquivos não recebem nota nem ranking. Tamanhos lidos em 2026-10-23 · downloads lidos em 2026-10-17 · comandos: Documentação do Hugging Face Hub: Ollama com qualquer modelo GGUF · README do servidor do llama.cpp (-hf <user>/<model>[:quant]) · Documentação do LM Studio: lms get com uma URL do Hugging Face · README do mlx-lm (mlx_lm.generate --model)

Ajustes, adaptadores e outras versões186 ajustes
Versões quantizadas
310
Ajustes (fine-tunes)
186
Adaptadores · misturas
48 · 8

Ver na árvore de modelos do Hugging Face · lido em 2026-10-23

Versões sem filtro (uncensored, abliterated)114

Algumas versões da comunidade removem as recusas de segurança do modelo. A qualidade pode cair, o publicador original não dá suporte, as afirmações sobre elas são de quem as publicou e a licença original continua valendo. Este site nunca as recomenda nem as ranqueia.

114 repositórios derivados têm “uncensored” ou “abliterated” no nome (lido em 2026-10-23).

Velocidade medida

Tokens por segundo por máquina

Saída em tok/s · 2 máquinas · todas as linhas na tabela · O que é um token?

DGX Spark · MXFP4, 63,13 · MXFP4 (MoE; 35B no total / 3B ativos) · llama.cpp CUDA (SM121a, source build) · llama.cpp b8922 (commit 13d36cf89); cmake -DGGML_CUDA=ON -DGGML_CUDA_FA_ALL_QUANTS=ON -DCMAKE_CUDA_ARCHITECTURES=121 -DGGML_CUDA_F16=ON -DGGML_NATIVE=ON; llama-bench -p 512 -n 128 -ngl 99 -fa 1 -mmp 0 -r 5; NVIDIA DGX OS (Ubuntu 24.04.3), kernel 6.14.0-1015-nvidia, CUDA 13.063,1
MacBook Air 13-inch M5 32GB · oQ2 de 2 bits, 55,0 · oQ2 de 2 bits (grupos de 64), safetensors MLX · oMLX (MLX) with native/lightning MTP speculative decoding, TurboQuant KV cache enabled, max 4 concurrent requests · oMLX v0.5.2.dev1; MLX and macOS versions not stated55,0
MacBook Air 13-inch M5 32GB · oQ3 de 3 bits, 55,0 · oQ3 de 3 bits (grupos de 64), safetensors MLX · oMLX (MLX) with native/lightning MTP speculative decoding, TurboQuant KV cache enabled, max 4 concurrent requests · oMLX v0.5.2.dev1; MLX and macOS versions not stated55,0
Velocidade medida
DGX SparkDGX Spark · 1× NVIDIA GB10 · 128 GB unificada63,13MXFP4 (MoE; 35B no total / 3B ativos)0 / 128 · Um processo llama-bench; concorrência de servidor não medidallama.cpp CUDA (SM121a, source build)llama.cpp b8922 (commit 13d36cf89); cmake -DGGML_CUDA=ON -DGGML_CUDA_FA_ALL_QUANTS=ON -DCMAKE_CUDA_ARCHITECTURES=121 -DGGML_CUDA_F16=ON -DGGML_NATIVE=ON; llama-bench -p 512 -n 128 -ngl 99 -fa 1 -mmp 0 -r 5; NVIDIA DGX OS (Ubuntu 24.04.3), kernel 6.14.0-1015-nvidia, CUDA 13.0Flash Attention ativadoQwen3.5-35B-A3B MXFP4 GGUF (a fonte não cita o repositório nem o arquivo)nabe2030/dense-27b-31b-dgx-spark (GitHub) · benchmark da comunidade · 2026-10-09
MacBook Air 13-inch M5 32GBMacBook Air · Apple M5 · 32 GB unificada (núcleos de GPU não informados)55,0oQ2 de 2 bits (grupos de 64), safetensors MLX1024 / 128 · Uma requisição (oMLX configurado para até 4 requisições simultâneas); em lote, a vazão por requisição é menoroMLX (MLX) with native/lightning MTP speculative decoding, TurboQuant KV cache enabled, max 4 concurrent requestsoMLX v0.5.2.dev1; MLX and macOS versions not statedmlx-works/Qwen3.5-35B-A3B-oQ2-mtp (conversão MLX de 2 bits de terceiros, com MTP embutido)mlx-works model card (Hugging Face) · quantização de terceiros · 2026-10-09
MacBook Air 13-inch M5 32GBMacBook Air · Apple M5 · 32 GB unificada (núcleos de GPU não informados)55,0oQ3 de 3 bits (grupos de 64), safetensors MLX1024 / 128 · Uma requisição (oMLX configurado para até 4 requisições simultâneas); em lote, a vazão por requisição é menoroMLX (MLX) with native/lightning MTP speculative decoding, TurboQuant KV cache enabled, max 4 concurrent requestsoMLX v0.5.2.dev1; MLX and macOS versions not statedmlx-works/Qwen3.5-35B-A3B-oQ3-mtp (conversão MLX de 3 bits de terceiros, com MTP embutido)mlx-works model card (Hugging Face) · quantização de terceiros · 2026-10-09

Fontes: nabe2030/dense-27b-31b-dgx-spark (GitHub) · benchmark da comunidade · mlx-works model card (Hugging Face) · quantização de terceiros · mlx-works model card (Hugging Face) · quantização de terceiros · não estimado

Como rodar

~27 GB de pesos Q4 com margem de trabalho, antes da reserva da máquina. Fórmula: parâmetros × 0,625 byte, mais 20% de margem; cada máquina soma então a reserva do sistema: 25% da memória unificada ou do sistema, de 2 a 8 GB, ou 2 GB por GPU em placas dedicadas. Não é VRAM medida nem tamanho do download do checkpoint.

Apenas estimativa de planejamento Q4. Verifique formato do checkpoint, suporte do runtime, cache KV, contexto, tamanho de lote e offload antes de escolher hardware.

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

vLLM · ficha do modelo · vLLM
vllm serve Qwen/Qwen3.5-35B-A3B --port 8000 --tensor-parallel-size 8 --max-model-len 262144 --reasoning-parser qwen3 
SGLang · ficha do modelo · SGLang
python -m sglang.launch_server --model-path Qwen/Qwen3.5-35B-A3B --port 8000 --tp-size 8 --mem-fraction-static 0.8 --context-length 262144 --reasoning-parser qwen3
Transformers · ficha do modelo · Hugging Face Transformers
transformers serve --force-model Qwen/Qwen3.5-35B-A3B --port 8000 --continuous-batching

Nível da evidência: Apenas estimativa genérica; nenhuma execução reproduzida por este site.

Amostragem padrão do publicador
temperature 1 · top_p 0,95 · top_k 20generation_config.json · lido em 2026-10-23fonte
Marcadores do template de chat
chamadas de ferramenta · raciocínio (thinking)marcadores encontrados no template, não um teste do recurso · lido em 2026-10-23fonte
Antes de baixar
  1. Confirme o checkpoint exato e a licença vinculada aqui.
  2. Confirme runtime e precisão ou quantização compatíveis com sua plataforma.
  3. Reserve memória para contexto, lote e eventuais componentes de mídia além dos pesos.

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Checkpoint / versão
Qwen/Qwen3.5-35B-A3B
Tarefa e modalidade
linguagem e raciocínio · texto + imagem + vídeo
Contagem e base
35B · componente de linguagem · 3B ativos
Contexto
262.144 tokens publicados para este modelo
Arquitetura
MoE
Lançamento
QwenLM Qwen GitHub README (News) · consultado em 2026-10-13fonte
Runtime e precisão
Nenhuma execução local verificada.
Idiomas
201 idiomas Declaração do publicador · consultado em 2026-10-18fonte
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Todos os campos guardados12 campos
Revisão conferida
59d61f3ce65a6d9863b86d2e96597125219dc754
Arquitetura
Qwen3_5MoeForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Modelos base declarados
Qwen/Qwen3.5-35B-A3B-Base
Formatos
transformers, safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Repositório criado
2026-02-24criação não é o lançamento do modelo
Repositório atualizado
2026-04-24um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
1.476.096 · 1.546só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

O MoE ativa cerca de 3B parâmetros de linguagem por token, mas os 35B pesos ainda importam para armazenamento e a estimativa genérica de memória.

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Catálogo revisado: 2026-09-30. Versão do benchmark: 2026-06-25; snapshot coletado: 2026-09-26.