Qwen3.5 35B A3B
Alibaba · Qwen/Qwen3.5-35B-A3B
Arquivo Q4 de 22,0 GB (Q4_K_M) · roda bem a partir de 32 GB · Licença dos pesos: Apache 2.0
Qualidade
- LMArena · texto · pontuação
- 1.394 ± 4Intervalo de confiança 1.390–1.398 · 30.443 votos · posição 172 da rodadaLMArena 2026-10-22 · CC BY 4.0
Sem resultado em LiveBench 2026-06-25 Sem resultado no LiveBench 2026-06-25
Informado pelo publicador
- MMLU-Pro
- 85,3Language
- MMLU-Redux
- 93,3Language
- C-Eval
- 90,2Language
- SuperGPQA
- 63,4Language
- IFEval
- 91,9Language
- IFBench
- 70,2Language
- MultiChallenge
- 60,0Language
- AA-LCR
- 58,5Language
Todos os resultados informados
- LongBench v2
- 59,0Language
- HLE w/ CoT
- 22,4Language
- GPQA Diamond
- 84,2Language
- HMMT Feb 25
- 89,0Language
- HMMT Nov 25
- 89,2Language
- SWE-bench Verified
- 69,2Language
- Terminal Bench 2
- 40,5Language
- LiveCodeBench v6
- 74,6Language
- CodeForces
- 2.028Language
- OJBench
- 36,0Language
- FullStackBench en
- 58,1Language
- FullStackBench zh
- 55,0Language
- BFCL-V4
- 67,3Language
- TAU2-Bench
- 81,2Language
- VITA-Bench
- 31,9Language
- DeepPlanning
- 22,8Language
- HLE w/ tool
- 47,4Language
- Browsecomp
- 61,0Language
- Browsecomp-zh
- 69,5Language
- WideSearch
- 57,1Language
- Seal-0
- 41,4Language
- MMMLU
- 85,2Language
- MMLU-ProX
- 81,0Language
- NOVA-63
- 57,1Language
- INCLUDE
- 79,7Language
- Global PIQA
- 86,6Language
- PolyMATH
- 64,4Language
- WMT24++
- 76,3Language
- MAXIFE
- 86,6Language
- MMMU
- 81,4Vision Language
- MMMU-Pro
- 75,1Vision Language
- MathVision
- 83,9Vision Language
- Mathvista (mini)
- 86,2Vision Language
- DynaMath
- 85,0Vision Language
- ZEROBench
- 8Vision Language
- ZEROBench_sub
- 34,1Vision Language
- VlmsAreBlind
- 97,0Vision Language
- RealWorldQA
- 84,1Vision Language
- MMStar
- 81,9Vision Language
- MMBench EN-DEV-v1.1
- 91,5Vision Language
- SimpleVQA
- 58,3Vision Language
- HallusionBench
- 67,9Vision Language
- OmniDocBench1.5
- 89,3Vision Language
- CharXiv (RQ)
- 77,5Vision Language
- MMLongBench-Doc
- 59,5Vision Language
- CC-OCR
- 80,7Vision Language
- AI2D_TEST
- 92,6Vision Language
- OCRBench
- 91,0Vision Language
- ERQA
- 64,8Vision Language
- CountBench
- 97,8Vision Language
- RefCOCO (avg)
- 89,2Vision Language
- ODInW13
- 42,6Vision Language
- EmbSpatialBench
- 83,1Vision Language
- RefSpatialBench
- 63,5Vision Language
- LingoQA
- 79,2Vision Language
- Hypersim
- 13,1Vision Language
- SUNRGBD
- 33,4Vision Language
- Nuscene
- 14,6Vision Language
- VideoMME (w sub.)
- 86,6Vision Language
- VideoMME (w/o sub.)
- 82,5Vision Language
- VideoMMMU
- 80,4Vision Language
- MLVU
- 85,6Vision Language
- MVBench
- 74,8Vision Language
- LVBench
- 71,4Vision Language
- MMVU
- 72,3Vision Language
- ScreenSpot Pro
- 68,6Vision Language
- OSWorld-Verified
- 54,5Vision Language
- AndroidWorld
- 71,1Vision Language
- SLAKE
- 78,7Vision Language
- PMC-VQA
- 62,0Vision Language
- MedXpertQA-MM
- 61,4Vision Language
Entre os tamanhos do Qwen3.5
| Benchmark (configuração do publicador) | 9B | 35B A3B |
|---|---|---|
| MMLU-Pro | 82,5 | 85,3 |
| MMLU-Redux | 91,1 | 93,3 |
| C-Eval | 88,2 | 90,2 |
| SuperGPQA | 58,2 | 63,4 |
| IFEval | 91,5 | 91,9 |
| IFBench | 64,5 | 70,2 |
| MultiChallenge | 54,5 | 60,0 |
| AA-LCR | 63,0 | 58,5 |
| LongBench v2 | 55,2 | 59,0 |
| GPQA Diamond | 81,7 | 84,2 |
| HMMT Feb 25 | 83,2 | 89,0 |
| HMMT Nov 25 | 82,9 | 89,2 |
| LiveCodeBench v6 | 65,6 | 74,6 |
| OJBench | 29,2 | 36,0 |
| BFCL-V4 | 66,1 | 67,3 |
| TAU2-Bench | 79,1 | 81,2 |
| VITA-Bench | 29,8 | 31,9 |
| DeepPlanning | 18,0 | 22,8 |
| MMMLU | 81,2 | 85,2 |
| MMLU-ProX | 76,3 | 81,0 |
| NOVA-63 | 55,9 | 57,1 |
| INCLUDE | 75,6 | 79,7 |
| Global PIQA | 83,2 | 86,6 |
| PolyMATH | 57,3 | 64,4 |
| WMT24++ | 72,6 | 76,3 |
| MAXIFE | 83,4 | 86,6 |
| MMMU | 78,4 | 81,4 |
| MMMU-Pro | 70,1 | 75,1 |
| MathVision | 78,9 | 83,9 |
| Mathvista (mini) | 85,7 | 86,2 |
| DynaMath | 83,6 | 85,0 |
| ZEROBench | 3,0 | 8 |
| ZEROBench_sub | 31,1 | 34,1 |
| VlmsAreBlind | 93,7 | 97,0 |
| RealWorldQA | 80,3 | 84,1 |
| MMStar | 79,7 | 81,9 |
| MMBench EN-DEV-v1.1 | 90,1 | 91,5 |
| SimpleVQA | 51,2 | 58,3 |
| HallusionBench | 69,3 | 67,9 |
| OmniDocBench1.5 | 87,7 | 89,3 |
| CharXiv (RQ) | 73,0 | 77,5 |
| MMLongBench-Doc | 57,7 | 59,5 |
| CC-OCR | 79,3 | 80,7 |
| AI2D_TEST | 90,2 | 92,6 |
| OCRBench | 89,2 | 91,0 |
| ERQA | 55,5 | 64,8 |
| CountBench | 97,2 | 97,8 |
| RefCOCO (avg) | 89,7 | 89,2 |
| EmbSpatialBench | 83,0 | 83,1 |
| RefSpatialBench | 58,5 | 63,5 |
| LingoQA | 80,4 | 79,2 |
| Hypersim | 13,5 | 13,1 |
| Nuscene | 11,8 | 14,6 |
| VideoMME (w sub.) | 84,5 | 86,6 |
| VideoMME (w/o sub.) | 78,4 | 82,5 |
| VideoMMMU | 78,9 | 80,4 |
| MLVU | 84,4 | 85,6 |
| MVBench | 74,4 | 74,8 |
| LVBench | 70,0 | 71,4 |
| MMVU | 67,8 | 72,3 |
| ScreenSpot Pro | 65,2 | 68,6 |
| OSWorld-Verified | 41,8 | 54,5 |
| AndroidWorld | 57,8 | 71,1 |
| SLAKE | 79,0 | 78,7 |
| PMC-VQA | 57,9 | 62,0 |
| MedXpertQA-MM | 49,9 | 61,4 |
Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Benchmark Results › Language; Benchmark Results › Vision Language); coluna “Qwen3.5-35B-A3B”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo
Rodar
Rodar
Arquivo Q4_K_M · 22 GB · unsloth/Qwen3.5-35B-A3B-GGUF · O que é Q4?
Medido 63,1 tok/s · MXFP4 · 1 máquina · 2 fontes · todas as linhas
ollama run hf.co/unsloth/Qwen3.5-35B-A3B-GGUF:Q4_K_M- Instale o Ollama
- Rode o comando acima
- Pergunte:
Explique o que é a janela de contexto, em duas frases.
Roda em
Cabe na memória rápida 33
A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.
Mostrar todos os 33
Na memória, fora da parte rápida 50
Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.
Mostrar todos os 50
Falta um degrau de memória 9
As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.
Mostrar todos os 9
Qwen3.5 35B A3B é um modelo de texto da Alibaba com 35B de parâmetros, dos quais 3B ativos por token (mistura de especialistas). Foi lançado em 24 de fevereiro de 2026 e lê até 262.144 tokens de contexto. Os pesos em Q4 com a margem de trabalho somam cerca de 27 GB antes da reserva da máquina; as menores máquinas de referência cuja memória rápida comporta isso são Mac mini M5 Pro · 64 GB unificados (~35 GB com a reserva) e RTX 5090 · 32 GB de VRAM (~29 GB com a reserva). Coletamos 27 arquivos GGUF e MLX para baixar de 2 fontes de publicadores; a fonte GGUF mais baixada é a de unsloth (5,5 mi de downloads no Hub). Ele não tem resultado no LiveBench 2026-06-25. Sua pontuação de texto no LMArena é 1.394 ± 4 (rodada 2026-10-22), uma escala separada de preferência humana.
Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Cada cartão abre o perfil do hardware. Não é compatibilidade nem velocidade medida.
Nas máquinas de referência
| Onde fica o Q4 | ||||
|---|---|---|---|---|
| Mac mini M2 · 8 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~29 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M4 · 16 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~31 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M4 · 24 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~33 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M4 · 32 GB unificadosMaior que a memóriaUD-IQ4_XS131.072 tokens | ~35 GB | Maior que a memória | UD-IQ4_XS | 131.072 tokens |
| Mac mini M5 Pro · 64 GB unificadosCabe na memória rápidaQ8_0131.072 tokens | ~35 GB | Cabe na memória rápida | Q8_0 | 131.072 tokens |
| Mac Studio M5 Max · 128 GB unificadosCabe na memória rápidaQ8_0262.144 tokens | ~35 GB | Cabe na memória rápida | Q8_0 | 262.144 tokens |
| Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificadosCabe na memória rápidaQ8_0262.144 tokens | ~35 GB | Cabe na memória rápida | Q8_0 | 262.144 tokens |
| RTX 4060 · 8 GB de VRAMNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~29 GB | Na memória, fora da parte rápida | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 3060 · 12 GB de VRAMNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~29 GB | Na memória, fora da parte rápida | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 5080 · 16 GB de VRAMNa memória, fora da parte rápidaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~29 GB | Na memória, fora da parte rápida | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 4090 · 24 GB de VRAMNa memória, fora da parte rápidaUD-IQ4_XS32.768 tokens | ~29 GB | Na memória, fora da parte rápida | UD-IQ4_XS | 32.768 tokens |
| RTX 5090 · 32 GB de VRAMCabe na memória rápidaQ4_K_M131.072 tokens | ~29 GB | Cabe na memória rápida | Q4_K_M | 131.072 tokens |
| DGX H100 · 8 × 80 GBCabe na memória rápidaQ8_0262.144 tokens | ~43 GB | Cabe na memória rápida | Q8_0 | 262.144 tokens |
A coluna de arquivo usa a escada de quantização do site (Q8_0 a Q3_K_M; MLX de 8 a 4 bits no Mac): o maior arquivo coletado cujo tamanho × 1,2, mais o cache de contexto e a reserva da máquina, cabe na memória rápida. Estimativas de planejamento, não execuções medidas.
Compare com o Qwen denso de 27B para programação; a arquitetura MoE publicada ativa cerca de 3B parâmetros de linguagem por token.
Parâmetros ativos não equivalem aos pesos armazenados. Os 35B pesos completos entram na estimativa genérica de memória.
Versões para baixar
Arquivos que você pode baixar deste checkpoint. A seção abre na fonte GGUF coletada mais baixada, unsloth (5,5 mi de downloads no Hub), no arquivo Q4_K_M. Num Mac abre na fonte MLX mais baixada. Os tamanhos são os bytes publicados no Hub. O que é Q4?
unsloth · 5,5 mi downloads
unsloth/Qwen3.5-35B-A3B-GGUF · Qwen3.5-35B-A3B-Q4_K_M.gguf · 22,0 GB
Rodar este arquivo
ollama run hf.co/unsloth/Qwen3.5-35B-A3B-GGUF:Q4_K_Mllama-server -hf unsloth/Qwen3.5-35B-A3B-GGUF:Q4_K_Mlms get https://huggingface.co/unsloth/Qwen3.5-35B-A3B-GGUF- mlx-lm: O mlx-lm roda repositórios MLX; escolha a versão MLX num Mac
As notas de qualidade desta página pertencem ao checkpoint original; estes arquivos não recebem nota nem ranking. Tamanhos lidos em 2026-10-23 · downloads lidos em 2026-10-17 · comandos: Documentação do Hugging Face Hub: Ollama com qualquer modelo GGUF · README do servidor do llama.cpp (-hf <user>/<model>[:quant]) · Documentação do LM Studio: lms get com uma URL do Hugging Face · README do mlx-lm (mlx_lm.generate --model)
Ajustes, adaptadores e outras versões
- Versões quantizadas
- 310
- Ajustes (fine-tunes)
- 186
- Adaptadores · misturas
- 48 · 8
Ver na árvore de modelos do Hugging Face · lido em 2026-10-23
Versões sem filtro (uncensored, abliterated)
Algumas versões da comunidade removem as recusas de segurança do modelo. A qualidade pode cair, o publicador original não dá suporte, as afirmações sobre elas são de quem as publicou e a licença original continua valendo. Este site nunca as recomenda nem as ranqueia.
114 repositórios derivados têm “uncensored” ou “abliterated” no nome (lido em 2026-10-23).
Velocidade medida
Tokens por segundo por máquina
Saída em tok/s · 2 máquinas · todas as linhas na tabela · O que é um token?
| DGX Spark | 63,13 | MXFP4 (MoE; 35B no total / 3B ativos) | llama.cpp CUDA (SM121a, source build) | Qwen3.5-35B-A3B MXFP4 GGUF (a fonte não cita o repositório nem o arquivo) |
|---|---|---|---|---|
| MacBook Air 13-inch M5 32GB | 55,0 | oQ2 de 2 bits (grupos de 64), safetensors MLX | oMLX (MLX) with native/lightning MTP speculative decoding, TurboQuant KV cache enabled, max 4 concurrent requests | mlx-works/Qwen3.5-35B-A3B-oQ2-mtp (conversão MLX de 2 bits de terceiros, com MTP embutido) |
| MacBook Air 13-inch M5 32GB | 55,0 | oQ3 de 3 bits (grupos de 64), safetensors MLX | oMLX (MLX) with native/lightning MTP speculative decoding, TurboQuant KV cache enabled, max 4 concurrent requests | mlx-works/Qwen3.5-35B-A3B-oQ3-mtp (conversão MLX de 3 bits de terceiros, com MTP embutido) |
Fontes: nabe2030/dense-27b-31b-dgx-spark (GitHub) · benchmark da comunidade · mlx-works model card (Hugging Face) · quantização de terceiros · mlx-works model card (Hugging Face) · quantização de terceiros · não estimado
Como rodar
~27 GB de pesos Q4 com margem de trabalho, antes da reserva da máquina. Fórmula: parâmetros × 0,625 byte, mais 20% de margem; cada máquina soma então a reserva do sistema: 25% da memória unificada ou do sistema, de 2 a 8 GB, ou 2 GB por GPU em placas dedicadas. Não é VRAM medida nem tamanho do download do checkpoint.
Apenas estimativa de planejamento Q4. Verifique formato do checkpoint, suporte do runtime, cache KV, contexto, tamanho de lote e offload antes de escolher hardware.
Formas documentadas de rodar
Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.
vllm serve Qwen/Qwen3.5-35B-A3B --port 8000 --tensor-parallel-size 8 --max-model-len 262144 --reasoning-parser qwen3 python -m sglang.launch_server --model-path Qwen/Qwen3.5-35B-A3B --port 8000 --tp-size 8 --mem-fraction-static 0.8 --context-length 262144 --reasoning-parser qwen3transformers serve --force-model Qwen/Qwen3.5-35B-A3B --port 8000 --continuous-batchingNível da evidência: Apenas estimativa genérica; nenhuma execução reproduzida por este site.
- Amostragem padrão do publicador
- temperature 1 · top_p 0,95 · top_k 20generation_config.json · lido em 2026-10-23fonte
- Marcadores do template de chat
- chamadas de ferramenta · raciocínio (thinking)marcadores encontrados no template, não um teste do recurso · lido em 2026-10-23fonte
Antes de baixar
- Confirme o checkpoint exato e a licença vinculada aqui.
- Confirme runtime e precisão ou quantização compatíveis com sua plataforma.
- Reserve memória para contexto, lote e eventuais componentes de mídia além dos pesos.
Detalhes técnicos
O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.
- Checkpoint / versão
- Qwen/Qwen3.5-35B-A3B
- Tarefa e modalidade
- linguagem e raciocínio · texto + imagem + vídeo
- Contagem e base
- 35B · componente de linguagem · 3B ativos
- Contexto
- 262.144 tokens publicados para este modelo
- Arquitetura
- MoE
- Lançamento
- QwenLM Qwen GitHub README (News) · consultado em 2026-10-13fonte
- Runtime e precisão
- Nenhuma execução local verificada.
- Idiomas
- 201 idiomas Declaração do publicador · consultado em 2026-10-18fonte
- Uso comercial
- Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Todos os campos guardados
- Revisão conferida
- 59d61f3ce65a6d9863b86d2e96597125219dc754
- Arquitetura
- Qwen3_5MoeForConditionalGeneration
- Biblioteca
- transformers
- Tag de tarefa no Hub
- image-text-to-text
- Modelos base declarados
- Qwen/Qwen3.5-35B-A3B-Base
- Formatos
- transformers, safetensors
- Acesso
- Download aberto
- Tipo de publicador
- Oficial
- Repositório criado
- 2026-02-24criação não é o lançamento do modelo
- Repositório atualizado
- 2026-04-24um commit não é data de lançamento
- Downloads no Hub (30 dias) · curtidas
- 1.476.096 · 1.546só este repositório · lido em 2026-10-25
- Estado no catálogo
- Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário
O MoE ativa cerca de 3B parâmetros de linguagem por token, mas os 35B pesos ainda importam para armazenamento e a estimativa genérica de memória.
Fontes
Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.
- Checkpoint e ficha do publicador
- Licença dos pesos e termos de uso
- Fonte do benchmark de qualidade · LiveBench 2026-06-25 geral
Catálogo revisado: 2026-09-30. Versão do benchmark: 2026-06-25; snapshot coletado: 2026-09-26.

























































