RTX 5090 · 32 GB de VRAM
NVIDIA · RTX 5090
767 modelos de texto rodam bem · banda de 1.792 GB/s
Modelos neste hardware
Comece por aqui
Arquivo UD-Q4_K_M · 16,9 GB · unsloth/gemma-4-26B-A4B-it-GGUF · O que é Q4?
Memória Precisa de ~19 GB · ~21 GB em RTX 5090 · 32 GB de VRAM, incluindo ~2 GB que o sistema reserva
Medido 231,4 tok/s · UD-Q4_K_M · llama.cpp CUDA · fonte · O que é tok/s?
ollama run hf.co/unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_M- Instale o Ollama
- Rode o comando acima
- Pergunte:
Explique o que é a janela de contexto, em duas frases.
Arquivo Q4_K_M · 16,5 GB · prithivMLmods/Smaug-Mini-GGUF · O que é Q4?
Memória Precisa de ~21 GB · ~23 GB em RTX 5090 · 32 GB de VRAM, incluindo ~2 GB que o sistema reserva
ollama run hf.co/prithivMLmods/Smaug-Mini-GGUF:Q4_K_M- Instale o Ollama
- Rode o comando acima
- Pergunte:
Explique o que é a janela de contexto, em duas frases.
Texto
Texto · LiveBench · geral
0–100 · maior é melhor
- Cor = publicador
Fonte: LiveBench 2026-06-25 · coletado 2026-10-18 · Modelos abertos sem nota não aparecem (sem nota ≠ 0).
| Smaug MiniQ4 · parâm. publicados · fonte | 76,9 | Fora do ranking de texto do LMArena de 2026-10-22 | ~23 GB | Q4 · parâm. publicados |
|---|---|---|---|---|
| Qwen3.8 27BQ4 · parâm. publicados · fonte | 75,3 | 1.437 ± 5 | ~23 GB | Q4 · parâm. publicados |
| Qwen3.6 27BQ4 · parâm. publicados · fonte | 64,0 | Fora do ranking de texto do LMArena de 2026-10-22 | ~23 GB | Q4 · parâm. publicados |
| Nemotron 3.5 Lightning 30B A3BQ4 · parâm. publicados · fonte | 44,5 | O Arena avaliou a versão NVFP4, NVIDIA-Nemotron-3.5-Lightning-30B-A3B (NVFP4); esta ficha é a referência BF16, que a NVIDIA reporta com notas diferentes | ~25 GB | Q4 · parâm. publicados |
| Qwen3 14BQ4 · parâm. publicados · fonte | Sem resultado publicado comparável | Fora do ranking de texto do LMArena de 2026-10-22 | ~14 GB | Q4 · parâm. publicados |
| Qwen3.5 9BQ4 · parâm. publicados · fonte | Sem resultado publicado comparável | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | Q4 · parâm. publicados |
| Gemma 4 31BQ4 · parâm. publicados · fonte | Sem resultado publicado comparável | 1.452 ± 7 | ~26 GB | Q4 · parâm. publicados |
| Qwen3 8BQ4 · parâm. publicados · fonte | Sem resultado publicado comparável | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | Q4 · parâm. publicados |
Pontuações LMArena nesta tabela: LMArena 2026-10-22 · coletado 2026-10-25 · dataset · CC BY 4.0
No limite: roda, mas deixa menos de 3,2 GB livres além dos 2 GB que o sistema guarda (o valor de memória já inclui essa reserva).
Todos os modelos de texto revisados aqui 37
Todos os que rodam aqui, bem ou devagar, com ou sem nota; 20 de 37 têm resultado no LiveBench ou no LMArena. Primeiro os que rodam bem, depois os no limite, depois os lentos; em cada grupo, por downloads no Hub em 30 dias, lidos em 2026-11-19, não por qualidade.
| Qwen3 14B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~14 GB | 9,0 | Apache 2.0 | 13,2 mi |
|---|---|---|---|---|---|---|
| Qwen3.8 27B | 75,3 | 1.437 | ~23 GB | 16,5 | Apache 2.0 | 6,9 mi |
| Qwen3.5 9B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | 5,7 | Apache 2.0 | 6,5 mi |
| Gemma 4 31B | Fora do LiveBench 2026-06-25 | 1.452 | ~26 GB | 18,3 | Apache 2.0 | 6,3 mi |
| Qwen3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | 5,0 | Apache 2.0 | 6,1 mi |
| gpt-oss-20b | Fora do LiveBench 2026-06-25 | 1.317 | ~18 GB | 11,6 | Apache 2.0 | 5,6 mi |
| Gemma 4 26B A4B | Fora do LiveBench 2026-06-25 | 1.437 | ~21 GB | 16,9 | Apache 2.0 | 5 mi |
| Gemma 4 E4B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~8 GB | 5,0 | Apache 2.0 | 4,4 mi |
| Llama 3.1 8B Instruct | Fora do LiveBench 2026-06-25 | 1.211 | ~8 GB | 4,9 | Llama 3.1 | 4,1 mi |
| Gemma 4 E2B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~6 GB | 3,1 | Apache 2.0 | 2,8 mi |
| Qwen3 4B Instruct 2507 | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~5 GB | 2,5 | Apache 2.0 | 2,8 mi |
| Qwen3 1.7B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~4 GB | 1,1 | Apache 2.0 | 2,7 mi |
| Qwen3.6 27B | 64,0 | Fora do ranking de texto do LMArena de 2026-10-22 | ~23 GB | 16,8 | Apache 2.0 | 2,5 mi |
| Qwen3 Coder 30B A3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~25 GB | 18,6 | Apache 2.0 | 1,9 mi |
| Gemma 4 12B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~11 GB | 7,1 | Apache 2.0 | 1,6 mi |
| Llama 3.2 1B Instruct | Fora do LiveBench 2026-06-25 | 1.111 | ~3 GB | 0,8 | Llama 3.2 | 1,3 mi |
| GLM-4.7 Flash | Fora do LiveBench 2026-06-25 | 1.365 | ~25 GB | 18,3 | MIT | 1,2 mi |
| Nemotron 3.5 Lightning 30B A3B | 44,5 | O Arena avaliou a versão NVFP4, NVIDIA-Nemotron-3.5-Lightning-30B-A3B (NVFP4); esta ficha é a referência BF16, que a NVIDIA reporta com notas diferentes | ~25 GB | 18,9 | OpenMDW 1.1 | 974,1 mil |
| Llama 3.2 3B Instruct | Fora do LiveBench 2026-06-25 | 1.167 | ~5 GB | 2,0 | Llama 3.2 | 823,8 mil |
| Qwen3 30B A3B Instruct 2507 | Fora do LiveBench 2026-06-25 | 1.382 | ~25 GB | 18,6 | Apache 2.0 | 747,4 mil |
| DeepSeek R1 0528 Qwen3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | 5,0 | MIT | 523,8 mil |
| Phi-4 mini | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~5 GB | 2,5 | MIT | 301,1 mil |
| Ministral 3 14B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~13 GB | 8,2 | Apache 2.0 | 207,6 mil |
| Phi-4 | Fora do LiveBench 2026-06-25 | 1.256 | ~13 GB | 8,0 | MIT | 199,5 mil |
| SmolLM3 3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~5 GB | 1,9 | Apache 2.0 | 185,3 mil |
| Olmo 3 7B Instruct | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~8 GB | 4,5 | Apache 2.0 | 133,1 mil |
| Mistral Small 3.2 24B | Fora do LiveBench 2026-06-25 | 1.356 | ~21 GB | 14,3 | Apache 2.0 | 109,9 mil |
| Ministral 3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | 5,2 | Apache 2.0 | 90,7 mil |
| Ministral 3 3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~5 GB | 2,1 | Apache 2.0 | 72,5 mil |
| Granite 4.2 8B | Fora do LiveBench 2026-06-25 | 1.290 | ~8 GB | 5,3 | Apache 2.0 | 59,5 mil |
| Granite 4.2 3B | Fora do LiveBench 2026-06-25 | 1.290 | ~5 GB | 2,2 | Apache 2.0 | 40,8 mil |
| Granite 4.2 30B | Fora do LiveBench 2026-06-25 | 1.340 | ~25 GB | 17,7 | Apache 2.0 | 37 mil |
| Devstral Small 2 24B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~20 GB | 14,3 | Apache 2.0 | 24,8 mil |
| Olmo 3 32B Think | Fora do LiveBench 2026-06-25 | 1.306 | ~26 GB | 19,5 | Apache 2.0 | 11,8 mil |
| Smaug Mini | 76,9 | Fora do ranking de texto do LMArena de 2026-10-22 | ~23 GB | 16,5 | Apache 2.0 | 1,1 mil |
| Qwen3.5 35B A3B | Fora do LiveBench 2026-06-25 | 1.394 | ~29 GBNo limite | 22,0 | Apache 2.0 | 1,4 mi |
| Nemotron 3 Nano 30B A3B | Fora do LiveBench 2026-06-25 | 1.314 | ~32 GBNo limite | 24,6 | NVIDIA Nemotron Open Model | 1,3 mi |
Também roda devagar
Acima dos 32 GB de VRAM, as camadas que não cabem rodam na CPU a partir da RAM do PC, até 56 GB no total. 32 GB de RAM do PC presumidos: esta configuração não informa a RAM. Estimativa de planejamento, não velocidade.
- Smaug-Mixtral-v0.1abacusai~38 GBQ4 · contagem de tensores
- xLAM-8x7b-rSalesforce~38 GBQ4 · contagem de tensores
- NeKo-v0-post-correctionnvidia~38 GBQ4 · contagem de tensores
- xLAM-v0.1-rSalesforce~38 GBQ4 · contagem de tensores
- Qwen2-57B-A14B-InstructQwen~46 GBQ4 · contagem de tensores
- Qwen2-57B-A14BQwen~46 GBQ4 · contagem de tensores
- StableBeluga1-Deltastabilityai~51 GBQ4 · contagem de tensores
- Llama-2-70b-hfmeta-llama~54 GBQ4 · contagem de tensores
- Llama-2-70b-chat-hfmeta-llama~54 GBQ4 · contagem de tensores
- japanese-stablelm-instruct-beta-70bstabilityai~54 GBQ4 · contagem de tensores
- japanese-stablelm-base-beta-70bstabilityai~54 GBQ4 · contagem de tensores
- tulu-2-dpo-70ballenai~54 GBQ4 · contagem de tensores
- agentlm-70bzai-org~54 GBQ4 · contagem de tensores
- layerskip-llama2-70Bfacebook~54 GBQ4 · contagem de tensores
- OpenMath-CodeLlama-70b-Python-hfnvidia~54 GBQ4 · contagem de tensores
- OpenMath-Llama-2-70b-hfnvidia~54 GBQ4 · contagem de tensores
- Eurus-70b-sftopenbmb~54 GBQ4 · contagem de tensores
- Eurus-70b-ncaopenbmb~54 GBQ4 · contagem de tensores
- Giraffe-v2-70b-32kabacusai~54 GBQ4 · contagem de tensores
- CodeLlama-70b-Instruct-hfmeta-llama~54 GBQ4 · contagem de tensores
- OpenCodeInterpreter-CL-70Bm-a-p~54 GBQ4 · contagem de tensores
- CodeLlama-70b-hfmeta-llama~54 GBQ4 · contagem de tensores
- CodeLlama-70b-Python-hfmeta-llama~54 GBQ4 · contagem de tensores
- Llama-3.3-70B-Instructmeta-llama~55 GBQ4 · contagem de tensores
- Meta-Llama-3-70Bmeta-llama~55 GBQ4 · contagem de tensores
- Llama-3.1-70B-Instructmeta-llama~55 GBQ4 · contagem de tensores
- Meta-Llama-3-70B-Instructmeta-llama~55 GBQ4 · contagem de tensores
- DeepSeek-R1-Distill-Llama-70Bdeepseek-ai~55 GBQ4 · contagem de tensores
- Llama-3.1-70Bmeta-llama~55 GBQ4 · contagem de tensores
- Llama-3.1-Nemotron-70B-Instruct-HFnvidia~55 GBQ4 · contagem de tensores
- Smaug-Llama-3-70B-Instructabacusai~55 GBQ4 · contagem de tensores
- Higgs-Llama-3-70Bbosonai~55 GBQ4 · contagem de tensores
- Smaug-Llama-3-70B-Instruct-32Kabacusai~55 GBQ4 · contagem de tensores
- Llama-xLAM-2-70b-fc-rSalesforce~55 GBQ4 · contagem de tensores
- Llama-3.3-Nemotron-70B-Rewardnvidia~55 GBQ4 · contagem de tensores
- Llama-3.3-Nemotron-70B-Reward-Principlenvidia~55 GBQ4 · contagem de tensores
- Llama-3.1-Tulu-3-70Ballenai~55 GBQ4 · contagem de tensores
- Llama-3.1-Tulu-3-70B-DPOallenai~55 GBQ4 · contagem de tensores
- Llama-3.1-Tulu-3-70B-SFTallenai~55 GBQ4 · contagem de tensores
- Llama3-ChatQA-1.5-70Bnvidia~55 GBQ4 · contagem de tensores
- Infinity-Instruct-7M-Gen-Llama3_1-70BBAAI~55 GBQ4 · contagem de tensores
- Infinity-Instruct-3M-0613-Llama3-70BBAAI~55 GBQ4 · contagem de tensores
- Llama-3.3-Nemotron-70B-Feedbacknvidia~55 GBQ4 · contagem de tensores
- Llama-3.3-Nemotron-70B-Selectnvidia~55 GBQ4 · contagem de tensores
- Llama-3.3-Nemotron-70B-Editnvidia~55 GBQ4 · contagem de tensores
- OpenMath2-Llama3.1-70Bnvidia~55 GBQ4 · contagem de tensores
- Llama-3.3-Nemotron-70B-Reward-Multilingualnvidia~55 GBQ4 · contagem de tensores
- Infinity-Instruct-3M-0625-Llama3-70BBAAI~55 GBQ4 · contagem de tensores
- Llama-3.1-Tulu-3-70B-brokenallenai~55 GBQ4 · contagem de tensores
- llama-3-tulu-2-70ballenai~55 GBQ4 · contagem de tensores
- llama-3-tulu-2-dpo-70ballenai~55 GBQ4 · contagem de tensores
- Dracarys-Llama-3.1-70B-Instructabacusai~55 GBQ4 · contagem de tensores
- Dracarys2-Llama-3.1-70B-Instructabacusai~55 GBQ4 · contagem de tensores
- Llama-3-Giraffe-70Babacusai~55 GBQ4 · contagem de tensores
- Meta-Llama-3.1-70BEfficient-Large-Model~55 GBQ4 · contagem de tensores
- Llama-3-Giraffe-70B-Instructabacusai~55 GBQ4 · contagem de tensores
- Meta-Llama-3.1-70B-InstructEfficient-Large-Model~55 GBQ4 · contagem de tensores
Ajustar a estimativa: quantização, contexto, reserva
Visão
Visão · LMArena
pontuação · maior é melhor
- Cor = publicador
Fonte: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0 · Modelos sem pontuação ficam de fora; não recebem zero.
| Gemma 4 31BQ4 · parâm. publicados · fonte | 1.262 ± 6 | ~26 GB | Q4 · parâm. publicados |
|---|---|---|---|
| Qwen3.8 27BQ4 · parâm. publicados · fonte | 1.242 ± 8 | ~23 GB | Q4 · parâm. publicados |
| Gemma 4 26B A4BQ4 · parâm. publicados · fonte | 1.242 ± 6 | ~21 GB | Q4 · parâm. publicados |
| gemma-3-27b-itQ4 · contagem do Hugging Face · fonte | 1.160 ± 8 | ~23 GB | Q4 · contagem do Hugging Face |
| Qwen2.5-VL-32B-InstructQ4 · contagem do Hugging Face · fonte | 1.119 ± 15 | ~28 GB | Q4 · contagem do Hugging Face |
| Molmo2-8BQ4 · contagem do Hugging Face · fonte | 1.112 ± 20 | ~9 GB | Q4 · contagem do Hugging Face |
| Qwen2-VL-7B-InstructQ4 · contagem do Hugging Face · fonte | 1.031 ± 11 | ~9 GB | Q4 · contagem do Hugging Face |
| Molmo-7B-D-0924Q4 · contagem do Hugging Face · fonte | 994 ± 14 | ~9 GB | Q4 · contagem do Hugging Face |
Pontuações LMArena nesta tabela: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0
No limite: roda, mas deixa menos de 3,2 GB livres além dos 2 GB que o sistema guarda (o valor de memória já inclui essa reserva).
Também roda devagar
Acima dos 32 GB de VRAM, as camadas que não cabem rodam na CPU a partir da RAM do PC, até 56 GB no total. 32 GB de RAM do PC presumidos: esta configuração não informa a RAM. Estimativa de planejamento, não velocidade.
- InternVL-Chat-V1-2OpenGVLab~33 GBQ4 · contagem do Hugging Face
- InternVL-Chat-V1-2-PlusOpenGVLab~33 GBQ4 · contagem do Hugging Face
- InternVL2-40BOpenGVLab~33 GBQ4 · contagem do Hugging Face
- Ling-3.0-flash-VL-fp4inclusionAI~51 GBQ4 · contagem do Hugging Face
- Qianfan-VL-70Bbaidu~56 GBQ4 · contagem do Hugging Face
Outros 471 modelos de visão do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Visão
Imagem
Imagem · Aderência ao prompt · GenEval
0–1 · maior é melhor
Fonte: GenEval · 2023 · revisado 2026-10-05 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.
| Stable Diffusion XL 1.0Caminho da plataforma documentado · stable-diffusion.cpp · fonte | 0,55 | Fora do ranking de texto para imagem do LMArena de 2026-10-07 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
|---|---|---|---|---|
| Stable Diffusion 1.5Caminho da plataforma documentado · stable-diffusion.cpp · fonte | 0,43 | Fora do ranking de texto para imagem do LMArena de 2026-10-07 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
| BagelMínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | 898 ± 6 | ~32 GB | Mínimo do publicador |
| Qwen-Image-NVFP4est. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~32 GB | est. 16 bits · parâm. |
| Step1X-Edit-v1p1-diffusersest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~32 GB | est. 16 bits · parâm. |
| Step1X-Edit-v1p2est. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~32 GB | est. 16 bits · parâm. |
| Step1X-Edit-v1p2-previewest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~32 GB | est. 16 bits · parâm. |
| FLUX.1 Krea [dev]est. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Fora do ranking de texto para imagem do LMArena de 2026-10-07 | ~31 GB | est. 16 bits · parâm. |
Pontuações LMArena nesta tabela: LMArena 2026-10-07 · coletado 2026-10-25 · dataset · CC BY 4.0
Outros 231 modelos de imagem do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Imagem
Vídeo
| LTX-2.5 FastMínimo do publicador · CUDA · fonte | ~32 GB | Mínimo do publicador |
|---|---|---|
| LTX-2.5 ProMínimo do publicador · CUDA · fonte | ~32 GB | Mínimo do publicador |
| Open-Sora-v2est. 16 bits · parâm. · fonte | ~29 GB | est. 16 bits · parâm. |
| Video-As-Prompt-CogVideoX-5Best. 16 bits · parâm. · fonte | ~29 GB | est. 16 bits · parâm. |
| mochi-1-previewest. 16 bits · parâm. · fonte | ~26 GB | est. 16 bits · parâm. |
| Wan2.2-TI2V-5BCaminho condicional · CUDA · fonte | ~24 GB | Caminho condicional |
| Wan2.2-TI2V-5B-DiffusersCaminho condicional · CUDA · fonte | ~24 GB | Caminho condicional |
| ContentV-8Best. 16 bits · parâm. · fonte | ~22 GB | est. 16 bits · parâm. |
Como esta lista funciona Primeiro os caminhos de execução documentados neste hardware, depois os mínimos dos publicadores (CUDA ou Apple MPS).
Outros 124 modelos de vídeo do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Vídeo
Áudio
Áudio · Taxa de erro de palavras · Open ASR
% · menor é melhor
Fonte: Taxa de erro de palavras · Open ASR · revisado 2026-10-20 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.
| Whisper large-v3-turboCaminho da plataforma documentado · whisper.cpp / CUDA · fonte | 7,83 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
|---|---|---|---|
| Whisper large-v3Caminho da plataforma documentado · whisper.cpp / CUDA · fonte | 7,44 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
| acestep-captionerest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~28 GB | est. 16 bits · parâm. |
| acestep-transcriberest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~28 GB | est. 16 bits · parâm. |
| MERaLiON-2-10Best. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~27 GB | est. 16 bits · parâm. |
| MERaLiON-2-10B-ASRest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~27 GB | est. 16 bits · parâm. |
| Kimi-Audio-7Best. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~26 GB | est. 16 bits · parâm. |
| Kimi-Audio-7B-Instructest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~26 GB | est. 16 bits · parâm. |
Outros 1.984 modelos de áudio do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Áudio
Embeddings
Embeddings · MTEB (Multilingual, v2) · mean(task)
0–100 · maior é melhor
- Cor = publicador
| Qwen3-Embedding 8B8 bits · parâm. publicados · fonte | 70,6 | ~12 GB | 8 bits · parâm. publicados |
|---|---|---|---|
| Qwen3-Embedding 4B8 bits · parâm. publicados · fonte | 69,5 | ~7 GB | 8 bits · parâm. publicados |
| Harrier OSS v1 (0.6B)8 bits · parâm. publicados · fonte | 69,0 | ~3 GB | 8 bits · parâm. publicados |
| Qwen3-Embedding 0.6B8 bits · parâm. publicados · fonte | 64,3 | ~3 GB | 8 bits · parâm. publicados |
| Multilingual E5 Large Instruct8 bits · parâm. publicados · fonte | 63,2 | ~3 GB | 8 bits · parâm. publicados |
| EmbeddingGemma 28 bits · parâm. publicados · fonte | 61,4 | ~3 GB | 8 bits · parâm. publicados |
| EmbeddingGemma (300M)8 bits · parâm. publicados · fonte | 61,1 | ~3 GB | 8 bits · parâm. publicados |
| BGE-M38 bits · parâm. publicados · fonte | 59,6 | ~3 GB | 8 bits · parâm. publicados |
Roda bem em até 32 GB de VRAM · estimativas de planejamento, não velocidade medida
Medições
Tokens por segundo publicados, exatamente como medidos; nunca estimados.
Especificações
12 campos com fonte; a fonte aparece uma vez por grupo, e um campo de outra fonte tem o próprio link. Especificações oficiais · Memória consultada: 2026-09-30 · fonte do fabricante · JSON de fatos com fontes
Marcador: o modelo de texto com melhor nota LiveBench que roda bem aqui. Nenhum outro modelo de texto rodaria bem com o próximo tamanho de memória. Estimativa Q4 de planejamento, não compatibilidade medida.
Configuração selecionada
Última consulta · Fonte do fabricante
- Capacidade de memória
- 32 GB
- Tipo de memória
- 32 GB GDDR7
- Chip / processador
- Blackwell · RTX 5090
- Núcleos CUDA
- 21.760
- Potência da GPU (especificação de referência)
- 575 W
- Interface de memória
- 512 bit
- Capacidade computacional CUDA
- 12.0
Especificação da família
Última consulta · Fonte do fabricante
- Conectores de vídeo (referência; fabricante pode variar)
- 3 × DisplayPort 2.1b · HDMI 2.1b
- Comprimento da placa
- 304 mm
Uma GPU CUDA com 32 GB de VRAM dedicada. Um modelo abaixo de 32 GB na estimativa Q4 genérica é candidato de planejamento, não compatibilidade testada. Offload para CPU exige RAM e pode reduzir a velocidade.
Foto: Imagem oficial NVIDIA · design de referência; placas parceiras variam. · Fonte do fabricante
A banda de memória não mede a velocidade do modelo; confirme compatibilidade do runtime e do checkpoint. Especificação de hardware revisada: 2026-10-13.
Como funcionam as estimativas
- Candidatos
- Fichas revisadas usam parâmetros publicados; candidatos automáticos de texto usam contagens de tensores do repositório oficial (pesos quantizados empacotados e arquiteturas não suportadas ficam de fora).
- Planejamento
- Pesos Q4 + 20% de margem + reserva: 25% da memória unificada ou do sistema (no mínimo 2 GB, no máximo 8 GB; 2 GB aqui) ou 2 GB por GPU dedicada. Ajustável em “Ajustar a estimativa”. Não calculamos cache KV a partir do contexto.
- Níveis de compatibilidade
- Roda bem: a estimativa cabe na memória rápida (VRAM, ou memória unificada dentro da fatia de GPU do macOS). Roda devagar: dentro da memória da máquina, fora da parte rápida; a placa de vídeo descarrega camadas para a RAM do PC (a RAM informada, ou 32 GB presumidos). Não roda: acima das duas. Os níveis são estimativas de planejamento, nunca velocidade.
- Visão
- Modelos de visão e linguagem usam a estimativa Q4 de planejamento a partir da contagem de parâmetros (publicada na ficha do modelo ou lida no Hugging Face). Modelos de visão clássica (classificar, detectar, segmentar) usam estimativa de 16 bits. Não acompanhamos benchmark de visão, então as linhas não têm nota.
- Mídia e embeddings
- Mídia usa caminhos de execução documentados (hardware exato ou plataforma) e mínimos dos publicadores; um requisito publicado acima desta memória leva o modelo ao próximo degrau. Sem eles, uma estimativa de 16 bits a partir dos parâmetros publicados (× 1,2 + 2 GB), rotulada como tal. Embeddings usam pesos de 8 bits + 20% + 2 GB.
IA local: parâmetros, Q4 e memória · Catálogo completo de modelos · Dados e metodologia
Alternativas
Comparações lado a lado e outras máquinas na mesma escada de memória (VRAM); cada página lista os modelos que cabem nela.
