Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

RTX 5090 · 32 GB de VRAM

NVIDIA · RTX 5090

767 modelos de texto rodam bem · banda de 1.792 GB/s

Modelos neste hardware

Comece por aqui

Texto

Em até 32 GB: 767 rodam bem · 2 no limite · 37 revisados · mais 57 rodam devagar

Texto · LiveBench · geral

0–100 · maior é melhor

  • Cor = publicador

Fonte: LiveBench 2026-06-25 · coletado 2026-10-18 · Modelos abertos sem nota não aparecem (sem nota ≠ 0).

Primeiro os que rodam bem, depois os no limite; em cada grupo, modelos revisados e depois downloads no Hub em 30 dias, não qualidade. Ordene por uma coluna de nota para classificar só por essa fonte.
Modelos de Texto que rodam bem em até 32 GB
Smaug MiniAbacus AI · 27BQ4 · parâm. publicados · fonte76,9Fora do ranking de texto do LMArena de 2026-10-22~23 GBQ4 · parâm. publicadosfonte
Qwen3.8 27BAlibaba · 27B · LMArena 1.437Q4 · parâm. publicados · fonte75,31.437 ± 5~23 GBQ4 · parâm. publicadosfonte
Qwen3.6 27BAlibaba · 27BQ4 · parâm. publicados · fonte64,0Fora do ranking de texto do LMArena de 2026-10-22~23 GBQ4 · parâm. publicadosfonte
Nemotron 3.5 Lightning 30B A3BNVIDIA · 30BQ4 · parâm. publicados · fonte44,5O Arena avaliou a versão NVFP4, NVIDIA-Nemotron-3.5-Lightning-30B-A3B (NVFP4); esta ficha é a referência BF16, que a NVIDIA reporta com notas diferentes~25 GBQ4 · parâm. publicadosfonte
Qwen3 14BAlibaba · 14,8BQ4 · parâm. publicados · fonteSem resultado publicado comparávelFora do ranking de texto do LMArena de 2026-10-22~14 GBQ4 · parâm. publicadosfonte
Qwen3.5 9BAlibaba · 9BQ4 · parâm. publicados · fonteSem resultado publicado comparávelFora do ranking de texto do LMArena de 2026-10-22~9 GBQ4 · parâm. publicadosfonte
Gemma 4 31BGoogle · 30,7B · LMArena 1.452Q4 · parâm. publicados · fonteSem resultado publicado comparável1.452 ± 7~26 GBQ4 · parâm. publicadosfonte
Qwen3 8BAlibaba · 8,2BQ4 · parâm. publicados · fonteSem resultado publicado comparávelFora do ranking de texto do LMArena de 2026-10-22~9 GBQ4 · parâm. publicadosfonte
8 de 769

Pontuações LMArena nesta tabela: LMArena 2026-10-22 · coletado 2026-10-25 · dataset · CC BY 4.0

No limite: roda, mas deixa menos de 3,2 GB livres além dos 2 GB que o sistema guarda (o valor de memória já inclui essa reserva).

Todos os modelos de texto revisados aqui 37

Todos os que rodam aqui, bem ou devagar, com ou sem nota; 20 de 37 têm resultado no LiveBench ou no LMArena. Primeiro os que rodam bem, depois os no limite, depois os lentos; em cada grupo, por downloads no Hub em 30 dias, lidos em 2026-11-19, não por qualidade.

Modelos de texto revisados que rodam em RTX 5090 · 32 GB de VRAM
Qwen3 14BAlibaba · 14,8BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~14 GB9,0Apache 2.013,2 mi
Qwen3.8 27BAlibaba · 27B75,31.437~23 GB16,5Apache 2.06,9 mi
Qwen3.5 9BAlibaba · 9BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~9 GB5,7Apache 2.06,5 mi
Gemma 4 31BGoogle · 30,7BFora do LiveBench 2026-06-251.452~26 GB18,3Apache 2.06,3 mi
Qwen3 8BAlibaba · 8,2BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~9 GB5,0Apache 2.06,1 mi
gpt-oss-20bOpenAI · 21BFora do LiveBench 2026-06-251.317~18 GB11,6Apache 2.05,6 mi
Gemma 4 26B A4BGoogle · 25,2BFora do LiveBench 2026-06-251.437~21 GB16,9Apache 2.05 mi
Gemma 4 E4BGoogle · 8BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~8 GB5,0Apache 2.04,4 mi
8 de 37
Também roda devagar57 modelos

Acima dos 32 GB de VRAM, as camadas que não cabem rodam na CPU a partir da RAM do PC, até 56 GB no total. 32 GB de RAM do PC presumidos: esta configuração não informa a RAM. Estimativa de planejamento, não velocidade.

6 de 57

Ver modelos de Texto

Ajustar a estimativa: quantização, contexto, reservacarrega o catálogo atual

Visão

Em até 32 GB: 1.028 rodam bem · 31 no limite · 10 revisados · mais 5 rodam devagar

Visão · LMArena

pontuação · maior é melhor

  • Cor = publicador

Fonte: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0 · Modelos sem pontuação ficam de fora; não recebem zero.

Primeiro os que rodam bem, depois os no limite; em cada grupo, modelos revisados e depois downloads no Hub em 30 dias, não qualidade. Ordene por uma coluna de nota para classificar só por essa fonte.
Modelos de Visão que rodam bem em até 32 GB
Gemma 4 31BGoogle · 30,7B · Imagem → texto · LMArena 1.262Q4 · parâm. publicados · fonte1.262 ± 6~26 GBQ4 · parâm. publicadosfonte
Qwen3.8 27BAlibaba · 27B · Imagem → texto · LMArena 1.242Q4 · parâm. publicados · fonte1.242 ± 8~23 GBQ4 · parâm. publicadosfonte
Gemma 4 26B A4BGoogle · 25,2B · Imagem → texto · LMArena 1.242Q4 · parâm. publicados · fonte1.242 ± 6~21 GBQ4 · parâm. publicadosfonte
gemma-3-27b-itgoogle · 27,43B · Imagem → texto · LMArena 1.160Q4 · contagem do Hugging Face · fonte1.160 ± 8~23 GBQ4 · contagem do Hugging Facefonte
Qwen2.5-VL-32B-InstructQwen · 33,45B · Imagem → texto · LMArena 1.119Q4 · contagem do Hugging Face · fonte1.119 ± 15~28 GBQ4 · contagem do Hugging Facefonte
Molmo2-8Ballenai · 8,66B · Imagem → texto · LMArena 1.112Q4 · contagem do Hugging Face · fonte1.112 ± 20~9 GBQ4 · contagem do Hugging Facefonte
Qwen2-VL-7B-InstructQwen · 8,29B · Imagem → texto · LMArena 1.031Q4 · contagem do Hugging Face · fonte1.031 ± 11~9 GBQ4 · contagem do Hugging Facefonte
Molmo-7B-D-0924allenai · 8,02B · Imagem → texto · LMArena 994Q4 · contagem do Hugging Face · fonte994 ± 14~9 GBQ4 · contagem do Hugging Facefonte
8 de 1.059

Pontuações LMArena nesta tabela: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0

No limite: roda, mas deixa menos de 3,2 GB livres além dos 2 GB que o sistema guarda (o valor de memória já inclui essa reserva).

Também roda devagar5 modelos

Acima dos 32 GB de VRAM, as camadas que não cabem rodam na CPU a partir da RAM do PC, até 56 GB no total. 32 GB de RAM do PC presumidos: esta configuração não informa a RAM. Estimativa de planejamento, não velocidade.

Outros 471 modelos de visão do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Visão

Imagem

151 em até 32 GB

Imagem · Aderência ao prompt · GenEval

0–1 · maior é melhor

Fonte: GenEval · 2023 · revisado 2026-10-05 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.

Modelos de Imagem em até 32 GB
Stable Diffusion XL 1.0Stability AI · 2,6B · Texto → imagemCaminho da plataforma documentado · stable-diffusion.cpp · fonte0,55Fora do ranking de texto para imagem do LMArena de 2026-10-07Caminho documentado sem valor de memóriaCaminho da plataforma documentadostable-diffusion.cpp · fonte
Stable Diffusion 1.5Stability AI · 0,98B · Texto → imagemCaminho da plataforma documentado · stable-diffusion.cpp · fonte0,43Fora do ranking de texto para imagem do LMArena de 2026-10-07Caminho documentado sem valor de memóriaCaminho da plataforma documentadostable-diffusion.cpp · fonte
BagelByteDance · 14B · Texto → imagem · LMArena 898Mínimo do publicador · CUDA · fonteSem resultado publicado comparável898 ± 6~32 GBMínimo do publicadorCUDA · fonte
Qwen-Image-NVFP4nvidia · 12,1B · Texto → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelNão revisado para o LMArena~32 GBest. 16 bits · parâm.fonte
Step1X-Edit-v1p1-diffusersstepfun-ai · 12,4B · Imagem → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelNão revisado para o LMArena~32 GBest. 16 bits · parâm.fonte
Step1X-Edit-v1p2stepfun-ai · 12,4B · Imagem → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelNão revisado para o LMArena~32 GBest. 16 bits · parâm.fonte
Step1X-Edit-v1p2-previewstepfun-ai · 12,4B · Imagem → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelNão revisado para o LMArena~32 GBest. 16 bits · parâm.fonte
FLUX.1 Krea [dev]Black Forest Labs · 12B · Texto → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelFora do ranking de texto para imagem do LMArena de 2026-10-07~31 GBest. 16 bits · parâm.fonte
8 de 151

Pontuações LMArena nesta tabela: LMArena 2026-10-07 · coletado 2026-10-25 · dataset · CC BY 4.0

Outros 231 modelos de imagem do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Imagem

Vídeo

65 em até 32 GB
Modelos de Vídeo em até 32 GB
LTX-2.5 FastLightricks · 22B · Texto → vídeoMínimo do publicador · CUDA · fonte~32 GBMínimo do publicadorCUDA · fonte
LTX-2.5 ProLightricks · 22B · Texto → vídeoMínimo do publicador · CUDA · fonte~32 GBMínimo do publicadorCUDA · fonte
Open-Sora-v2hpcai-tech · 11B · Texto → vídeoest. 16 bits · parâm. · fonte~29 GBest. 16 bits · parâm.fonte
Video-As-Prompt-CogVideoX-5BByteDance · 11,1B · Imagem → vídeoest. 16 bits · parâm. · fonte~29 GBest. 16 bits · parâm.fonte
mochi-1-previewgenmo · 10B · Texto → vídeoest. 16 bits · parâm. · fonte~26 GBest. 16 bits · parâm.fonte
Wan2.2-TI2V-5BWan-AI · 5B · Texto → vídeoCaminho condicional · CUDA · fonte~24 GBCaminho condicionalCUDA · fonte
Wan2.2-TI2V-5B-DiffusersWan-AI · 5B · Texto → vídeoCaminho condicional · CUDA · fonte~24 GBCaminho condicionalCUDA · fonte
ContentV-8BByteDance · 8,1B · Texto → vídeoest. 16 bits · parâm. · fonte~22 GBest. 16 bits · parâm.fonte
8 de 65

Como esta lista funciona Primeiro os caminhos de execução documentados neste hardware, depois os mínimos dos publicadores (CUDA ou Apple MPS).

Outros 124 modelos de vídeo do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Vídeo

Áudio

382 em até 32 GB

Áudio · Taxa de erro de palavras · Open ASR

% · menor é melhor

Fonte: Taxa de erro de palavras · Open ASR · revisado 2026-10-20 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.

Modelos de Áudio em até 32 GB
Whisper large-v3-turboOpenAI · 0,81B · Fala → textoCaminho da plataforma documentado · whisper.cpp / CUDA · fonte7,83Caminho documentado sem valor de memóriaCaminho da plataforma documentadowhisper.cpp / CUDA · fonte
Whisper large-v3OpenAI · 1,55B · Fala → textoCaminho da plataforma documentado · whisper.cpp / CUDA · fonte7,44Caminho documentado sem valor de memóriaCaminho da plataforma documentadowhisper.cpp / CUDA · fonte
acestep-captionerACE-Step · 10,7B · Efeitos e áudioest. 16 bits · parâm. · fonteSem resultado publicado comparável~28 GBest. 16 bits · parâm.fonte
acestep-transcriberACE-Step · 10,7B · Fala → textoest. 16 bits · parâm. · fonteSem resultado publicado comparável~28 GBest. 16 bits · parâm.fonte
MERaLiON-2-10BMERaLiON · 10,1B · Fala → textoest. 16 bits · parâm. · fonteSem resultado publicado comparável~27 GBest. 16 bits · parâm.fonte
MERaLiON-2-10B-ASRMERaLiON · 10,1B · Fala → textoest. 16 bits · parâm. · fonteSem resultado publicado comparável~27 GBest. 16 bits · parâm.fonte
Kimi-Audio-7Bmoonshotai · 9,8B · Texto → falaest. 16 bits · parâm. · fonteSem resultado publicado comparável~26 GBest. 16 bits · parâm.fonte
Kimi-Audio-7B-Instructmoonshotai · 9,8B · Texto → falaest. 16 bits · parâm. · fonteSem resultado publicado comparável~26 GBest. 16 bits · parâm.fonte
8 de 382

Outros 1.984 modelos de áudio do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Áudio

Embeddings

650 rodam bem em até 32 GB

Embeddings · MTEB (Multilingual, v2) · mean(task)

0–100 · maior é melhor

  • Cor = publicador

Fonte: Resultados MTEB (linhas curadas, fonte por modelo)

Modelos de Embeddings que rodam bem em até 32 GB
Qwen3-Embedding 8BAlibaba (Qwen)8 bits · parâm. publicados · fonte70,6~12 GB8 bits · parâm. publicadosfonte
Qwen3-Embedding 4BAlibaba (Qwen)8 bits · parâm. publicados · fonte69,5~7 GB8 bits · parâm. publicadosfonte
Harrier OSS v1 (0.6B)Microsoft8 bits · parâm. publicados · fonte69,0~3 GB8 bits · parâm. publicadosfonte
Qwen3-Embedding 0.6BAlibaba (Qwen)8 bits · parâm. publicados · fonte64,3~3 GB8 bits · parâm. publicadosfonte
Multilingual E5 Large Instructintfloat8 bits · parâm. publicados · fonte63,2~3 GB8 bits · parâm. publicadosfonte
EmbeddingGemma 2Google8 bits · parâm. publicados · fonte61,4~3 GB8 bits · parâm. publicadosfonte
EmbeddingGemma (300M)Google8 bits · parâm. publicados · fonte61,1~3 GB8 bits · parâm. publicadosfonte
BGE-M3BAAI8 bits · parâm. publicados · fonte59,6~3 GB8 bits · parâm. publicadosfonte
8 de 650

Ver modelos de Embeddings

Roda bem em até 32 GB de VRAM · estimativas de planejamento, não velocidade medida catálogo atual · 19.444 repositórios · consultado

Medições

Tokens por segundo publicados, exatamente como medidos; nunca estimados.

Medições publicadas neste hardware
gpt-oss 20B Q4_K_Munsloth/gpt-oss-20b-GGUF/gpt-oss-20b-Q4_K_M…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)393,3 ± 2,62Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
gpt-oss 20B Q8_0unsloth/gpt-oss-20b-GGUF/gpt-oss-20b-Q8_0.g…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)374,72 ± 2,73Q8_0
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Qwen3-Coder 30B-A3B Q4_K_Munsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF/Q…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)346,27 ± 3,49Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Llama 2 7B Q4_0TheBloke/Llama-2-7B-GGUF · llama-2-7b.Q4_0.…NVIDIA GeForce RTX 5090 · 32 GB GDDR7300,40 ± 0,28Q4_0
0 / 128 · Um processo llama-bench; co…
CUDA
llama.cpp commit 8cf6b42
Flash Attention ativado
llama.cpp CUDA scoreboard · resultado da comunidade
2026-09-26
gpt-oss-20b MXFP4gpt-oss-20b-mxfp4.gguf (ggml-org/gpt-oss-20…NVIDIA GeForce RTX 5090 · 32 GB282,51 ± 0,44MXFP4 (pesos nativos do gpt-oss)
0 / 128 · Um processo llama-bench; co…
llama.cpp CUDA
llama.cpp commit a094f38 (6210)
Flash Attention ativado
llama.cpp gpt-oss guide · resultado dos mantenedores
2026-10-20
Llama 2 7B Q4_0Llama 2 7B Q4_0 (modelo do placar; as instr…Nvidia RTX 5090 · 32 GB (tamanho de memória não informado pela fonte; este chip é vendido com um único tamanho de memória) · coopmat2273,68 ± 0,52Q4_0
0 / 128 · Um processo llama-bench; co…
Vulkan
llama.cpp commit ca71fb9
Flash Attention ativado
llama.cpp Vulkan scoreboard · resultado da comunidade
2026-10-25
Gemma 4 26B-A4B UD-Q4_K_Munsloth/gemma-4-26B-A4B-it-GGUF/gemma-4-26B…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)231,41 ± 1,95UD-Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Qwen3.5 9B Q4_K_Munsloth/Qwen3.5-9B-GGUF/Qwen3.5-9B-Q4_K_M.g…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)220,46 ± 1,18Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Gemma 4 26B-A4B Q8_0unsloth/gemma-4-26B-A4B-it-GGUF/gemma-4-26B…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)217,48 ± 1,82Q8_0
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Qwen3.5 9B Q8_0unsloth/Qwen3.5-9B-GGUF/Qwen3.5-9B-Q8_0.ggufNVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)156,01 ± 0,80Q8_0
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Gemma 4 12B Q4_K_Munsloth/gemma-4-12b-it-GGUF/gemma-4-12b-it-…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)152,43 ± 0,68Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Gemma 4 12B Q8_0unsloth/gemma-4-12b-it-GGUF/gemma-4-12b-it-…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)103,67 ± 0,38Q8_0
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Mistral Small 3.2 24B Q4_K_Munsloth/Mistral-Small-3.2-24B-Instruct-2506…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)101,14 ± 0,24Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Qwen3.6 27B Q4_K_Munsloth/Qwen3.6-27B-GGUF/Qwen3.6-27B-Q4_K_M…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)77,61 ± 0,38Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Gemma 4 31B Q4_K_Munsloth/gemma-4-31B-it-GGUF/gemma-4-31B-it-…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)71,3 ± 0,23Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Mistral Small 3.2 24B Q8_0unsloth/Mistral-Small-3.2-24B-Instruct-2506…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)63,85 ± 0,10Q8_0
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Qwen3.6 27B Q8_0unsloth/Qwen3.6-27B-GGUF/Qwen3.6-27B-Q8_0.g…NVIDIA GeForce RTX 5090 · 32 GB (único tamanho de memória da placa; máquina alugada)52,36 ± 0,22Q8_0
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25

Especificações

12 campos com fonte; a fonte aparece uma vez por grupo, e um campo de outra fonte tem o próprio link. Especificações oficiais · Memória consultada: 2026-09-30 · fonte do fabricante · JSON de fatos com fontes

VRAM da GPU32 GBDedicada · a RAM do sistema não soma · fonte
Banda de memória1.792 GB/sEspecificação do fabricante · não é velocidade · fonte
Preço de lançamento (MSRP)USD 1.999,00US · lançado em · fonte · não é oferta acompanhada
Onde comprarNVIDIA MarketplaceLink do fabricante · esta configuração · US · registrado em

Marcador: o modelo de texto com melhor nota LiveBench que roda bem aqui. Nenhum outro modelo de texto rodaria bem com o próximo tamanho de memória. Estimativa Q4 de planejamento, não compatibilidade medida.

Configuração selecionada

Última consulta · Fonte do fabricante

Capacidade de memória
32 GB
Tipo de memória
32 GB GDDR7
Chip / processador
Blackwell · RTX 5090
Banda de memória
1.792 GB/s
Núcleos CUDA
21.760
Potência da GPU (especificação de referência)
575 W
Interface de memória
512 bit
Capacidade computacional CUDA
12.0

Especificação da família

Última consulta · Fonte do fabricante

Conectores de vídeo (referência; fabricante pode variar)
3 × DisplayPort 2.1b · HDMI 2.1b
Data de lançamento
2025-01-30
Lançamento
2025
Comprimento da placa
304 mm

Uma GPU CUDA com 32 GB de VRAM dedicada. Um modelo abaixo de 32 GB na estimativa Q4 genérica é candidato de planejamento, não compatibilidade testada. Offload para CPU exige RAM e pode reduzir a velocidade.

Foto: Imagem oficial NVIDIA · design de referência; placas parceiras variam. · Fonte do fabricante

A banda de memória não mede a velocidade do modelo; confirme compatibilidade do runtime e do checkpoint. Especificação de hardware revisada: 2026-10-13.

Como funcionam as estimativas
Candidatos
Fichas revisadas usam parâmetros publicados; candidatos automáticos de texto usam contagens de tensores do repositório oficial (pesos quantizados empacotados e arquiteturas não suportadas ficam de fora).
Planejamento
Pesos Q4 + 20% de margem + reserva: 25% da memória unificada ou do sistema (no mínimo 2 GB, no máximo 8 GB; 2 GB aqui) ou 2 GB por GPU dedicada. Ajustável em “Ajustar a estimativa”. Não calculamos cache KV a partir do contexto.
Níveis de compatibilidade
Roda bem: a estimativa cabe na memória rápida (VRAM, ou memória unificada dentro da fatia de GPU do macOS). Roda devagar: dentro da memória da máquina, fora da parte rápida; a placa de vídeo descarrega camadas para a RAM do PC (a RAM informada, ou 32 GB presumidos). Não roda: acima das duas. Os níveis são estimativas de planejamento, nunca velocidade.
Visão
Modelos de visão e linguagem usam a estimativa Q4 de planejamento a partir da contagem de parâmetros (publicada na ficha do modelo ou lida no Hugging Face). Modelos de visão clássica (classificar, detectar, segmentar) usam estimativa de 16 bits. Não acompanhamos benchmark de visão, então as linhas não têm nota.
Mídia e embeddings
Mídia usa caminhos de execução documentados (hardware exato ou plataforma) e mínimos dos publicadores; um requisito publicado acima desta memória leva o modelo ao próximo degrau. Sem eles, uma estimativa de 16 bits a partir dos parâmetros publicados (× 1,2 + 2 GB), rotulada como tal. Embeddings usam pesos de 8 bits + 20% + 2 GB.

IA local: parâmetros, Q4 e memória · Catálogo completo de modelos · Dados e metodologia

Alternativas

Comparações lado a lado e outras máquinas na mesma escada de memória (VRAM); cada página lista os modelos que cabem nela.