Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

RTX 5080 · 16 GB de VRAM

NVIDIA · RTX 5080

125 modelos de texto rodam bem · banda de 960 GB/s

Modelos neste hardware

Comece por aqui

Texto

Em até 16 GB: 125 rodam bem · 21 revisados · mais 36 rodam devagar (11 deles rodam bem com 24 GB)

Texto · LMArena

pontuação · maior é melhor

  • Cor = publicador

Fonte: LMArena 2026-10-22 · coletado 2026-10-25 · dataset · CC BY 4.0 · Modelos sem pontuação ficam de fora; não recebem zero.

Primeiro os que rodam bem, depois os no limite; em cada grupo, modelos revisados e depois downloads no Hub em 30 dias, não qualidade. Ordene por uma coluna de nota para classificar só por essa fonte. Os 11 modelos de texto que rodariam bem com 24 GB, mas não aqui, já rodam aqui devagar.
Modelos de Texto que rodam bem em até 16 GB
Granite 4.2 3BIBM · 3B · LMArena 1.290Q4 · parâm. publicados · fonte1.290 ± 12~5 GBQ4 · parâm. publicadosfonte
Granite 4.2 8BIBM · 8B · LMArena 1.290Q4 · parâm. publicados · fonte1.290 ± 11~8 GBQ4 · parâm. publicadosfonte
Phi-4Microsoft · 14B · LMArena 1.256Q4 · parâm. publicados · fonte1.256 ± 5~13 GBQ4 · parâm. publicadosfonte
Llama 3.1 8B InstructMeta · 8B · LMArena 1.211Q4 · parâm. publicados · fonte1.211 ± 4~8 GBQ4 · parâm. publicadosfonte
Llama 3.2 3B InstructMeta · 3,21B · LMArena 1.167Q4 · parâm. publicados · fonte1.167 ± 8~5 GBQ4 · parâm. publicadosfonte
Llama 3.2 1B InstructMeta · 1,23B · LMArena 1.111Q4 · parâm. publicados · fonte1.111 ± 8~3 GBQ4 · parâm. publicadosfonte
Qwen3 14BAlibaba · 14,8BQ4 · parâm. publicados · fonteFora do ranking de texto do LMArena de 2026-10-22~14 GBQ4 · parâm. publicadosfonte
Qwen3 8BAlibaba · 8,2BQ4 · parâm. publicados · fonteFora do ranking de texto do LMArena de 2026-10-22~9 GBQ4 · parâm. publicadosfonte
8 de 125

Nenhum modelo em até 16 GB tem nota LiveBench, então a tabela não tem coluna LiveBench. Pontuações LMArena nesta tabela: LMArena 2026-10-22 · coletado 2026-10-25 · dataset · CC BY 4.0

Todos os modelos de texto revisados aqui 37

Todos os que rodam aqui, bem ou devagar, com ou sem nota (21 rodam bem, 16 devagar); 19 de 37 têm resultado no LiveBench ou no LMArena. Primeiro os que rodam bem, depois os no limite, depois os lentos; em cada grupo, por downloads no Hub em 30 dias, lidos em 2026-10-25, não por qualidade.

Modelos de texto revisados que rodam em RTX 5080 · 16 GB de VRAM
Qwen3 14BAlibaba · 14,8BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~14 GB9,0Apache 2.010,4 mi
Qwen3 8BAlibaba · 8,2BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~9 GB5,0Apache 2.08,1 mi
Qwen3.5 9BAlibaba · 9BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~9 GB5,7Apache 2.06,1 mi
Llama 3.1 8B InstructMeta · 8BFora do LiveBench 2026-06-251.211~8 GB4,9Llama 3.14,8 mi
Qwen3 1.7BAlibaba · 1,7BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~4 GB1,1Apache 2.04,1 mi
Gemma 4 E4BGoogle · 8BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~8 GB5,0Apache 2.04 mi
Llama 3.2 1B InstructMeta · 1,2BFora do LiveBench 2026-06-251.111~3 GB0,8Llama 3.23,5 mi
Gemma 4 E2BGoogle · 5,1BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~6 GB3,1Apache 2.03 mi
8 de 37
Também roda devagar20 modelos

Acima dos 16 GB de VRAM, as camadas que não cabem rodam na CPU a partir da RAM do PC, até 40 GB no total. 32 GB de RAM do PC presumidos: esta configuração não informa a RAM. Estimativa de planejamento, não velocidade. Os 16 modelos revisados que rodam devagar estão na tabela acima.

6 de 20

Ver modelos de Texto

Ajustar a estimativa: quantização, contexto, reservacarrega o catálogo atual

Visão

Em até 16 GB: 125 rodam bem · 4 revisados · mais 17 rodam devagar (8 deles rodam bem com 24 GB)

Visão · LMArena

pontuação · maior é melhor

  • Cor = publicador

Fonte: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0 · Modelos sem pontuação ficam de fora; não recebem zero.

Primeiro os que rodam bem, depois os no limite; em cada grupo, modelos revisados e depois downloads no Hub em 30 dias, não qualidade. Ordene por uma coluna de nota para classificar só por essa fonte. Os 8 modelos de visão que rodariam bem com 24 GB, mas não aqui, já rodam aqui devagar.
Modelos de Visão que rodam bem em até 16 GB
Molmo2-8Ballenai · 8,7B · Imagem → texto · LMArena 1.112Q4 · contagem do Hugging Face · fonte1.112 ± 20~9 GBQ4 · contagem do Hugging Facefonte
Qwen2-VL-7B-InstructQwen · 8,29B · Imagem → texto · LMArena 1.031Q4 · contagem do Hugging Face · fonte1.031 ± 11~9 GBQ4 · contagem do Hugging Facefonte
Molmo-7B-D-0924allenai · 8B · Imagem → texto · LMArena 994Q4 · contagem do Hugging Face · fonte994 ± 14~8 GBQ4 · contagem do Hugging Facefonte
Llama-3.2-11B-Vision-Instructmeta-llama · 10,7B · Imagem → texto · LMArena 993Q4 · contagem do Hugging Face · fonte993 ± 11~11 GBQ4 · contagem do Hugging Facefonte
MiniCPM-V-2_6openbmb · 8,1B · Imagem → texto · LMArena 962Q4 · contagem do Hugging Face · fonte962 ± 16~9 GBQ4 · contagem do Hugging Facefonte
Phi-3.5-vision-instructmicrosoft · 4,1B · Imagem → texto · LMArena 919Q4 · contagem do Hugging Face · fonte919 ± 16~6 GBQ4 · contagem do Hugging Facefonte
Gemma 4 12BGoogle · 11,95B · Imagem → textoQ4 · parâm. publicados · fonteFora do ranking de visão do LMArena de 2026-10-19~11 GBQ4 · parâm. publicadosfonte
Qwen3.5 9BAlibaba · 9B · Imagem → textoQ4 · parâm. publicados · fonteFora do ranking de visão do LMArena de 2026-10-19~9 GBQ4 · parâm. publicadosfonte
8 de 125

Pontuações LMArena nesta tabela: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0

Também roda devagar17 modelos

Acima dos 16 GB de VRAM, as camadas que não cabem rodam na CPU a partir da RAM do PC, até 40 GB no total. 32 GB de RAM do PC presumidos: esta configuração não informa a RAM. Estimativa de planejamento, não velocidade.

6 de 17

Outros 12 modelos de visão do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Visão

Imagem

30 em até 16 GB · mais 23 com 24 GB

Imagem · Aderência ao prompt · GenEval

0–1 · maior é melhor

Fonte: GenEval · 2023 · revisado 2026-10-05 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.

Modelos de Imagem em até 16 GB
Stable Diffusion XL 1.0Stability AI · 2,6B · Texto → imagemCaminho da plataforma documentado · stable-diffusion.cpp · fonte0,55Fora do ranking de texto para imagem do LMArena de 2026-10-07Caminho documentado sem valor de memóriaCaminho da plataforma documentadostable-diffusion.cpp · fonte
Stable Diffusion 1.5Stability AI · 0,98B · Texto → imagemCaminho da plataforma documentado · stable-diffusion.cpp · fonte0,43Fora do ranking de texto para imagem do LMArena de 2026-10-07Caminho documentado sem valor de memóriaCaminho da plataforma documentadostable-diffusion.cpp · fonte
TRELLIS-image-largemicrosoft · 1,2B · 3DMínimo do publicador · CUDA · fonteSem resultado publicado comparávelNão revisado para o LMArena~16 GBMínimo do publicadorCUDA · fonte
FLUX.2 [klein] 4BBlack Forest Labs · 4B · Texto → imagem · LMArena 1.030Mínimo do publicador · CUDA · fonteSem resultado publicado comparável1.030 ± 3~13 GBMínimo do publicadorCUDA · fonte
FLUX.2 [klein] Base 4BBlack Forest Labs · 4B · Texto → imagemMínimo do publicador · CUDA · fonteSem resultado publicado comparávelO Arena avaliou flux-2-klein-4b; esta ficha é o checkpoint Base, não destilado~13 GBMínimo do publicadorCUDA · fonte
BagelByteDance · 14B · Texto → imagem · LMArena 898Caminho condicional · CUDA · fonteSem resultado publicado comparável898 ± 6~12 GBCaminho condicionalCUDA · fonte
Stable Diffusion 3.5 LargeStability AI · 8B · Texto → imagem · LMArena 938Caminho condicional · CUDA · fonteSem resultado publicado comparável938 ± 5~11 GBCaminho condicionalCUDA · fonte
Stable Diffusion 3.5 MediumStability AI · 2,47B · Texto → imagemCaminho condicional · fonteSem resultado publicado comparávelFora do ranking de texto para imagem do LMArena de 2026-10-07~10 GBCaminho condicionalfonte
8 de 30

Pontuações LMArena nesta tabela: LMArena 2026-10-07 · coletado 2026-10-25 · dataset · CC BY 4.0

Com 24 GB você roda também… 23

O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.

6 de 23

Outros 17 modelos de imagem do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Imagem

Vídeo

27 em até 16 GB · mais 3 com 24 GB
Modelos de Vídeo em até 16 GB
CogVideoX-5b-I2Vzai-org · 5,6B · Imagem → vídeoest. 16 bits · parâm. · fonte~16 GBest. 16 bits · parâm.fonte
CogVideoX1.5-5Bzai-org · 5,6B · Texto → vídeoest. 16 bits · parâm. · fonte~16 GBest. 16 bits · parâm.fonte
CogVideoX1.5-5B-I2Vzai-org · 5,6B · Imagem → vídeoest. 16 bits · parâm. · fonte~16 GBest. 16 bits · parâm.fonte
SANA-Video_2.0_5B_720pEfficient-Large-Model · 4,5B · Texto → vídeoest. 16 bits · parâm. · fonte~13 GBest. 16 bits · parâm.fonte
Kandinsky-6.0-Lite-distill-5s-Diffuserskandinskylab · 3,2B · Imagem → vídeoest. 16 bits · parâm. · fonte~10 GBest. 16 bits · parâm.fonte
Allegrorhymes-ai · 2,8B · Texto → vídeoest. 16 bits · parâm. · fonte~9 GBest. 16 bits · parâm.fonte
Wan2.1 T2V 1.3BWan-AI · 1,3B · Texto → vídeoCaminho da plataforma documentado · Wan2.1 / PyTorch · fonte~8 GBCaminho da plataforma documentadoWan2.1 / PyTorch · fonte
Wan2.1-T2V-1.3B-DiffusersWan-AI · 1,4B · Texto → vídeoCaminho condicional · CUDA · fonte~8 GBCaminho condicionalCUDA · fonte
8 de 27

Como esta lista funciona Primeiro os caminhos de execução documentados neste hardware, depois os mínimos dos publicadores (CUDA ou Apple MPS).

Com 24 GB você roda também… 3

O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.

Outros 20 modelos de vídeo do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Vídeo

Áudio

116 em até 16 GB · mais 12 com 24 GB

Áudio · Taxa de erro de palavras · Open ASR

% · menor é melhor

Fonte: Taxa de erro de palavras · Open ASR · revisado 2026-10-20 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.

Modelos de Áudio em até 16 GB
Whisper large-v3-turboOpenAI · 0,81B · Fala → textoCaminho da plataforma documentado · whisper.cpp / CUDA · fonte7,83Caminho documentado sem valor de memóriaCaminho da plataforma documentadowhisper.cpp / CUDA · fonte
Whisper large-v3OpenAI · 1,55B · Fala → textoCaminho da plataforma documentado · whisper.cpp / CUDA · fonte7,44Caminho documentado sem valor de memóriaCaminho da plataforma documentadowhisper.cpp / CUDA · fonte
GaussianMindBAAI · 5,6B · Fala → textoest. 16 bits · parâm. · fonteSem resultado publicado comparável~16 GBest. 16 bits · parâm.fonte
Higgs Audio V3 TTSBoson AI · 4B · Texto → falaMínimo do publicador · CUDA · fonteSem resultado publicado comparável~16 GBMínimo do publicadorCUDA · fonte
higgs-tts-2-3b-basebosonai · 5,8B · Texto → falaest. 16 bits · parâm. · fonteSem resultado publicado comparável~16 GBest. 16 bits · parâm.fonte
Maya1Maya Research · 3B · Texto → falaMínimo do publicador · CUDA · fonteSem resultado publicado comparável~16 GBMínimo do publicadorCUDA · fonte
MusicGen SmallMeta FAIR · 0,3B · MúsicaCaminho da plataforma documentado · AudioCraft / PyTorch · fonteSem resultado publicado comparável~16 GBCaminho da plataforma documentadoAudioCraft / PyTorch · fonte
Phi-4-multimodal-instructmicrosoft · 5,6B · Fala → textoest. 16 bits · parâm. · fonteSem resultado publicado comparável~16 GBest. 16 bits · parâm.fonte
8 de 116

Com 24 GB você roda também… 12

O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.

6 de 12

Outros 33 modelos de áudio do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Áudio

Embeddings

89 rodam bem em até 16 GB · mais 1 com 24 GB

Embeddings · MTEB (Multilingual, v2) · mean(task)

0–100 · maior é melhor

  • Cor = publicador

Fonte: Resultados MTEB (linhas curadas, fonte por modelo)

Modelos de Embeddings que rodam bem em até 16 GB
Qwen3-Embedding 8BAlibaba (Qwen)8 bits · parâm. publicados · fonte70,6~12 GB8 bits · parâm. publicadosfonte
Qwen3-Embedding 4BAlibaba (Qwen)8 bits · parâm. publicados · fonte69,5~7 GB8 bits · parâm. publicadosfonte
Harrier OSS v1 (0.6B)Microsoft8 bits · parâm. publicados · fonte69,0~3 GB8 bits · parâm. publicadosfonte
Qwen3-Embedding 0.6BAlibaba (Qwen)8 bits · parâm. publicados · fonte64,3~3 GB8 bits · parâm. publicadosfonte
Multilingual E5 Large Instructintfloat8 bits · parâm. publicados · fonte63,2~3 GB8 bits · parâm. publicadosfonte
EmbeddingGemma 2Google8 bits · parâm. publicados · fonte61,4~3 GB8 bits · parâm. publicadosfonte
EmbeddingGemma (300M)Google8 bits · parâm. publicados · fonte61,1~3 GB8 bits · parâm. publicadosfonte
BGE-M3BAAI8 bits · parâm. publicados · fonte59,6~3 GB8 bits · parâm. publicadosfonte
8 de 89

Com 24 GB você roda também… 1

O próximo tamanho de memória desta linha roda estes bem. Os valores são o requisito neste tipo de hardware.

Ver modelos de Embeddings

Roda bem em até 16 GB de VRAM · estimativas de planejamento, não velocidade medida cópia incluída do catálogo · 1.777 repositórios · consultado

Medições

Tokens por segundo publicados, exatamente como medidos; nunca estimados.

Medições publicadas neste hardware
gpt-oss 20B Q4_K_Munsloth/gpt-oss-20b-GGUF/gpt-oss-20b-Q4_K_M…NVIDIA GeForce RTX 5080 · 16 GB (único tamanho de memória da placa; máquina alugada)253,49 ± 1,35Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
gpt-oss 20B Q8_0unsloth/gpt-oss-20b-GGUF/gpt-oss-20b-Q8_0.g…NVIDIA GeForce RTX 5080 · 16 GB (único tamanho de memória da placa; máquina alugada)238,83 ± 1,12Q8_0
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
gpt-oss-20b MXFP4gpt-oss-20b-mxfp4.gguf (ggml-org/gpt-oss-20…NVIDIA GeForce RTX 5080 · 16 GB204,85 ± 0,23MXFP4 (pesos nativos do gpt-oss)
0 / 128 · Um processo llama-bench; co…
llama.cpp CUDA
llama.cpp commit a094f38 (6210)
Flash Attention ativado
llama.cpp gpt-oss guide · resultado dos mantenedores
2026-10-20
Llama 2 7B Q4_0Llama 2 7B Q4_0 (modelo do placar; as instr…Nvidia RTX 5080 · 16 GB (tamanho de memória não informado pela fonte; este chip é vendido com um único tamanho de memória) · coopmat2192,17 ± 0,21Q4_0
0 / 128 · Um processo llama-bench; co…
Vulkan
llama.cpp commit f6b533d89
Flash Attention ativado
llama.cpp Vulkan scoreboard · resultado da comunidade
2026-10-25
Llama 2 7B Q4_0TheBloke/Llama-2-7B-GGUF · llama-2-7b.Q4_0.…NVIDIA GeForce RTX 5080 · 16 GB GDDR7184,68 ± 0,05Q4_0
0 / 128 · Um processo llama-bench; co…
CUDA
llama.cpp commit 8a4280c
Flash Attention ativado
llama.cpp CUDA scoreboard · resultado da comunidade
2026-09-26
Qwen3.5 9B Q4_K_Munsloth/Qwen3.5-9B-GGUF/Qwen3.5-9B-Q4_K_M.g…NVIDIA GeForce RTX 5080 · 16 GB (único tamanho de memória da placa; máquina alugada)136,14 ± 0,58Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Gemma 4 12B Q4_K_Munsloth/gemma-4-12b-it-GGUF/gemma-4-12b-it-…NVIDIA GeForce RTX 5080 · 16 GB (único tamanho de memória da placa; máquina alugada)94,8 ± 0,31Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Qwen3.5 9B Q8_0unsloth/Qwen3.5-9B-GGUF/Qwen3.5-9B-Q8_0.ggufNVIDIA GeForce RTX 5080 · 16 GB (único tamanho de memória da placa; máquina alugada)92,26 ± 0,25Q8_0
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Gemma 4 12B Q8_0unsloth/gemma-4-12b-it-GGUF/gemma-4-12b-it-…NVIDIA GeForce RTX 5080 · 16 GB (único tamanho de memória da placa; máquina alugada)61,81 ± 0,13Q8_0
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25
Mistral Small 3.2 24B Q4_K_Munsloth/Mistral-Small-3.2-24B-Instruct-2506…NVIDIA GeForce RTX 5080 · 16 GB (único tamanho de memória da placa; máquina alugada)58,64 ± 0,05Q4_K_M
0 / 128 · Um processo llama-bench
llama.cpp CUDA
llama.cpp commit 3e4dfa8f3 (b11658)
Flash Attention ativado
Dados: Local LLM Advisor (localllmadvisor.com) · CC BY 4.0
2026-10-25

Especificações

12 campos com fonte; a fonte aparece uma vez por grupo, e um campo de outra fonte tem o próprio link. Especificações oficiais

VRAM da GPU16 GBDedicada · a RAM do sistema não soma · fonte
Banda de memória960 GB/sEspecificação do fabricante · não é velocidade · fonte
Preço de lançamento (MSRP)USD 999,00US · lançado em · fonte · não é oferta acompanhada
Onde comprarNVIDIA MarketplaceLink do fabricante · esta configuração · US · registrado em

Marcador: o modelo de texto mais leve que não roda bem aqui, mas roda bem com 24 GB. Nenhum modelo de texto que roda bem aqui tem nota LiveBench. Estimativa Q4 de planejamento, não compatibilidade medida.

Configuração selecionada

Consultado · Fonte do fabricante

Capacidade de memória
16 GB
Tipo de memória
16 GB GDDR7 · 256-bit
Chip / processador
Blackwell · RTX 5080
Banda de memória
960 GB/s

Especificação da família

Última consulta · Fonte do fabricante

Núcleos CUDA
10.752
Potência da GPU (especificação do fabricante; OEM pode variar)
360 W
Interface de memória
256 bit
Capacidade computacional CUDA
12.0
Conectores de vídeo (referência; fabricante pode variar)
3 × DisplayPort 2.1b · HDMI 2.1b
Data de lançamento
2025-01-30
Lançamento
2025
Comprimento da placa
304 mm

A RTX 5080 tem 16 GB de GDDR7 com banda publicada de 960 GB/s. Compartilha a capacidade de VRAM com placas menores, mas usa outro chip; medições de velocidade precisam identificar esta placa exata.

Foto: Imagem oficial NVIDIA · design de referência; placas parceiras variam. · Fonte do fabricante

A banda de memória não mede a velocidade do modelo; confirme compatibilidade do runtime e do checkpoint. Especificação de hardware revisada: 2026-10-13.

Como funcionam as estimativas
Candidatos
Fichas revisadas usam parâmetros publicados; candidatos automáticos de texto usam contagens de tensores do repositório oficial (pesos quantizados empacotados e arquiteturas não suportadas ficam de fora).
Planejamento
Pesos Q4 + 20% de margem + reserva: 25% da memória unificada ou do sistema (no mínimo 2 GB, no máximo 8 GB; 2 GB aqui) ou 2 GB por GPU dedicada. Ajustável em “Ajustar a estimativa”. Não calculamos cache KV a partir do contexto.
Níveis de compatibilidade
Roda bem: a estimativa cabe na memória rápida (VRAM, ou memória unificada dentro da fatia de GPU do macOS). Roda devagar: dentro da memória da máquina, fora da parte rápida; a placa de vídeo descarrega camadas para a RAM do PC (a RAM informada, ou 32 GB presumidos). Não roda: acima das duas. Os níveis são estimativas de planejamento, nunca velocidade.
Visão
Modelos de visão e linguagem usam a estimativa Q4 de planejamento a partir da contagem de parâmetros (publicada na ficha do modelo ou lida no Hugging Face). Modelos de visão clássica (classificar, detectar, segmentar) usam estimativa de 16 bits. Não acompanhamos benchmark de visão, então as linhas não têm nota.
Mídia e embeddings
Mídia usa caminhos de execução documentados (hardware exato ou plataforma) e mínimos dos publicadores; um requisito publicado acima desta memória leva o modelo ao próximo degrau. Sem eles, uma estimativa de 16 bits a partir dos parâmetros publicados (× 1,2 + 2 GB), rotulada como tal. Embeddings usam pesos de 8 bits + 20% + 2 GB.

IA local: parâmetros, Q4 e memória · Catálogo completo de modelos · Dados e metodologia

Alternativas

Outras máquinas na mesma escada de memória (VRAM); cada página lista os modelos que cabem nela.