Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Ascent GX10 · NVIDIA GB10 · 128 GB unificados

ASUS · Ascent GX10

Estações e servidores128 GB memória unificada

193 modelos de texto rodam bem · banda de 273 GB/s

Modelos neste hardware

Comece por aqui

Texto

Em até 128 GB: 193 rodam bem · 1 no limite · 39 revisados · mais 6 com 256 GB

Texto · LiveBench · geral

0–100 · maior é melhor

  • Cor = publicador

Fonte: LiveBench 2026-06-25 · coletado 2026-09-26 · Modelos abertos sem nota não aparecem (sem nota ≠ 0).

Primeiro os que rodam bem, depois os no limite; em cada grupo, modelos revisados e depois downloads no Hub em 30 dias, não qualidade. Ordene por uma coluna de nota para classificar só por essa fonte. Nenhum modelo roda só em parte nesta máquina: ou cabe na memória compartilhada, ou não cabe.
Modelos de Texto que rodam bem em até 128 GB
Smaug MiniAbacus AI · 27BQ4 · parâm. publicados · fonte76,9Fora do ranking de texto do LMArena de 2026-10-22~29 GBQ4 · parâm. publicadosfonte
Qwen3.8 27BAlibaba · 27B · LMArena 1.437Q4 · parâm. publicados · fonte75,31.437 ± 5~29 GBQ4 · parâm. publicadosfonte
Qwen3.6 27BAlibaba · 27BQ4 · parâm. publicados · fonte64,0Fora do ranking de texto do LMArena de 2026-10-22~29 GBQ4 · parâm. publicadosfonte
Qwen3 14BAlibaba · 14,8BQ4 · parâm. publicados · fonteSem resultado publicado comparávelFora do ranking de texto do LMArena de 2026-10-22~20 GBQ4 · parâm. publicadosfonte
Gemma 4 31BGoogle · 30,7B · LMArena 1.452Q4 · parâm. publicados · fonteSem resultado publicado comparável1.452 ± 7~32 GBQ4 · parâm. publicadosfonte
Gemma 4 26B A4BGoogle · 25,2B · LMArena 1.437Q4 · parâm. publicados · fonteSem resultado publicado comparável1.437 ± 7~27 GBQ4 · parâm. publicadosfonte
Qwen3 8BAlibaba · 8,2BQ4 · parâm. publicados · fonteSem resultado publicado comparávelFora do ranking de texto do LMArena de 2026-10-22~15 GBQ4 · parâm. publicadosfonte
Qwen3.5 9BAlibaba · 9BQ4 · parâm. publicados · fonteSem resultado publicado comparávelFora do ranking de texto do LMArena de 2026-10-22~15 GBQ4 · parâm. publicadosfonte
8 de 194

Pontuações LMArena nesta tabela: LMArena 2026-10-22 · coletado 2026-10-25 · dataset · CC BY 4.0

No limite: roda, mas deixa menos de 12,8 GB livres além dos 8 GB que o sistema guarda (o valor de memória já inclui essa reserva).

Todos os modelos de texto revisados aqui 39

Todos os que rodam aqui, bem ou devagar, com ou sem nota; 19 de 39 têm resultado no LiveBench ou no LMArena. Primeiro os que rodam bem, depois os no limite, depois os lentos; em cada grupo, por downloads no Hub em 30 dias, lidos em 2026-10-25, não por qualidade.

Modelos de texto revisados que rodam em Ascent GX10 · NVIDIA GB10 · 128 GB unificados
Qwen3 14BAlibaba · 14,8BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~20 GB9,0Apache 2.010,4 mi
Gemma 4 31BGoogle · 30,7BFora do LiveBench 2026-06-251.452~32 GB18,3Apache 2.08,4 mi
Gemma 4 26B A4BGoogle · 25,2BFora do LiveBench 2026-06-251.437~27 GB16,9Apache 2.08,2 mi
Qwen3 8BAlibaba · 8,2BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~15 GB5,0Apache 2.08,1 mi
Qwen3.8 27BAlibaba · 27B75,31.437~29 GB16,5Apache 2.07,8 mi
Qwen3.5 9BAlibaba · 9BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~15 GB5,7Apache 2.06,1 mi
gpt-oss-20bOpenAI · 21BFora do LiveBench 2026-06-251.317~24 GB11,6Apache 2.05,8 mi
Llama 3.1 8B InstructMeta · 8BFora do LiveBench 2026-06-251.211~14 GB4,9Llama 3.14,8 mi
8 de 39

Com 256 GB você roda também… 6

O próximo tamanho de memória desta linha roda estes bem. Os valores são o requisito neste tipo de hardware.

Ver modelos de Texto

Ajustar a estimativa: quantização, contexto, reservacarrega o catálogo atual

Visão

Em até 128 GB: 150 rodam bem · 10 revisados · mais 4 com 256 GB

Visão · LMArena

pontuação · maior é melhor

  • Cor = publicador

Fonte: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0 · Modelos sem pontuação ficam de fora; não recebem zero.

Primeiro os que rodam bem, depois os no limite; em cada grupo, modelos revisados e depois downloads no Hub em 30 dias, não qualidade. Ordene por uma coluna de nota para classificar só por essa fonte. Nenhum modelo roda só em parte nesta máquina: ou cabe na memória compartilhada, ou não cabe.
Modelos de Visão que rodam bem em até 128 GB
Gemma 4 31BGoogle · 30,7B · Imagem → texto · LMArena 1.262Q4 · parâm. publicados · fonte1.262 ± 6~32 GBQ4 · parâm. publicadosfonte
Qwen3.8 27BAlibaba · 27B · Imagem → texto · LMArena 1.242Q4 · parâm. publicados · fonte1.242 ± 8~29 GBQ4 · parâm. publicadosfonte
Gemma 4 26B A4BGoogle · 25,2B · Imagem → texto · LMArena 1.242Q4 · parâm. publicados · fonte1.242 ± 6~27 GBQ4 · parâm. publicadosfonte
gemma-3-27b-itgoogle · 27,43B · Imagem → texto · LMArena 1.160Q4 · contagem do Hugging Face · fonte1.160 ± 8~29 GBQ4 · contagem do Hugging Facefonte
GLM-4.5Vzai-org · 107,71B · Imagem → texto · LMArena 1.153Q4 · contagem do Hugging Face · fonte1.153 ± 12~89 GBQ4 · contagem do Hugging Facefonte
Llama-4-Scout-17B-16E-Instructmeta-llama · 108,6B · Imagem → texto · LMArena 1.128Q4 · contagem do Hugging Face · fonte1.128 ± 10~90 GBQ4 · contagem do Hugging Facefonte
Qwen2.5-VL-32B-InstructQwen · 33,45B · Imagem → texto · LMArena 1.119Q4 · contagem do Hugging Face · fonte1.119 ± 15~34 GBQ4 · contagem do Hugging Facefonte
Molmo2-8Ballenai · 8,7B · Imagem → texto · LMArena 1.112Q4 · contagem do Hugging Face · fonte1.112 ± 20~15 GBQ4 · contagem do Hugging Facefonte
8 de 150

Pontuações LMArena nesta tabela: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0

Com 256 GB você roda também… 4

O próximo tamanho de memória desta linha roda estes bem. Os valores são o requisito neste tipo de hardware.

Outros 12 modelos de visão do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Visão

Imagem

77 em até 128 GB · mais 1 com 256 GB

Imagem · Aderência ao prompt · GenEval

0–1 · maior é melhor

Fonte: GenEval · 2023 · revisado 2026-10-05 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.

Modelos de Imagem em até 128 GB
Stable Diffusion XL 1.0Stability AI · 2,6B · Texto → imagemest. 16 bits · parâm. · fonte0,55Fora do ranking de texto para imagem do LMArena de 2026-10-07~9 GBest. 16 bits · parâm.fonte
Stable Diffusion 1.5Stability AI · 0,98B · Texto → imagemest. 16 bits · soma das partes · fonte0,43Fora do ranking de texto para imagem do LMArena de 2026-10-07~5 GBest. 16 bits · soma das partesfonte
Emu3.5-ImageBAAI · 34,1B · Texto + imagem → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelNão revisado para o LMArena~84 GBest. 16 bits · parâm.fonte
Ming-Image-0.1-DesigninclusionAI · 6,2B · Texto → imagemCaminho condicional · CUDA · fonteSem resultado publicado comparávelNão revisado para o LMArena~80 GBCaminho condicionalCUDA · fonte
Qwen-Image-EditQwen · 20,4B · Imagem → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelNão revisado para o LMArena~51 GBest. 16 bits · parâm.fonte
Qwen-Image-Edit-2509Qwen · 20,4B · Imagem → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelNão revisado para o LMArena~51 GBest. 16 bits · parâm.fonte
Qwen-Image-Edit-2511Qwen · 20,4B · Imagem → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelNão revisado para o LMArena~51 GBest. 16 bits · parâm.fonte
Qwen-Image-LayeredQwen · 20,4B · Texto + imagem → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelNão revisado para o LMArena~51 GBest. 16 bits · parâm.fonte
8 de 77

Pontuações LMArena nesta tabela: LMArena 2026-10-07 · coletado 2026-10-25 · dataset · CC BY 4.0

Com 256 GB você roda também… 1

O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.

Outros 17 modelos de imagem do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Imagem

Vídeo

73 em até 128 GB · mais 2 com 256 GB
Modelos de Vídeo em até 128 GB
MiniMax H3MiniMax · 33B · Texto → vídeoest. 16 bits · parâm. · fonte~82 GBest. 16 bits · parâm.fonte
Cosmos-H-Surgicalnvidia · 15,2B · Imagem → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
Wan-Dancer-14BWan-AI · Imagem → vídeoMínimo do publicador · fonte~80 GBMínimo do publicadorfonte
Wan2.2 T2V-A14BWan-AI · 27B · Texto → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
Wan2.2-I2V-A14BWan-AI · 27B · Imagem → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
Wan2.2-I2V-A14B-DiffusersWan-AI · 14,3B · Imagem → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
Wan2.2-S2V-14BWan-AI · 16,3B · Imagem → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
Wan2.2-T2V-A14B-DiffusersWan-AI · 14,3B · Texto → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
8 de 73

Como esta lista funciona Primeiro os caminhos de execução documentados neste hardware, depois os mínimos dos publicadores (CUDA ou Apple MPS).

Com 256 GB você roda também… 2

O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.

Outros 20 modelos de vídeo do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Vídeo

Áudio

134 em até 128 GB

Áudio · Taxa de erro de palavras · Open ASR

% · menor é melhor

Fonte: Taxa de erro de palavras · Open ASR · revisado 2026-10-20 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.

Modelos de Áudio em até 128 GB
Whisper large-v3-turboOpenAI · 0,81B · Fala → textoCaminho condicional · CUDA · fonte7,83~6 GBCaminho condicionalCUDA · fonte
Whisper large-v3OpenAI · 1,55B · Fala → textoCaminho condicional · CUDA · fonte7,44~10 GBCaminho condicionalCUDA · fonte
Step-Audio-R1.1stepfun-ai · 33,5B · Fala → textoest. 16 bits · parâm. · fonteSem resultado publicado comparável~83 GBest. 16 bits · parâm.fonte
Voxtral-Small-24B-2507mistralai · 24,3B · Fala → textoest. 16 bits · parâm. · fonteSem resultado publicado comparável~61 GBest. 16 bits · parâm.fonte
Kimi-Audio-7Bmoonshotai · 9,8B · Texto → falaest. 16 bits · parâm. · fonteSem resultado publicado comparável~26 GBest. 16 bits · parâm.fonte
Kimi-Audio-7B-Instructmoonshotai · 9,8B · Texto → falaest. 16 bits · parâm. · fonteSem resultado publicado comparável~26 GBest. 16 bits · parâm.fonte
AuKtencent · 1,5B · Texto → falaCaminho condicional · CUDA · fonteSem resultado publicado comparável~25 GBCaminho condicionalCUDA · fonte
AuK-Flashtencent · Texto → falaCaminho condicional · CUDA · fonteSem resultado publicado comparável~25 GBCaminho condicionalCUDA · fonte
8 de 134

Outros 33 modelos de áudio do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Áudio

Embeddings

91 rodam bem em até 128 GB

Embeddings · MTEB (Multilingual, v2) · mean(task)

0–100 · maior é melhor

  • Cor = publicador

Fonte: Resultados MTEB (linhas curadas, fonte por modelo)

Modelos de Embeddings que rodam bem em até 128 GB
Qwen3-Embedding 8BAlibaba (Qwen)8 bits · parâm. publicados · fonte70,6~12 GB8 bits · parâm. publicadosfonte
Qwen3-Embedding 4BAlibaba (Qwen)8 bits · parâm. publicados · fonte69,5~7 GB8 bits · parâm. publicadosfonte
Harrier OSS v1 (0.6B)Microsoft8 bits · parâm. publicados · fonte69,0~3 GB8 bits · parâm. publicadosfonte
Qwen3-Embedding 0.6BAlibaba (Qwen)8 bits · parâm. publicados · fonte64,3~3 GB8 bits · parâm. publicadosfonte
Multilingual E5 Large Instructintfloat8 bits · parâm. publicados · fonte63,2~3 GB8 bits · parâm. publicadosfonte
EmbeddingGemma 2Google8 bits · parâm. publicados · fonte61,4~3 GB8 bits · parâm. publicadosfonte
EmbeddingGemma (300M)Google8 bits · parâm. publicados · fonte61,1~3 GB8 bits · parâm. publicadosfonte
BGE-M3BAAI8 bits · parâm. publicados · fonte59,6~3 GB8 bits · parâm. publicadosfonte
8 de 91

Ver modelos de Embeddings

Roda bem em até 128 GB de memória unificada · estimativas de planejamento, não velocidade medida cópia incluída do catálogo · 1.777 repositórios · consultado

Medições

Tokens por segundo publicados, exatamente como medidos; nunca estimados.

Medições publicadas neste hardware
gpt-oss 20B MXFP4 MoEggml-org/gpt-oss-20b-GGUFMesmo chip · medido em DGX Spark · 1× NVIDIA GB1083,43 ± 0,59MXFP4 MoE
0 / 32 · Não informado pelo llama-be…
CUDA
llama.cpp 11fb327bf (7941); CUDA
Flash Attention ativado
llama.cpp bench
2026-09-25
gemma-3-4b-it-qat Q4_0ggml-org/gemma-3-4b-it-qat-GGUF · modelo do…Mesmo chip · medido em DGX Spark · 1× NVIDIA GB1081,05 ± 0,20Q4_0
0 / 32 · Um processo llama-bench; co…
llama.cpp CUDA
llama.cpp commit 11fb327bf
Flash Attention ativado
llama.cpp benches/dgx-spark · resultado dos mantenedores
2026-10-25
Qwen3.5 35B A3B MXFP4Qwen3.5-35B-A3B MXFP4 GGUF (a fonte não cit…Mesmo chip · medido em DGX Spark · 1× NVIDIA GB10 · 128 GB unificada63,13MXFP4 (MoE; 35B no total / 3B ativos)
0 / 128 · Um processo llama-bench; co…
llama.cpp CUDA (SM121a, source build)
llama.cpp b8922 (commit 13d36cf89); cma…
Flash Attention ativado
nabe2030/dense-27b-31b-dgx-spark (GitHub) · benchmark da comunidade
2026-10-09
Qwen3 Coder 30B A3B Q8_0ggml-org/Qwen3-Coder-30B-A3B-Instruct-Q8_0-…Mesmo chip · medido em DGX Spark · 1× NVIDIA GB1061,06 ± 0,23Q8_0
0 / 32 · Não informado pelo llama-be…
CUDA
llama.cpp 11fb327bf (7941); CUDA
Flash Attention ativado
llama.cpp bench
2026-09-25
Llama 2 7B Q4_0Llama 2 7B Q4_0 (modelo do placar; as instr…Nvidia GB10 · 128 GB (tamanho de memória não informado pela fonte; este chip é vendido com um único tamanho de memória) · coopmat260,39 ± 0,05Q4_0
0 / 128 · Um processo llama-bench; co…
Vulkan
llama.cpp commit 657e011
Flash Attention ativado
llama.cpp Vulkan scoreboard · resultado da comunidade
2026-10-25
gpt-oss-120b MXFP4 MoEggml-org/gpt-oss-120b-GGUF · modelo do llam…Mesmo chip · medido em DGX Spark · 1× NVIDIA GB1058,72 ± 0,20MXFP4 MoE
0 / 32 · Um processo llama-bench; co…
llama.cpp CUDA
llama.cpp commit 11fb327bf
Flash Attention ativado
llama.cpp benches/dgx-spark · resultado dos mantenedores
2026-10-25
Nemotron-3-Nano-4B Q8_0ggml-org/Nemotron-3-Nano-4B-GGUF · modelo d…Mesmo chip · medido em DGX Spark · 1× NVIDIA GB1052,85 ± 0,12Q8_0
0 / 32 · Um processo llama-bench; co…
llama.cpp CUDA
llama.cpp commit 1bbec6a75
Flash Attention ativado
llama.cpp benches/nemotron · resultado dos mantenedores
2026-10-25
GLM-4.7-Flash Q8_0ggml-org/GLM-4.7-Flash-GGUF · modelo do lla…Mesmo chip · medido em DGX Spark · 1× NVIDIA GB1048,68 ± 0,12Q8_0
0 / 32 · Um processo llama-bench; co…
llama.cpp CUDA
llama.cpp commit 11fb327bf
Flash Attention ativado
llama.cpp benches/dgx-spark · resultado dos mantenedores
2026-10-25
Qwen3.8 27B NVFP4 + DSparkRadixArk/Qwen3.8-27B-NVFP4Mesmo chip · medido em DGX Spark · 1× GB1036,6NVFP4 + DSpark
128 / 128 · C1
SGLang
sparkrun v0.3.4; lmsysorg/sglang@sha256…
NVIDIA Developer Forum
2026-09-25
Qwen2.5-Coder-7B-Q8_0ggml-org/Qwen2.5-Coder-7B-Q8_0-GGUF · model…Mesmo chip · medido em DGX Spark · 1× NVIDIA GB1029,43 ± 0,02Q8_0
0 / 32 · Um processo llama-bench; co…
llama.cpp CUDA
llama.cpp commit 11fb327bf
Flash Attention ativado
llama.cpp benches/dgx-spark · resultado dos mantenedores
2026-10-25
Nemotron 3 Super 120B A12B Q4_Kggml-org/Nemotron-3-Super-120B-GGUF · Q4_K …Mesmo chip · medido em DGX Spark · 1× NVIDIA GB10 · 128 GB unificada19,94 ± 0,16Q4_K (informado como 'Q4_K' pelo llama-bench; GGUF da ggml-org)
0 / 32 · Um processo llama-bench; co…
llama.cpp CUDA
llama.cpp build 04a65daab (8268); n_uba…
Flash Attention ativado
llama.cpp benches/nemotron · DGX Spark
2026-10-09
Qwen3.8 27B NVFP4 + MTPInferact/Qwen3.8-27B-NVFP4Mesmo chip · medido em DGX Spark · 1× GB1018,5NVFP4 + MTP (3 tokens especulativos)
128 / 128 · C1
vLLM official
sparkrun v0.3.4; vllm/vllm-openai:qwen3…
NVIDIA Developer Forum
2026-09-25
Qwen3.6 27B Q4_K_MQwen3.6-27B Q4_K_M GGUF, 15,65 GiB (build d…Mesmo chip · medido em DGX Spark · 1× NVIDIA GB10 · 128 GB unificada11,85 ± 0,01Q4_K_M (15,65 GiB)
0 / 128 · Um processo llama-bench; co…
llama.cpp CUDA (SM121a, source build)
llama.cpp b8922 (commit 13d36cf89); cma…
Flash Attention ativado
nabe2030/dense-27b-31b-dgx-spark (GitHub) · benchmark da comunidade
2026-10-09
Qwen3.6 27B BF16Qwen3.6-27B BF16 GGUF, 50,10 GiB (build da …Mesmo chip · medido em DGX Spark · 1× NVIDIA GB10 · 128 GB unificada4,54 ± 0,00BF16 (50,10 GiB)
0 / 128 · Um processo llama-bench; co…
llama.cpp CUDA (SM121a, source build)
llama.cpp b8922 (commit 13d36cf89); cma…
Flash Attention ativado
nabe2030/dense-27b-31b-dgx-spark (GitHub) · benchmark da comunidade
2026-10-09

Especificações

13 campos com fonte; a fonte aparece uma vez por grupo, e um campo de outra fonte tem o próprio link. Especificações oficiais

Memória unificada128 GBCompartilhada por CPU e GPU · fonte
Banda de memória273 GB/sEspecificação do fabricante · não é velocidade · fonte
Preço de tabela oficial (MSRP)USD 5.999,00US · loja do fabricante, lido em · fonte · não é oferta acompanhada
Onde comprarASUS StoreLink do fabricante · escolha a configuração na loja · US · registrado em

Marcadores: o modelo de texto com melhor nota LiveBench que roda bem aqui e o modelo de texto mais leve que não roda bem aqui, mas roda bem com 256 GB. Estimativas Q4 de planejamento, não compatibilidade medida.

Revisado · Fonte do fabricante

Processador
NVIDIA GB10 Arm v9.2-A CPU (Grace)
Processador gráfico
NVIDIA Blackwell GPU (GB10, integrated)
Situação do runtime da GPU
A fonte não informa
Capacidade de memória
128 GB
Tipo de memória
Memória unificada
Dimensões (mm)
150 x 150 x 51
Formato
mini desktop (ultra-small AI supercomputer)
Tipo de memória do sistema
LPDDR5x
Sistema operacional
Ubuntu Linux (NVIDIA DGX OS)
Portas
3x USB 3.2 Gen 2x2 Type-C (20Gbps, DisplayPort 2.1 alt mode) · 1x USB 3.2 Gen 2x2 Type-C with PD in (180W EPR PD3.1) · 1x HDMI 2.1 · 1x NVIDIA ConnectX-7 SmartNIC · 1x 10G LAN · Kensington lock
SKU do produto
GX10 (US tech-spec page is model-level; US part numbers by storage not printed)
Peso
1,48 kg

Especificação da família

Consultado · Fonte do fabricante

Desempenho de IA (TOPS, fabricante)
1.000 TOPS · FP4, com esparsidade

NVIDIA GB10 Arm v9.2-A CPU (Grace) · NVIDIA Blackwell GPU (GB10, integrated) com 128 GB de memória unificada. Suporte ao runtime e velocidade de inferência local não foram verificados.

Foto: Foto da família ASUS · a configuração de memória não aparece. · Fonte do fabricante

A banda de memória não mede a velocidade do modelo; confirme compatibilidade do runtime e do checkpoint. Especificação de hardware revisada: 2026-10-18.

Como funcionam as estimativas
Candidatos
Fichas revisadas usam parâmetros publicados; candidatos automáticos de texto usam contagens de tensores do repositório oficial (pesos quantizados empacotados e arquiteturas não suportadas ficam de fora).
Planejamento
Pesos Q4 + 20% de margem + reserva: 25% da memória unificada ou do sistema (no mínimo 2 GB, no máximo 8 GB; 8 GB aqui) ou 2 GB por GPU dedicada. Ajustável em “Ajustar a estimativa”. Não calculamos cache KV a partir do contexto.
Níveis de compatibilidade
Roda bem: a estimativa cabe na memória rápida (VRAM, ou memória unificada dentro da fatia de GPU do macOS). Roda devagar: dentro da memória da máquina, fora da parte rápida; a placa de vídeo descarrega camadas para a RAM do PC (a RAM informada, ou 32 GB presumidos). Não roda: acima das duas. Os níveis são estimativas de planejamento, nunca velocidade.
Visão
Modelos de visão e linguagem usam a estimativa Q4 de planejamento a partir da contagem de parâmetros (publicada na ficha do modelo ou lida no Hugging Face). Modelos de visão clássica (classificar, detectar, segmentar) usam estimativa de 16 bits. Não acompanhamos benchmark de visão, então as linhas não têm nota.
Mídia e embeddings
Mídia usa caminhos de execução documentados (hardware exato ou plataforma) e mínimos dos publicadores; um requisito publicado acima desta memória leva o modelo ao próximo degrau. Sem eles, uma estimativa de 16 bits a partir dos parâmetros publicados (× 1,2 + 2 GB), rotulada como tal. Embeddings usam pesos de 8 bits + 20% + 2 GB.

IA local: parâmetros, Q4 e memória · Catálogo completo de modelos · Dados e metodologia

Alternativas

Comparações lado a lado e outras máquinas na mesma escada de memória (memória unificada); cada página lista os modelos que cabem nela.