Framework Desktop · Ryzen AI Max+ 395 · 64 GB
Framework · Framework Desktop
162 modelos de texto rodam bem · banda de 256 GB/s
Modelos neste hardware
Comece por aqui
Arquivo UD-Q4_K_M · 16,9 GB · unsloth/gemma-4-26B-A4B-it-GGUF · O que é Q4?
Memória Precisa de ~19 GB · ~27 GB em Framework Desktop · Ryzen AI Max+ 395 · 64 GB unificada, incluindo ~8 GB que o sistema reserva
ollama run hf.co/unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_M- Instale o Ollama
- Rode o comando acima
- Pergunte:
Explique o que é a janela de contexto, em duas frases.
Arquivo Q4_K_M · 16,5 GB · prithivMLmods/Smaug-Mini-GGUF · O que é Q4?
Memória Precisa de ~21 GB · ~29 GB em Framework Desktop · Ryzen AI Max+ 395 · 64 GB unificada, incluindo ~8 GB que o sistema reserva
ollama run hf.co/prithivMLmods/Smaug-Mini-GGUF:Q4_K_M- Instale o Ollama
- Rode o comando acima
- Pergunte:
Explique o que é a janela de contexto, em duas frases.
Texto
Texto · LiveBench · geral
0–100 · maior é melhor
- Cor = publicador
Fonte: LiveBench 2026-06-25 · coletado 2026-09-26 · Modelos abertos sem nota não aparecem (sem nota ≠ 0).
| Smaug MiniQ4 · parâm. publicados · fonte | 76,9 | Fora do ranking de texto do LMArena de 2026-10-22 | ~29 GB | Q4 · parâm. publicados |
|---|---|---|---|---|
| Qwen3.8 27BQ4 · parâm. publicados · fonte | 75,3 | 1.437 ± 5 | ~29 GB | Q4 · parâm. publicados |
| Qwen3.6 27BQ4 · parâm. publicados · fonte | 64,0 | Fora do ranking de texto do LMArena de 2026-10-22 | ~29 GB | Q4 · parâm. publicados |
| Qwen3 14BQ4 · parâm. publicados · fonte | Sem resultado publicado comparável | Fora do ranking de texto do LMArena de 2026-10-22 | ~20 GB | Q4 · parâm. publicados |
| Gemma 4 31BQ4 · parâm. publicados · fonte | Sem resultado publicado comparável | 1.452 ± 7 | ~32 GB | Q4 · parâm. publicados |
| Gemma 4 26B A4BQ4 · parâm. publicados · fonte | Sem resultado publicado comparável | 1.437 ± 7 | ~27 GB | Q4 · parâm. publicados |
| Qwen3 8BQ4 · parâm. publicados · fonte | Sem resultado publicado comparável | Fora do ranking de texto do LMArena de 2026-10-22 | ~15 GB | Q4 · parâm. publicados |
| Qwen3.5 9BQ4 · parâm. publicados · fonte | Sem resultado publicado comparável | Fora do ranking de texto do LMArena de 2026-10-22 | ~15 GB | Q4 · parâm. publicados |
Pontuações LMArena nesta tabela: LMArena 2026-10-22 · coletado 2026-10-25 · dataset · CC BY 4.0
No limite: roda, mas deixa menos de 6,4 GB livres além dos 8 GB que o sistema guarda (o valor de memória já inclui essa reserva).
Todos os modelos de texto revisados aqui 37
Todos os que rodam aqui, bem ou devagar, com ou sem nota; 19 de 37 têm resultado no LiveBench ou no LMArena. Primeiro os que rodam bem, depois os no limite, depois os lentos; em cada grupo, por downloads no Hub em 30 dias, lidos em 2026-10-25, não por qualidade.
| Qwen3 14B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~20 GB | 9,0 | Apache 2.0 | 10,4 mi |
|---|---|---|---|---|---|---|
| Gemma 4 31B | Fora do LiveBench 2026-06-25 | 1.452 | ~32 GB | 18,3 | Apache 2.0 | 8,4 mi |
| Gemma 4 26B A4B | Fora do LiveBench 2026-06-25 | 1.437 | ~27 GB | 16,9 | Apache 2.0 | 8,2 mi |
| Qwen3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~15 GB | 5,0 | Apache 2.0 | 8,1 mi |
| Qwen3.8 27B | 75,3 | 1.437 | ~29 GB | 16,5 | Apache 2.0 | 7,8 mi |
| Qwen3.5 9B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~15 GB | 5,7 | Apache 2.0 | 6,1 mi |
| gpt-oss-20b | Fora do LiveBench 2026-06-25 | 1.317 | ~24 GB | 11,6 | Apache 2.0 | 5,8 mi |
| Llama 3.1 8B Instruct | Fora do LiveBench 2026-06-25 | 1.211 | ~14 GB | 4,9 | Llama 3.1 | 4,8 mi |
| Qwen3 1.7B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~10 GB | 1,1 | Apache 2.0 | 4,1 mi |
| Gemma 4 E4B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~14 GB | 5,0 | Apache 2.0 | 4 mi |
| Llama 3.2 1B Instruct | Fora do LiveBench 2026-06-25 | 1.111 | ~9 GB | 0,8 | Llama 3.2 | 3,5 mi |
| Gemma 4 E2B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~12 GB | 3,1 | Apache 2.0 | 3 mi |
| Qwen3 4B Instruct 2507 | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~11 GB | 2,5 | Apache 2.0 | 2,6 mi |
| Qwen3.6 27B | 64,0 | Fora do ranking de texto do LMArena de 2026-10-22 | ~29 GB | 16,8 | Apache 2.0 | 2,4 mi |
| Gemma 4 12B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~17 GB | 7,1 | Apache 2.0 | 1,7 mi |
| Qwen3.5 35B A3B | Fora do LiveBench 2026-06-25 | 1.394 | ~35 GB | 22,0 | Apache 2.0 | 1,5 mi |
| Nemotron 3 Nano 30B A3B | Fora do LiveBench 2026-06-25 | 1.314 | ~38 GB | 24,6 | NVIDIA Nemotron Open Model | 1,4 mi |
| Llama 3.2 3B Instruct | Fora do LiveBench 2026-06-25 | 1.167 | ~11 GB | 2,0 | Llama 3.2 | 1,1 mi |
| Qwen3 30B A3B Instruct 2507 | Fora do LiveBench 2026-06-25 | 1.382 | ~31 GB | 18,6 | Apache 2.0 | 1,1 mi |
| GLM-4.7 Flash | Fora do LiveBench 2026-06-25 | 1.365 | ~31 GB | 18,3 | MIT | 953,7 mil |
| Nemotron 3.5 Lightning 30B A3B | Fora do LiveBench 2026-06-25 | O Arena avaliou a versão NVFP4, NVIDIA-Nemotron-3.5-Lightning-30B-A3B (NVFP4); esta ficha é a referência BF16, que a NVIDIA reporta com notas diferentes | ~31 GB | 18,9 | OpenMDW 1.1 | 861,5 mil |
| Qwen3 Coder 30B A3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~31 GB | 18,6 | Apache 2.0 | 745 mil |
| SmolLM3 3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~11 GB | 1,9 | Apache 2.0 | 718,7 mil |
| Phi-4 | Fora do LiveBench 2026-06-25 | 1.256 | ~19 GB | 8,0 | MIT | 368,3 mil |
| DeepSeek R1 0528 Qwen3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~15 GB | 5,0 | MIT | 355,8 mil |
| Phi-4 mini | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~11 GB | 2,5 | MIT | 342,8 mil |
| Olmo 3 7B Instruct | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~14 GB | 4,5 | Apache 2.0 | 262,5 mil |
| Devstral Small 2 24B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~26 GB | 14,3 | Apache 2.0 | 195,6 mil |
| Mistral Small 3.2 24B | Fora do LiveBench 2026-06-25 | 1.356 | ~27 GB | 14,3 | Apache 2.0 | 181,4 mil |
| Ministral 3 14B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~19 GB | 8,2 | Apache 2.0 | 126,5 mil |
| Ministral 3 3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~11 GB | 2,1 | Apache 2.0 | 87,4 mil |
| Ministral 3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~15 GB | 5,2 | Apache 2.0 | 79,4 mil |
| Granite 4.2 8B | Fora do LiveBench 2026-06-25 | 1.290 | ~14 GB | 5,3 | Apache 2.0 | 78,3 mil |
| Granite 4.2 3B | Fora do LiveBench 2026-06-25 | 1.290 | ~11 GB | 2,2 | Apache 2.0 | 39,8 mil |
| Granite 4.2 30B | Fora do LiveBench 2026-06-25 | 1.340 | ~31 GB | 17,7 | Apache 2.0 | 39,3 mil |
| Olmo 3 32B Think | Fora do LiveBench 2026-06-25 | 1.306 | ~32 GB | 19,5 | Apache 2.0 | 13,1 mil |
| Smaug Mini | 76,9 | Fora do ranking de texto do LMArena de 2026-10-22 | ~29 GB | 16,5 | Apache 2.0 | 817 |
Ajustar a estimativa: quantização, contexto, reserva
Visão
Visão · LMArena
pontuação · maior é melhor
- Cor = publicador
Fonte: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0 · Modelos sem pontuação ficam de fora; não recebem zero.
| Gemma 4 31BQ4 · parâm. publicados · fonte | 1.262 ± 6 | ~32 GB | Q4 · parâm. publicados |
|---|---|---|---|
| Qwen3.8 27BQ4 · parâm. publicados · fonte | 1.242 ± 8 | ~29 GB | Q4 · parâm. publicados |
| Gemma 4 26B A4BQ4 · parâm. publicados · fonte | 1.242 ± 6 | ~27 GB | Q4 · parâm. publicados |
| gemma-3-27b-itQ4 · contagem do Hugging Face · fonte | 1.160 ± 8 | ~29 GB | Q4 · contagem do Hugging Face |
| Qwen2.5-VL-32B-InstructQ4 · contagem do Hugging Face · fonte | 1.119 ± 15 | ~34 GB | Q4 · contagem do Hugging Face |
| Molmo2-8BQ4 · contagem do Hugging Face · fonte | 1.112 ± 20 | ~15 GB | Q4 · contagem do Hugging Face |
| Molmo-72B-0924Q4 · contagem do Hugging Face · fonte | 1.045 ± 13 | ~63 GBNo limite: Precisa de ~63 GB: roda bem, sobra cerca de 1 GB além da reserva do sistema | Q4 · contagem do Hugging Face |
| Qwen2-VL-7B-InstructQ4 · contagem do Hugging Face · fonte | 1.031 ± 11 | ~15 GB | Q4 · contagem do Hugging Face |
Pontuações LMArena nesta tabela: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0
No limite: roda, mas deixa menos de 6,4 GB livres além dos 8 GB que o sistema guarda (o valor de memória já inclui essa reserva).
Com 96 GB você roda também… 7
O próximo tamanho de memória desta linha roda estes bem. Os valores são o requisito neste tipo de hardware.
- NVLM-D-72Bnvidia~68 GBQ4 · contagem do Hugging Face
- Llama-3.2-90B-Visionmeta-llama~75 GBQ4 · contagem do Hugging Face
- Llama-3.2-90B-Vision-Instructmeta-llama~75 GBQ4 · contagem do Hugging Face
- GLM-4.5Vzai-org~89 GBQ4 · contagem do Hugging Face
- Llama-4-Scout-17B-16Emeta-llama~90 GBQ4 · contagem do Hugging Face
- Llama-4-Scout-17B-16E-Instructmeta-llama~90 GBQ4 · contagem do Hugging Face
- command-a-vision-07-2025CohereLabs~92 GBQ4 · contagem do Hugging Face
Outros 12 modelos de visão do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Visão
Imagem
Imagem · Aderência ao prompt · GenEval
0–1 · maior é melhor
Fonte: GenEval · 2023 · revisado 2026-10-05 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.
| Stable Diffusion XL 1.0Caminho da plataforma documentado · stable-diffusion.cpp · fonte | 0,55 | Fora do ranking de texto para imagem do LMArena de 2026-10-07 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
|---|---|---|---|---|
| Stable Diffusion 1.5Caminho da plataforma documentado · stable-diffusion.cpp · fonte | 0,43 | Fora do ranking de texto para imagem do LMArena de 2026-10-07 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
| Qwen-Image-Editest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~51 GB | est. 16 bits · parâm. |
| Qwen-Image-Edit-2509est. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~51 GB | est. 16 bits · parâm. |
| Qwen-Image-Edit-2511est. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~51 GB | est. 16 bits · parâm. |
| Qwen-Image-Layeredest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~51 GB | est. 16 bits · parâm. |
| Qwen-Image-2512est. 16 bits · parâm. · fonte | Sem resultado publicado comparável | 1.125 ± 3 | ~50 GB | est. 16 bits · parâm. |
| HiDream-I1-Fullest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~44 GB | est. 16 bits · parâm. |
Pontuações LMArena nesta tabela: LMArena 2026-10-07 · coletado 2026-10-25 · dataset · CC BY 4.0
Com 96 GB você roda também… 2
O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.
- Ming-Image-0.1-DesigninclusionAI~80 GBMínimo do publicador
- Emu3.5-ImageBAAI~84 GBest. 16 bits · parâm.
Outros 17 modelos de imagem do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Imagem
Vídeo
| LTX-2.3 Fastest. 16 bits · parâm. · fonte | ~55 GB | est. 16 bits · parâm. |
|---|---|---|
| LTX-2.3 Proest. 16 bits · parâm. · fonte | ~55 GB | est. 16 bits · parâm. |
| Video-As-Prompt-Wan2.1-14Best. 16 bits · parâm. · fonte | ~52 GB | est. 16 bits · parâm. |
| JoyAI-Echoest. 16 bits · parâm. · fonte | ~48 GB | est. 16 bits · parâm. |
| LTX-2 Fastest. 16 bits · parâm. · fonte | ~48 GB | est. 16 bits · parâm. |
| LTX-2 Proest. 16 bits · parâm. · fonte | ~48 GB | est. 16 bits · parâm. |
| LTX-2.5-Diffusersest. 16 bits · parâm. · fonte | ~48 GB | est. 16 bits · parâm. |
| SkyReels-V3-A2V-19Best. 16 bits · parâm. · fonte | ~48 GB | est. 16 bits · parâm. |
Como esta lista funciona Primeiro os caminhos de execução documentados neste hardware, depois os mínimos dos publicadores (CUDA ou Apple MPS).
Com 96 GB você roda também… 14
O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.
- Wan2.1 T2V 14BWan-AI~69 GBMínimo do publicador
- Wan2.1-T2V-14B-DiffusersWan-AI~69 GBMínimo do publicador
- stepvideo-t2vstepfun-ai~73 GBest. 16 bits · parâm.
- stepvideo-ti2vstepfun-ai~73 GBest. 16 bits · parâm.
- Kandinsky-6.0-Pro-distill-5s-Diffuserskandinskylab~75 GBest. 16 bits · parâm.
- Wan2.1-I2V-14B-720P-DiffusersWan-AI~77 GBMínimo do publicador
- Cosmos-H-Surgicalnvidia~80 GBMínimo do publicador
- Wan-Dancer-14BWan-AI~80 GBMínimo do publicador
- Wan2.2 T2V-A14BWan-AI~80 GBMínimo do publicador
- Wan2.2-I2V-A14BWan-AI~80 GBMínimo do publicador
- Wan2.2-I2V-A14B-DiffusersWan-AI~80 GBMínimo do publicador
- Wan2.2-S2V-14BWan-AI~80 GBMínimo do publicador
- Wan2.2-T2V-A14B-DiffusersWan-AI~80 GBMínimo do publicador
- MiniMax H3MiniMax~82 GBest. 16 bits · parâm.
Outros 20 modelos de vídeo do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Vídeo
Áudio
Áudio · Taxa de erro de palavras · Open ASR
% · menor é melhor
Fonte: Taxa de erro de palavras · Open ASR · revisado 2026-10-20 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.
| Whisper large-v3-turboCaminho da plataforma documentado · whisper.cpp / CPU · fonte | 7,83 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
|---|---|---|---|
| Whisper large-v3Caminho da plataforma documentado · whisper.cpp / CPU · fonte | 7,44 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
| Voxtral-Small-24B-2507est. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~61 GB | est. 16 bits · parâm. |
| Kimi-Audio-7Best. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~26 GB | est. 16 bits · parâm. |
| Kimi-Audio-7B-Instructest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~26 GB | est. 16 bits · parâm. |
| AuKCaminho condicional · CUDA · fonte | Sem resultado publicado comparável | ~25 GB | Caminho condicional |
| AuK-FlashCaminho condicional · CUDA · fonte | Sem resultado publicado comparável | ~25 GB | Caminho condicional |
| Fish Audio S2 ProCaminho condicional · CUDA · fonte | Sem resultado publicado comparável | ~24 GB | Caminho condicional |
Com 96 GB você roda também… 1
O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.
- Step-Audio-R1.1stepfun-ai~83 GBest. 16 bits · parâm.
Outros 33 modelos de áudio do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Áudio
Embeddings
Embeddings · MTEB (Multilingual, v2) · mean(task)
0–100 · maior é melhor
- Cor = publicador
| Qwen3-Embedding 8B8 bits · parâm. publicados · fonte | 70,6 | ~12 GB | 8 bits · parâm. publicados |
|---|---|---|---|
| Qwen3-Embedding 4B8 bits · parâm. publicados · fonte | 69,5 | ~7 GB | 8 bits · parâm. publicados |
| Harrier OSS v1 (0.6B)8 bits · parâm. publicados · fonte | 69,0 | ~3 GB | 8 bits · parâm. publicados |
| Qwen3-Embedding 0.6B8 bits · parâm. publicados · fonte | 64,3 | ~3 GB | 8 bits · parâm. publicados |
| Multilingual E5 Large Instruct8 bits · parâm. publicados · fonte | 63,2 | ~3 GB | 8 bits · parâm. publicados |
| EmbeddingGemma 28 bits · parâm. publicados · fonte | 61,4 | ~3 GB | 8 bits · parâm. publicados |
| EmbeddingGemma (300M)8 bits · parâm. publicados · fonte | 61,1 | ~3 GB | 8 bits · parâm. publicados |
| BGE-M38 bits · parâm. publicados · fonte | 59,6 | ~3 GB | 8 bits · parâm. publicados |
Roda bem em até 64 GB de memória unificada · estimativas de planejamento, não velocidade medida
Medições
Velocidade neste hardware
Ainda não incluímos uma medição verificável desta configuração exata. As estimativas de memória acima não indicam tokens por segundo ou tempo até o primeiro token.Especificações
24 campos com fonte; a fonte aparece uma vez por grupo, e um campo de outra fonte tem o próprio link. Especificações oficiais
Marcador: o modelo de texto com melhor nota LiveBench que roda bem aqui. Nenhum outro modelo de texto rodaria bem com 96 GB. Estimativa Q4 de planejamento, não compatibilidade medida.
Revisado · Fonte do fabricante
- Processador
- AMD Ryzen AI Max+ 395
- Núcleos da GPU
- 40
- Processador gráfico
- AMD Radeon 8060S (integrated)
- Situação do runtime da GPU
- A fonte não informa
- Capacidade de memória
- 64 GB
- Unidades de computação
- 40
- Dimensões (mm)
- 96,8 x 205,5 x 226,1
- Ethernet
- 5 Gb/s
- Formato
- Mini-ITX mainboard in a 4.5 L desktop case
- Interface de memória
- 256 bit
- Taxa de transferência da memória
- 8.000 MT/s
- Tipo de memória do sistema
- LPDDR5x (soldered)
- Desempenho da NPU
- 50 TOPS
- Sistema operacional
- None (bring your own); Framework points to its recommended Linux distros
- Portas
- Front: 2 x user-selectable Expansion Cards (USB 3.2 Gen 1, configurable to Gen 2 in BIOS) · Rear: 1 x HDMI 2.1 · Rear: 2 x DisplayPort 2.1 até 10 Gb/s · Rear: 2 x USB-C (USB4) · Rear: 1 x RJ45 5Gbit Ethernet · Rear: 2 x USB-A (USB 3.2 Gen 2) · Rear: 1 x 3.5 mm combo jack
- Fonte de alimentação
- 400 W
- Opções de armazenamento
- 2 x NVMe PCIe 4.0 x4 M.2 2280 sockets with heatspreaders, up to 8 TB each
- Peso
- 3,1 kg
- Wi-Fi
- Wi-Fi 7 (AMD RZ717)
- Ano de lançamento
- 2025
AMD Ryzen AI Max+ 395 · AMD Radeon 8060S (integrated) com 64 GB de memória unificada. Suporte ao runtime e velocidade de inferência local não foram verificados.
A banda de memória não mede a velocidade do modelo; confirme compatibilidade do runtime e do checkpoint. Especificação de hardware revisada: 2026-10-13.
Como funcionam as estimativas
- Candidatos
- Fichas revisadas usam parâmetros publicados; candidatos automáticos de texto usam contagens de tensores do repositório oficial (pesos quantizados empacotados e arquiteturas não suportadas ficam de fora).
- Planejamento
- Pesos Q4 + 20% de margem + reserva: 25% da memória unificada ou do sistema (no mínimo 2 GB, no máximo 8 GB; 8 GB aqui) ou 2 GB por GPU dedicada. Ajustável em “Ajustar a estimativa”. Não calculamos cache KV a partir do contexto.
- Níveis de compatibilidade
- Roda bem: a estimativa cabe na memória rápida (VRAM, ou memória unificada dentro da fatia de GPU do macOS). Roda devagar: dentro da memória da máquina, fora da parte rápida; a placa de vídeo descarrega camadas para a RAM do PC (a RAM informada, ou 32 GB presumidos). Não roda: acima das duas. Os níveis são estimativas de planejamento, nunca velocidade.
- Visão
- Modelos de visão e linguagem usam a estimativa Q4 de planejamento a partir da contagem de parâmetros (publicada na ficha do modelo ou lida no Hugging Face). Modelos de visão clássica (classificar, detectar, segmentar) usam estimativa de 16 bits. Não acompanhamos benchmark de visão, então as linhas não têm nota.
- Mídia e embeddings
- Mídia usa caminhos de execução documentados (hardware exato ou plataforma) e mínimos dos publicadores; um requisito publicado acima desta memória leva o modelo ao próximo degrau. Sem eles, uma estimativa de 16 bits a partir dos parâmetros publicados (× 1,2 + 2 GB), rotulada como tal. Embeddings usam pesos de 8 bits + 20% + 2 GB.
IA local: parâmetros, Q4 e memória · Catálogo completo de modelos · Dados e metodologia
Alternativas
Outras máquinas na mesma escada de memória (memória unificada); cada página lista os modelos que cabem nela.
Também 64 GB 6
- Mac mini M5 Pro · 64 GB unificados
- Mac Studio · M5 Max · CPU de 18 núcleos / GPU de 40 núcleos · 64 GB unificados
- MacBook Pro de 14 polegadas · M5 Max · CPU de 18 núcleos / GPU de 40 núcleos · 64 GB unificados
- MacBook Pro de 14 polegadas · M5 Pro · CPU de 18 núcleos / GPU de 20 núcleos · 64 GB unificados
- MacBook Pro de 16 polegadas · M5 Pro · CPU de 18 núcleos / GPU de 20 núcleos · 64 GB unificados
- Surface Laptop de 13,8 polegadas (8ª Edição) · Snapdragon X2 Elite (12 núcleos) · 64 GB LPDDR5x
Menos memória · 48 GB 6
- Mac mini M4 Pro · 48 GB unificados
- Mac mini M5 Pro · 48 GB unificados
- Mac Studio · M5 Max · CPU de 18 núcleos / GPU de 40 núcleos · 48 GB unificados
- MacBook Pro de 14 polegadas · M5 Max · CPU de 18 núcleos / GPU de 40 núcleos · 48 GB unificados
- MacBook Pro de 14 polegadas · M5 Pro · CPU de 18 núcleos / GPU de 20 núcleos · 48 GB unificados
- MacBook Pro de 16 polegadas · M5 Max · CPU de 18 núcleos / GPU de 40 núcleos · 48 GB unificados