DGX H100 · 8 × 80 GB
NVIDIA · DGX H100
207 modelos de texto rodam bem · banda de 3.350 GB/s
Modelos neste hardware
Comece por aqui
Arquivo UD-Q4_K_M · 16,9 GB · unsloth/gemma-4-26B-A4B-it-GGUF · O que é Q4?
Memória Precisa de ~19 GB · ~35 GB em DGX H100 · 640 GB de VRAM, incluindo ~16 GB que o sistema reserva
ollama run hf.co/unsloth/gemma-4-26B-A4B-it-GGUF:UD-Q4_K_M- Instale o Ollama
- Rode o comando acima
- Pergunte:
Explique o que é a janela de contexto, em duas frases.
Arquivo Q4_K_M · 16,5 GB · prithivMLmods/Smaug-Mini-GGUF · O que é Q4?
Memória Precisa de ~21 GB · ~37 GB em DGX H100 · 640 GB de VRAM, incluindo ~16 GB que o sistema reserva
ollama run hf.co/prithivMLmods/Smaug-Mini-GGUF:Q4_K_M- Instale o Ollama
- Rode o comando acima
- Pergunte:
Explique o que é a janela de contexto, em duas frases.
Texto
Texto · LiveBench · geral
0–100 · maior é melhor
- Cor = publicador
Fonte: LiveBench 2026-06-25 · coletado 2026-09-26 · Modelos abertos sem nota não aparecem (sem nota ≠ 0).
| Smaug MiniQ4 · parâm. publicados · fonte | 76,9 | Fora do ranking de texto do LMArena de 2026-10-22 | ~37 GB | Q4 · parâm. publicados |
|---|---|---|---|---|
| GLM-5.3Q4 · parâm. publicados · fonte | 76,1 | O Arena lista só GLM-5.3 (Max), um nível de esforço nomeado, então nenhuma nota é associada a esta ficha | ~574 GB | Q4 · parâm. publicados |
| Qwen3.8 27BQ4 · parâm. publicados · fonte | 75,3 | 1.437 ± 5 | ~37 GB | Q4 · parâm. publicados |
| DeepSeek V4 Flash · 0731Q4 · parâm. publicados · fonte | 74,2 | Fora do ranking de texto do LMArena de 2026-10-22 | ~244 GB | Q4 · parâm. publicados |
| GLM-5.2Q4 · parâm. publicados · fonte | 73,2 | O Arena lista só GLM-5.2 (Max), um nível de esforço nomeado, então nenhuma nota é associada a esta ficha | ~574 GB | Q4 · parâm. publicados |
| GLM-5.3 FlashQ4 · parâm. publicados · fonte | 71,6 | 1.476 ± 5 | ~256 GB | Q4 · parâm. publicados |
| Nemotron 3 Ultra 550B A55BQ4 · parâm. publicados · fonte | 67,4 | 1.426 ± 7 | ~429 GB | Q4 · parâm. publicados |
| MiniMax M3Q4 · parâm. publicados · fonte | 67,3 | 1.440 ± 4 | ~337 GB | Q4 · parâm. publicados |
Pontuações LMArena nesta tabela: LMArena 2026-10-22 · coletado 2026-10-25 · dataset · CC BY 4.0
Todos os modelos de texto revisados aqui 47
Todos os que rodam aqui, bem ou devagar, com ou sem nota; 27 de 47 têm resultado no LiveBench ou no LMArena. Primeiro os que rodam bem, depois os no limite, depois os lentos; em cada grupo, por downloads no Hub em 30 dias, lidos em 2026-10-25, não por qualidade.
| Qwen3 14B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~28 GB | 9,0 | Apache 2.0 | 10,4 mi |
|---|---|---|---|---|---|---|
| Gemma 4 31B | Fora do LiveBench 2026-06-25 | 1.452 | ~40 GB | 18,3 | Apache 2.0 | 8,4 mi |
| Gemma 4 26B A4B | Fora do LiveBench 2026-06-25 | 1.437 | ~35 GB | 16,9 | Apache 2.0 | 8,2 mi |
| Qwen3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~23 GB | 5,0 | Apache 2.0 | 8,1 mi |
| Qwen3.8 27B | 75,3 | 1.437 | ~37 GB | 16,5 | Apache 2.0 | 7,8 mi |
| GLM-5.3 Flash | 71,6 | 1.476 | ~256 GB | 156,8 | MIT | 6,4 mi |
| Qwen3.5 9B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~23 GB | 5,7 | Apache 2.0 | 6,1 mi |
| gpt-oss-20b | Fora do LiveBench 2026-06-25 | 1.317 | ~32 GB | 11,6 | Apache 2.0 | 5,8 mi |
| Llama 3.1 8B Instruct | Fora do LiveBench 2026-06-25 | 1.211 | ~22 GB | 4,9 | Llama 3.1 | 4,8 mi |
| DeepSeek V4 Flash · 0731 | 74,2 | Fora do ranking de texto do LMArena de 2026-10-22 | ~244 GB | 136,7 | MIT | 4,1 mi |
| Qwen3 1.7B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~18 GB | 1,1 | Apache 2.0 | 4,1 mi |
| Gemma 4 E4B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~22 GB | 5,0 | Apache 2.0 | 4 mi |
| Llama 3.2 1B Instruct | Fora do LiveBench 2026-06-25 | 1.111 | ~17 GB | 0,8 | Llama 3.2 | 3,5 mi |
| Gemma 4 E2B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~20 GB | 3,1 | Apache 2.0 | 3 mi |
| Qwen3 4B Instruct 2507 | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~19 GB | 2,5 | Apache 2.0 | 2,6 mi |
| Qwen3.6 27B | 64,0 | Fora do ranking de texto do LMArena de 2026-10-22 | ~37 GB | 16,8 | Apache 2.0 | 2,4 mi |
| GLM-5.3 | 76,1 | O Arena lista só GLM-5.3 (Max), um nível de esforço nomeado, então nenhuma nota é associada a esta ficha | ~574 GB | 365,3 | GLM-5.3 | 2,1 mi |
| Gemma 4 12B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~25 GB | 7,1 | Apache 2.0 | 1,7 mi |
| Qwen3.5 35B A3B | Fora do LiveBench 2026-06-25 | 1.394 | ~43 GB | 22,0 | Apache 2.0 | 1,5 mi |
| Nemotron 3 Nano 30B A3B | Fora do LiveBench 2026-06-25 | 1.314 | ~46 GB | 24,6 | NVIDIA Nemotron Open Model | 1,4 mi |
| Llama 3.2 3B Instruct | Fora do LiveBench 2026-06-25 | 1.167 | ~19 GB | 2,0 | Llama 3.2 | 1,1 mi |
| Qwen3 30B A3B Instruct 2507 | Fora do LiveBench 2026-06-25 | 1.382 | ~39 GB | 18,6 | Apache 2.0 | 1,1 mi |
| GLM-4.7 Flash | Fora do LiveBench 2026-06-25 | 1.365 | ~39 GB | 18,3 | MIT | 953,7 mil |
| DeepSeek V4 Flash | 65,5 | 1.436 | ~229 GB | 137,9 | MIT | 936,1 mil |
| Nemotron 3.5 Lightning 30B A3B | Fora do LiveBench 2026-06-25 | O Arena avaliou a versão NVFP4, NVIDIA-Nemotron-3.5-Lightning-30B-A3B (NVFP4); esta ficha é a referência BF16, que a NVIDIA reporta com notas diferentes | ~39 GB | 18,9 | OpenMDW 1.1 | 861,5 mil |
| Qwen3 Coder 30B A3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~39 GB | 18,6 | Apache 2.0 | 745 mil |
| SmolLM3 3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~19 GB | 1,9 | Apache 2.0 | 718,7 mil |
| Nemotron 3 Super 120B A12B | Fora do LiveBench 2026-06-25 | O Arena não informa a precisão da versão servida, então nenhuma pontuação é associada a este checkpoint NVFP4 | ~106 GB | 82,5 | NVIDIA Nemotron Open Model | 535,1 mil |
| Phi-4 | Fora do LiveBench 2026-06-25 | 1.256 | ~27 GB | 8,0 | MIT | 368,3 mil |
| DeepSeek R1 0528 Qwen3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~23 GB | 5,0 | MIT | 355,8 mil |
| Phi-4 mini | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~19 GB | 2,5 | MIT | 342,8 mil |
| GLM-5.2 | 73,2 | O Arena lista só GLM-5.2 (Max), um nível de esforço nomeado, então nenhuma nota é associada a esta ficha | ~574 GB | 465,8 | MIT | 298,6 mil |
| Olmo 3 7B Instruct | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~22 GB | 4,5 | Apache 2.0 | 262,5 mil |
| MiniMax M3 | 67,3 | 1.440 | ~337 GB | 264,9 | MiniMax Community | 201,1 mil |
| Devstral Small 2 24B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~34 GB | 14,3 | Apache 2.0 | 195,6 mil |
| Mistral Small 3.2 24B | Fora do LiveBench 2026-06-25 | 1.356 | ~35 GB | 14,3 | Apache 2.0 | 181,4 mil |
| Ministral 3 14B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~27 GB | 8,2 | Apache 2.0 | 126,5 mil |
| MiMo V2.6 Flash | Fora do LiveBench 2026-06-25 | 1.448 | ~248 GB | 126,4 | MIT | 89,6 mil |
| Ministral 3 3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~19 GB | 2,1 | Apache 2.0 | 87,4 mil |
| Ministral 3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~23 GB | 5,2 | Apache 2.0 | 79,4 mil |
| Granite 4.2 8B | Fora do LiveBench 2026-06-25 | 1.290 | ~22 GB | 5,3 | Apache 2.0 | 78,3 mil |
| Nemotron 3 Ultra 550B A55B | 67,4 | 1.426 | ~429 GB | 359,2 | OpenMDW 1.1 | 43,7 mil |
| Granite 4.2 3B | Fora do LiveBench 2026-06-25 | 1.290 | ~19 GB | 2,2 | Apache 2.0 | 39,8 mil |
| Granite 4.2 30B | Fora do LiveBench 2026-06-25 | 1.340 | ~39 GB | 17,7 | Apache 2.0 | 39,3 mil |
| Olmo 3 32B Think | Fora do LiveBench 2026-06-25 | 1.306 | ~40 GB | 19,5 | Apache 2.0 | 13,1 mil |
| Ling 3.0 Flash | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~109 GB | 77,8 | MIT | 9,7 mil |
| Smaug Mini | 76,9 | Fora do ranking de texto do LMArena de 2026-10-22 | ~37 GB | 16,5 | Apache 2.0 | 817 |
Ajustar a estimativa: quantização, contexto, reserva
Visão
Visão · LMArena
pontuação · maior é melhor
- Cor = publicador
Fonte: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0 · Modelos sem pontuação ficam de fora; não recebem zero.
| GLM-5.3 FlashQ4 · parâm. publicados · fonte | 1.271 ± 6 | ~256 GB | Q4 · parâm. publicados |
|---|---|---|---|
| Gemma 4 31BQ4 · parâm. publicados · fonte | 1.262 ± 6 | ~40 GB | Q4 · parâm. publicados |
| Qwen3.8 27BQ4 · parâm. publicados · fonte | 1.242 ± 8 | ~37 GB | Q4 · parâm. publicados |
| Gemma 4 26B A4BQ4 · parâm. publicados · fonte | 1.242 ± 6 | ~35 GB | Q4 · parâm. publicados |
| MiniMax M3Q4 · parâm. publicados · fonte | 1.233 ± 6 | ~337 GB | Q4 · parâm. publicados |
| Qwen3-VL-235B-A22B-InstructQ4 · contagem do Hugging Face · fonte | 1.215 ± 7 | ~193 GB | Q4 · contagem do Hugging Face |
| gemma-3-27b-itQ4 · contagem do Hugging Face · fonte | 1.160 ± 8 | ~37 GB | Q4 · contagem do Hugging Face |
| GLM-4.5VQ4 · contagem do Hugging Face · fonte | 1.153 ± 12 | ~97 GB | Q4 · contagem do Hugging Face |
Pontuações LMArena nesta tabela: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0
Outros 12 modelos de visão do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Visão
Imagem
Imagem · Aderência ao prompt · GenEval
0–1 · maior é melhor
Fonte: GenEval · 2023 · revisado 2026-10-05 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.
| Stable Diffusion XL 1.0Caminho da plataforma documentado · stable-diffusion.cpp · fonte | 0,55 | Fora do ranking de texto para imagem do LMArena de 2026-10-07 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
|---|---|---|---|---|
| Stable Diffusion 1.5Caminho da plataforma documentado · stable-diffusion.cpp · fonte | 0,43 | Fora do ranking de texto para imagem do LMArena de 2026-10-07 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
| Cosmos3-Super-Text2ImageMínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | 1.152 ± 6 | ~640 GB | Mínimo do publicador |
| Cosmos3-Super-Text2Image (agentic)Mínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | 1.165 ± 7 | ~640 GB | Mínimo do publicador |
| Cosmos3-Super-Text2Image-4StepMínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | O Arena avaliou o Cosmos3-Super-Text2Image; esta ficha é o checkpoint destilado de 4 passos | ~640 GB | Mínimo do publicador |
| HunyuanImage 3.0 Instruct (Fal)Mínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | O Arena avaliou hunyuan-image-3.0; esta ficha é o checkpoint Instruct | ~640 GB | Mínimo do publicador |
| HunyuanImage 3.0 (Fal)Mínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | 1.150 ± 3 | ~240 GB | Mínimo do publicador |
| Emu3.5-Imageest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~84 GB | est. 16 bits · parâm. |
Pontuações LMArena nesta tabela: LMArena 2026-10-07 · coletado 2026-10-25 · dataset · CC BY 4.0
Outros 17 modelos de imagem do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Imagem
Vídeo
| Cosmos3-Super-Image2Videoest. 16 bits · parâm. · fonte | ~158 GB | est. 16 bits · parâm. |
|---|---|---|
| Cosmos3-Super-Image2Video-4Stepest. 16 bits · parâm. · fonte | ~156 GB | est. 16 bits · parâm. |
| MiniMax H3est. 16 bits · parâm. · fonte | ~82 GB | est. 16 bits · parâm. |
| Cosmos-H-SurgicalCaminho condicional · CUDA · fonte | ~80 GB | Caminho condicional |
| Wan-Dancer-14BCaminho condicional · CUDA · fonte | ~80 GB | Caminho condicional |
| Wan2.2 T2V-A14BCaminho condicional · CUDA · fonte | ~80 GB | Caminho condicional |
| Wan2.2-I2V-A14BCaminho condicional · CUDA · fonte | ~80 GB | Caminho condicional |
| Wan2.2-I2V-A14B-DiffusersCaminho condicional · CUDA · fonte | ~80 GB | Caminho condicional |
Como esta lista funciona Primeiro os caminhos de execução documentados neste hardware, depois os mínimos dos publicadores (CUDA ou Apple MPS).
Outros 20 modelos de vídeo do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Vídeo
Áudio
Áudio · Taxa de erro de palavras · Open ASR
% · menor é melhor
Fonte: Taxa de erro de palavras · Open ASR · revisado 2026-10-20 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.
| Whisper large-v3-turboCaminho da plataforma documentado · whisper.cpp / CUDA · fonte | 7,83 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
|---|---|---|---|
| Whisper large-v3Caminho da plataforma documentado · whisper.cpp / CUDA · fonte | 7,44 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
| Step-Audio-R1.1est. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~83 GB | est. 16 bits · parâm. |
| Voxtral-Small-24B-2507est. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~61 GB | est. 16 bits · parâm. |
| Kimi-Audio-7Best. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~26 GB | est. 16 bits · parâm. |
| Kimi-Audio-7B-Instructest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~26 GB | est. 16 bits · parâm. |
| AuKMínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | ~25 GB | Mínimo do publicador |
| AuK-FlashMínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | ~25 GB | Mínimo do publicador |
Outros 33 modelos de áudio do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Áudio
Embeddings
Embeddings · MTEB (Multilingual, v2) · mean(task)
0–100 · maior é melhor
- Cor = publicador
| Qwen3-Embedding 8B8 bits · parâm. publicados · fonte | 70,6 | ~12 GB | 8 bits · parâm. publicados |
|---|---|---|---|
| Qwen3-Embedding 4B8 bits · parâm. publicados · fonte | 69,5 | ~7 GB | 8 bits · parâm. publicados |
| Harrier OSS v1 (0.6B)8 bits · parâm. publicados · fonte | 69,0 | ~3 GB | 8 bits · parâm. publicados |
| Qwen3-Embedding 0.6B8 bits · parâm. publicados · fonte | 64,3 | ~3 GB | 8 bits · parâm. publicados |
| Multilingual E5 Large Instruct8 bits · parâm. publicados · fonte | 63,2 | ~3 GB | 8 bits · parâm. publicados |
| EmbeddingGemma 28 bits · parâm. publicados · fonte | 61,4 | ~3 GB | 8 bits · parâm. publicados |
| EmbeddingGemma (300M)8 bits · parâm. publicados · fonte | 61,1 | ~3 GB | 8 bits · parâm. publicados |
| BGE-M38 bits · parâm. publicados · fonte | 59,6 | ~3 GB | 8 bits · parâm. publicados |
Roda bem em até 640 GB de memória agregada de GPU · estimativas de planejamento, não velocidade medida
Medições
Tokens por segundo publicados, exatamente como medidos; nunca estimados.
| DeepSeek V4 Flash FP8 | 39 per user (32 concurrent) | FP8 (sgl-project/DeepSeek-V4-Flash-FP8) | SGLang with EAGLE speculative decoding (docker lmsysorg/sglang:deepseek-v4-hopper) | Lambda inference models · DeepSeek-V4-Flash (benchmark do fornecedor) |
|---|
Especificações
19 campos com fonte; a fonte aparece uma vez por grupo, e um campo de outra fonte tem o próprio link. Especificações oficiais
Marcador: o modelo de texto com melhor nota LiveBench que roda bem aqui. Nenhum outro modelo de texto rodaria bem com o próximo tamanho de memória. Estimativa Q4 de planejamento, não compatibilidade medida.
Configuração selecionada
Última consulta · Fonte do fabricante
- Capacidade de memória
- 640 GB
- Tipo de memória
- 8 × 80 GB HBM3
- Chip / processador
- 8 × NVIDIA H100
- CPUs do sistema
- 2 × Intel Xeon 8480C
- Núcleos da CPU (duas CPUs somadas)
- 112
- Armazenamento instalado (especificação do sistema)
- OS: 2 × 1.92 TB NVMe SSD (RAID 1); cache: 8 × 3.84 TB NVMe SSD (RAID 0)
Especificação da família
Última consulta · Fonte do fabricante
- Opções de armazenamento (família)
- OS: 2 × 1.92 TB NVMe M.2 SSD in RAID 1
- Interconexão das GPUs
- NVLink GPU-to-GPU: 900 GB/s
- Conexões de rede (especificação do sistema)
- 4 × OSFP / 8 × ConnectX-7 400 Gbps · 2 × dual-port ConnectX-7 · BMC 1 GbE RJ45 · management 100 GbE + 10 GbE
- Potência máxima de entrada do sistema (especificação)
- 10.200 W
- Dimensões (cm)
- 35,6 (A) × 48,23 (L) × 89,71 (P), max
- Peso
- 130,45 kg
- Sistema operacional
- DGX OS (Ubuntu server distribution)
Oito GPUs de 80 GB somam 640 GB, não formam um único espaço endereçável de 640 GB. Modelos maiores que uma GPU exigem particionamento, interconexão e configuração do runtime.
Foto: Imagem oficial do fabricante. · Fonte do fabricante
A banda de memória não mede a velocidade do modelo; confirme compatibilidade do runtime e do checkpoint. Especificação de hardware revisada: 2026-10-13.
Como funcionam as estimativas
- Candidatos
- Fichas revisadas usam parâmetros publicados; candidatos automáticos de texto usam contagens de tensores do repositório oficial (pesos quantizados empacotados e arquiteturas não suportadas ficam de fora).
- Planejamento
- Pesos Q4 + 20% de margem + reserva: 25% da memória unificada ou do sistema (no mínimo 2 GB, no máximo 8 GB; 16 GB aqui) ou 2 GB por GPU dedicada. Ajustável em “Ajustar a estimativa”. Não calculamos cache KV a partir do contexto.
- Níveis de compatibilidade
- Roda bem: a estimativa cabe na memória rápida (VRAM, ou memória unificada dentro da fatia de GPU do macOS). Roda devagar: dentro da memória da máquina, fora da parte rápida; a placa de vídeo descarrega camadas para a RAM do PC (a RAM informada, ou 32 GB presumidos). Não roda: acima das duas. Os níveis são estimativas de planejamento, nunca velocidade.
- Visão
- Modelos de visão e linguagem usam a estimativa Q4 de planejamento a partir da contagem de parâmetros (publicada na ficha do modelo ou lida no Hugging Face). Modelos de visão clássica (classificar, detectar, segmentar) usam estimativa de 16 bits. Não acompanhamos benchmark de visão, então as linhas não têm nota.
- Mídia e embeddings
- Mídia usa caminhos de execução documentados (hardware exato ou plataforma) e mínimos dos publicadores; um requisito publicado acima desta memória leva o modelo ao próximo degrau. Sem eles, uma estimativa de 16 bits a partir dos parâmetros publicados (× 1,2 + 2 GB), rotulada como tal. Embeddings usam pesos de 8 bits + 20% + 2 GB.
IA local: parâmetros, Q4 e memória · Catálogo completo de modelos · Dados e metodologia
