Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

DGX H100 · 8 × 80 GB

NVIDIA · DGX H100

Estações e servidores640 GB memória agregada de GPU

207 modelos de texto rodam bem · banda de 3.350 GB/s

Modelos neste hardware

Comece por aqui

Texto

Em até 640 GB: 207 rodam bem · 47 revisados

Texto · LiveBench · geral

0–100 · maior é melhor

  • Cor = publicador

Fonte: LiveBench 2026-06-25 · coletado 2026-09-26 · Modelos abertos sem nota não aparecem (sem nota ≠ 0).

Primeiro os que rodam bem, depois os no limite; em cada grupo, modelos revisados e depois downloads no Hub em 30 dias, não qualidade. Ordene por uma coluna de nota para classificar só por essa fonte. Os modelos são planejados na memória somada das GPUs deste sistema: cada um cabe ou não cabe.
Modelos de Texto que rodam bem em até 640 GB
Smaug MiniAbacus AI · 27BQ4 · parâm. publicados · fonte76,9Fora do ranking de texto do LMArena de 2026-10-22~37 GBQ4 · parâm. publicadosfonte
GLM-5.3Z.ai · 744BQ4 · parâm. publicados · fonte76,1O Arena lista só GLM-5.3 (Max), um nível de esforço nomeado, então nenhuma nota é associada a esta ficha~574 GBQ4 · parâm. publicadosfonte
Qwen3.8 27BAlibaba · 27B · LMArena 1.437Q4 · parâm. publicados · fonte75,31.437 ± 5~37 GBQ4 · parâm. publicadosfonte
DeepSeek V4 Flash · 0731DeepSeek · 304BQ4 · parâm. publicados · fonte74,2Fora do ranking de texto do LMArena de 2026-10-22~244 GBQ4 · parâm. publicadosfonte
GLM-5.2Z.ai · 744BQ4 · parâm. publicados · fonte73,2O Arena lista só GLM-5.2 (Max), um nível de esforço nomeado, então nenhuma nota é associada a esta ficha~574 GBQ4 · parâm. publicadosfonte
GLM-5.3 FlashZ.ai · 320B · LMArena 1.476Q4 · parâm. publicados · fonte71,61.476 ± 5~256 GBQ4 · parâm. publicadosfonte
Nemotron 3 Ultra 550B A55BNVIDIA · 550B · LMArena 1.426Q4 · parâm. publicados · fonte67,41.426 ± 7~429 GBQ4 · parâm. publicadosfonte
MiniMax M3MiniMax · 428B · LMArena 1.440Q4 · parâm. publicados · fonte67,31.440 ± 4~337 GBQ4 · parâm. publicadosfonte
8 de 207

Pontuações LMArena nesta tabela: LMArena 2026-10-22 · coletado 2026-10-25 · dataset · CC BY 4.0

Todos os modelos de texto revisados aqui 47

Todos os que rodam aqui, bem ou devagar, com ou sem nota; 27 de 47 têm resultado no LiveBench ou no LMArena. Primeiro os que rodam bem, depois os no limite, depois os lentos; em cada grupo, por downloads no Hub em 30 dias, lidos em 2026-10-25, não por qualidade.

Modelos de texto revisados que rodam em DGX H100 · 8 × 80 GB
Qwen3 14BAlibaba · 14,8BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~28 GB9,0Apache 2.010,4 mi
Gemma 4 31BGoogle · 30,7BFora do LiveBench 2026-06-251.452~40 GB18,3Apache 2.08,4 mi
Gemma 4 26B A4BGoogle · 25,2BFora do LiveBench 2026-06-251.437~35 GB16,9Apache 2.08,2 mi
Qwen3 8BAlibaba · 8,2BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~23 GB5,0Apache 2.08,1 mi
Qwen3.8 27BAlibaba · 27B75,31.437~37 GB16,5Apache 2.07,8 mi
GLM-5.3 FlashZ.ai · 320B71,61.476~256 GB156,8MIT6,4 mi
Qwen3.5 9BAlibaba · 9BFora do LiveBench 2026-06-25Fora do ranking de texto do LMArena de 2026-10-22~23 GB5,7Apache 2.06,1 mi
gpt-oss-20bOpenAI · 21BFora do LiveBench 2026-06-251.317~32 GB11,6Apache 2.05,8 mi
8 de 47

Ver modelos de Texto

Ajustar a estimativa: quantização, contexto, reservacarrega o catálogo atual

Visão

Em até 640 GB: 157 rodam bem · 12 revisados

Visão · LMArena

pontuação · maior é melhor

  • Cor = publicador

Fonte: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0 · Modelos sem pontuação ficam de fora; não recebem zero.

Primeiro os que rodam bem, depois os no limite; em cada grupo, modelos revisados e depois downloads no Hub em 30 dias, não qualidade. Ordene por uma coluna de nota para classificar só por essa fonte. Os modelos são planejados na memória somada das GPUs deste sistema: cada um cabe ou não cabe.
Modelos de Visão que rodam bem em até 640 GB
GLM-5.3 FlashZ.ai · 320B · Imagem → texto · LMArena 1.271Q4 · parâm. publicados · fonte1.271 ± 6~256 GBQ4 · parâm. publicadosfonte
Gemma 4 31BGoogle · 30,7B · Imagem → texto · LMArena 1.262Q4 · parâm. publicados · fonte1.262 ± 6~40 GBQ4 · parâm. publicadosfonte
Qwen3.8 27BAlibaba · 27B · Imagem → texto · LMArena 1.242Q4 · parâm. publicados · fonte1.242 ± 8~37 GBQ4 · parâm. publicadosfonte
Gemma 4 26B A4BGoogle · 25,2B · Imagem → texto · LMArena 1.242Q4 · parâm. publicados · fonte1.242 ± 6~35 GBQ4 · parâm. publicadosfonte
MiniMax M3MiniMax · 428B · Imagem → texto · LMArena 1.233Q4 · parâm. publicados · fonte1.233 ± 6~337 GBQ4 · parâm. publicadosfonte
Qwen3-VL-235B-A22B-InstructQwen · 235,67B · Imagem → texto · LMArena 1.215Q4 · contagem do Hugging Face · fonte1.215 ± 7~193 GBQ4 · contagem do Hugging Facefonte
gemma-3-27b-itgoogle · 27,43B · Imagem → texto · LMArena 1.160Q4 · contagem do Hugging Face · fonte1.160 ± 8~37 GBQ4 · contagem do Hugging Facefonte
GLM-4.5Vzai-org · 107,71B · Imagem → texto · LMArena 1.153Q4 · contagem do Hugging Face · fonte1.153 ± 12~97 GBQ4 · contagem do Hugging Facefonte
8 de 157

Pontuações LMArena nesta tabela: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0

Outros 12 modelos de visão do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Visão

Imagem

82 em até 640 GB

Imagem · Aderência ao prompt · GenEval

0–1 · maior é melhor

Fonte: GenEval · 2023 · revisado 2026-10-05 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.

Modelos de Imagem em até 640 GB
Stable Diffusion XL 1.0Stability AI · 2,6B · Texto → imagemCaminho da plataforma documentado · stable-diffusion.cpp · fonte0,55Fora do ranking de texto para imagem do LMArena de 2026-10-07Caminho documentado sem valor de memóriaCaminho da plataforma documentadostable-diffusion.cpp · fonte
Stable Diffusion 1.5Stability AI · 0,98B · Texto → imagemCaminho da plataforma documentado · stable-diffusion.cpp · fonte0,43Fora do ranking de texto para imagem do LMArena de 2026-10-07Caminho documentado sem valor de memóriaCaminho da plataforma documentadostable-diffusion.cpp · fonte
Cosmos3-Super-Text2ImageNVIDIA · 64B · Texto → imagem · LMArena 1.152Mínimo do publicador · CUDA · fonteSem resultado publicado comparável1.152 ± 6~640 GBMínimo do publicadorCUDA · fonte
Cosmos3-Super-Text2Image (agentic)NVIDIA · 64B · Texto → imagem · LMArena 1.165Mínimo do publicador · CUDA · fonteSem resultado publicado comparável1.165 ± 7~640 GBMínimo do publicadorCUDA · fonte
Cosmos3-Super-Text2Image-4StepNVIDIA · 64B · Texto → imagemMínimo do publicador · CUDA · fonteSem resultado publicado comparávelO Arena avaliou o Cosmos3-Super-Text2Image; esta ficha é o checkpoint destilado de 4 passos~640 GBMínimo do publicadorCUDA · fonte
HunyuanImage 3.0 Instruct (Fal)Tencent · 80B · Texto → imagemMínimo do publicador · CUDA · fonteSem resultado publicado comparávelO Arena avaliou hunyuan-image-3.0; esta ficha é o checkpoint Instruct~640 GBMínimo do publicadorCUDA · fonte
HunyuanImage 3.0 (Fal)Tencent · 80B · Texto → imagem · LMArena 1.150Mínimo do publicador · CUDA · fonteSem resultado publicado comparável1.150 ± 3~240 GBMínimo do publicadorCUDA · fonte
Emu3.5-ImageBAAI · 34,1B · Texto + imagem → imagemest. 16 bits · parâm. · fonteSem resultado publicado comparávelNão revisado para o LMArena~84 GBest. 16 bits · parâm.fonte
8 de 82

Pontuações LMArena nesta tabela: LMArena 2026-10-07 · coletado 2026-10-25 · dataset · CC BY 4.0

Outros 17 modelos de imagem do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Imagem

Vídeo

75 em até 640 GB
Modelos de Vídeo em até 640 GB
Cosmos3-Super-Image2Videonvidia · 64,6B · Imagem → vídeoest. 16 bits · parâm. · fonte~158 GBest. 16 bits · parâm.fonte
Cosmos3-Super-Image2Video-4Stepnvidia · 64B · Imagem → vídeoest. 16 bits · parâm. · fonte~156 GBest. 16 bits · parâm.fonte
MiniMax H3MiniMax · 33B · Texto → vídeoest. 16 bits · parâm. · fonte~82 GBest. 16 bits · parâm.fonte
Cosmos-H-Surgicalnvidia · 15,2B · Imagem → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
Wan-Dancer-14BWan-AI · Imagem → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
Wan2.2 T2V-A14BWan-AI · 27B · Texto → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
Wan2.2-I2V-A14BWan-AI · 27B · Imagem → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
Wan2.2-I2V-A14B-DiffusersWan-AI · 14,3B · Imagem → vídeoCaminho condicional · CUDA · fonte~80 GBCaminho condicionalCUDA · fonte
8 de 75

Como esta lista funciona Primeiro os caminhos de execução documentados neste hardware, depois os mínimos dos publicadores (CUDA ou Apple MPS).

Outros 20 modelos de vídeo do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Vídeo

Áudio

134 em até 640 GB

Áudio · Taxa de erro de palavras · Open ASR

% · menor é melhor

Fonte: Taxa de erro de palavras · Open ASR · revisado 2026-10-20 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.

Modelos de Áudio em até 640 GB
Whisper large-v3-turboOpenAI · 0,81B · Fala → textoCaminho da plataforma documentado · whisper.cpp / CUDA · fonte7,83Caminho documentado sem valor de memóriaCaminho da plataforma documentadowhisper.cpp / CUDA · fonte
Whisper large-v3OpenAI · 1,55B · Fala → textoCaminho da plataforma documentado · whisper.cpp / CUDA · fonte7,44Caminho documentado sem valor de memóriaCaminho da plataforma documentadowhisper.cpp / CUDA · fonte
Step-Audio-R1.1stepfun-ai · 33,5B · Fala → textoest. 16 bits · parâm. · fonteSem resultado publicado comparável~83 GBest. 16 bits · parâm.fonte
Voxtral-Small-24B-2507mistralai · 24,3B · Fala → textoest. 16 bits · parâm. · fonteSem resultado publicado comparável~61 GBest. 16 bits · parâm.fonte
Kimi-Audio-7Bmoonshotai · 9,8B · Texto → falaest. 16 bits · parâm. · fonteSem resultado publicado comparável~26 GBest. 16 bits · parâm.fonte
Kimi-Audio-7B-Instructmoonshotai · 9,8B · Texto → falaest. 16 bits · parâm. · fonteSem resultado publicado comparável~26 GBest. 16 bits · parâm.fonte
AuKtencent · 1,5B · Texto → falaMínimo do publicador · CUDA · fonteSem resultado publicado comparável~25 GBMínimo do publicadorCUDA · fonte
AuK-Flashtencent · Texto → falaMínimo do publicador · CUDA · fonteSem resultado publicado comparável~25 GBMínimo do publicadorCUDA · fonte
8 de 134

Outros 33 modelos de áudio do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Áudio

Embeddings

91 rodam bem em até 640 GB

Embeddings · MTEB (Multilingual, v2) · mean(task)

0–100 · maior é melhor

  • Cor = publicador

Fonte: Resultados MTEB (linhas curadas, fonte por modelo)

Modelos de Embeddings que rodam bem em até 640 GB
Qwen3-Embedding 8BAlibaba (Qwen)8 bits · parâm. publicados · fonte70,6~12 GB8 bits · parâm. publicadosfonte
Qwen3-Embedding 4BAlibaba (Qwen)8 bits · parâm. publicados · fonte69,5~7 GB8 bits · parâm. publicadosfonte
Harrier OSS v1 (0.6B)Microsoft8 bits · parâm. publicados · fonte69,0~3 GB8 bits · parâm. publicadosfonte
Qwen3-Embedding 0.6BAlibaba (Qwen)8 bits · parâm. publicados · fonte64,3~3 GB8 bits · parâm. publicadosfonte
Multilingual E5 Large Instructintfloat8 bits · parâm. publicados · fonte63,2~3 GB8 bits · parâm. publicadosfonte
EmbeddingGemma 2Google8 bits · parâm. publicados · fonte61,4~3 GB8 bits · parâm. publicadosfonte
EmbeddingGemma (300M)Google8 bits · parâm. publicados · fonte61,1~3 GB8 bits · parâm. publicadosfonte
BGE-M3BAAI8 bits · parâm. publicados · fonte59,6~3 GB8 bits · parâm. publicadosfonte
8 de 91

Ver modelos de Embeddings

Roda bem em até 640 GB de memória agregada de GPU · estimativas de planejamento, não velocidade medida cópia incluída do catálogo · 1.777 repositórios · consultado

Medições

Tokens por segundo publicados, exatamente como medidos; nunca estimados.

Medições publicadas neste hardware
DeepSeek V4 Flash FP8sgl-project/DeepSeek-V4-Flash-FP8 (reempaco…NVIDIA HGX H100 · 8× H100 80 GB (TP=8) · Lambda Cloud39 per user (32 concurrent)FP8 (sgl-project/DeepSeek-V4-Flash-FP8)
8192 / 1024 · 32 requisições simultâneas;…
SGLang with EAGLE speculative decoding (docker lmsysorg/sglang:deepseek-v4-hopper)
docker lmsysorg/sglang:deepseek-v4-hopp…
Lambda inference models · DeepSeek-V4-Flash (benchmark do fornecedor)
2026-10-09

Especificações

19 campos com fonte; a fonte aparece uma vez por grupo, e um campo de outra fonte tem o próprio link. Especificações oficiais

Memória agregada de GPU640 GB8 GPUs · somada, não um único espaço · fonte
Banda de memória3.350 GB/sEspecificação do fabricante · não é velocidade · fonte

Marcador: o modelo de texto com melhor nota LiveBench que roda bem aqui. Nenhum outro modelo de texto rodaria bem com o próximo tamanho de memória. Estimativa Q4 de planejamento, não compatibilidade medida.

Configuração selecionada

Última consulta · Fonte do fabricante

Capacidade de memória
640 GB
Tipo de memória
8 × 80 GB HBM3
Chip / processador
8 × NVIDIA H100
CPUs do sistema
2 × Intel Xeon 8480C
Núcleos da CPU (duas CPUs somadas)
112
Armazenamento instalado (especificação do sistema)
OS: 2 × 1.92 TB NVMe SSD (RAID 1); cache: 8 × 3.84 TB NVMe SSD (RAID 0)
Banda de memória
3.350 GB/s
Núcleos CUDA
16.896 por GPU
Potência por GPU (especificação do fabricante)
700 W

Especificação da família

Última consulta · Fonte do fabricante

Opções de armazenamento (família)
OS: 2 × 1.92 TB NVMe M.2 SSD in RAID 1
Interconexão das GPUs
NVLink GPU-to-GPU: 900 GB/s
Conexões de rede (especificação do sistema)
4 × OSFP / 8 × ConnectX-7 400 Gbps · 2 × dual-port ConnectX-7 · BMC 1 GbE RJ45 · management 100 GbE + 10 GbE
Potência máxima de entrada do sistema (especificação)
10.200 W
Capacidade computacional CUDA
9.0
Dimensões (cm)
35,6 (A) × 48,23 (L) × 89,71 (P), max
Peso
130,45 kg
Sistema operacional
DGX OS (Ubuntu server distribution)
Data de anúncio
2022-03-22
Lançamento
2022

Oito GPUs de 80 GB somam 640 GB, não formam um único espaço endereçável de 640 GB. Modelos maiores que uma GPU exigem particionamento, interconexão e configuração do runtime.

Foto: Imagem oficial do fabricante. · Fonte do fabricante

A banda de memória não mede a velocidade do modelo; confirme compatibilidade do runtime e do checkpoint. Especificação de hardware revisada: 2026-10-13.

Como funcionam as estimativas
Candidatos
Fichas revisadas usam parâmetros publicados; candidatos automáticos de texto usam contagens de tensores do repositório oficial (pesos quantizados empacotados e arquiteturas não suportadas ficam de fora).
Planejamento
Pesos Q4 + 20% de margem + reserva: 25% da memória unificada ou do sistema (no mínimo 2 GB, no máximo 8 GB; 16 GB aqui) ou 2 GB por GPU dedicada. Ajustável em “Ajustar a estimativa”. Não calculamos cache KV a partir do contexto.
Níveis de compatibilidade
Roda bem: a estimativa cabe na memória rápida (VRAM, ou memória unificada dentro da fatia de GPU do macOS). Roda devagar: dentro da memória da máquina, fora da parte rápida; a placa de vídeo descarrega camadas para a RAM do PC (a RAM informada, ou 32 GB presumidos). Não roda: acima das duas. Os níveis são estimativas de planejamento, nunca velocidade.
Visão
Modelos de visão e linguagem usam a estimativa Q4 de planejamento a partir da contagem de parâmetros (publicada na ficha do modelo ou lida no Hugging Face). Modelos de visão clássica (classificar, detectar, segmentar) usam estimativa de 16 bits. Não acompanhamos benchmark de visão, então as linhas não têm nota.
Mídia e embeddings
Mídia usa caminhos de execução documentados (hardware exato ou plataforma) e mínimos dos publicadores; um requisito publicado acima desta memória leva o modelo ao próximo degrau. Sem eles, uma estimativa de 16 bits a partir dos parâmetros publicados (× 1,2 + 2 GB), rotulada como tal. Embeddings usam pesos de 8 bits + 20% + 2 GB.

IA local: parâmetros, Q4 e memória · Catálogo completo de modelos · Dados e metodologia