RTX 5070 Ti · 16 GB de VRAM
NVIDIA · RTX 5070 Ti
125 modelos de texto rodam bem · banda de 896 GB/s
Modelos neste hardware
Comece por aqui
Arquivo Q4_K_M · 0,8 GB · bartowski/Llama-3.2-1B-Instruct-GGUF · O que é Q4?
Memória Precisa de ~1 GB · ~3 GB em RTX 5070 Ti · 16 GB de VRAM, incluindo ~2 GB que o sistema reserva
ollama run hf.co/bartowski/Llama-3.2-1B-Instruct-GGUF:Q4_K_M- Instale o Ollama
- Rode o comando acima
- Pergunte:
Explique o que é a janela de contexto, em duas frases.
Arquivo Q4_K_M · 2,2 GB · ibm-granite/granite-4.2-3b-GGUF · O que é Q4?
Memória Precisa de ~3 GB · ~5 GB em RTX 5070 Ti · 16 GB de VRAM, incluindo ~2 GB que o sistema reserva
ollama run hf.co/ibm-granite/granite-4.2-3b-GGUF:Q4_K_M- Instale o Ollama
- Rode o comando acima
- Pergunte:
Explique o que é a janela de contexto, em duas frases.
Arquivo Q4_K_M · 5,3 GB · ibm-granite/granite-4.2-8b-GGUF · O que é Q4?
Memória Precisa de ~6 GB · ~8 GB em RTX 5070 Ti · 16 GB de VRAM, incluindo ~2 GB que o sistema reserva
ollama run hf.co/ibm-granite/granite-4.2-8b-GGUF:Q4_K_M- Instale o Ollama
- Rode o comando acima
- Pergunte:
Explique o que é a janela de contexto, em duas frases.
Texto
Texto · LMArena
pontuação · maior é melhor
- Cor = publicador
Fonte: LMArena 2026-10-22 · coletado 2026-10-25 · dataset · CC BY 4.0 · Modelos sem pontuação ficam de fora; não recebem zero.
| Granite 4.2 3BQ4 · parâm. publicados · fonte | 1.290 ± 12 | ~5 GB | Q4 · parâm. publicados |
|---|---|---|---|
| Granite 4.2 8BQ4 · parâm. publicados · fonte | 1.290 ± 11 | ~8 GB | Q4 · parâm. publicados |
| Phi-4Q4 · parâm. publicados · fonte | 1.256 ± 5 | ~13 GB | Q4 · parâm. publicados |
| Llama 3.1 8B InstructQ4 · parâm. publicados · fonte | 1.211 ± 4 | ~8 GB | Q4 · parâm. publicados |
| Llama 3.2 3B InstructQ4 · parâm. publicados · fonte | 1.167 ± 8 | ~5 GB | Q4 · parâm. publicados |
| Llama 3.2 1B InstructQ4 · parâm. publicados · fonte | 1.111 ± 8 | ~3 GB | Q4 · parâm. publicados |
| Qwen3 14BQ4 · parâm. publicados · fonte | Fora do ranking de texto do LMArena de 2026-10-22 | ~14 GB | Q4 · parâm. publicados |
| Qwen3 8BQ4 · parâm. publicados · fonte | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | Q4 · parâm. publicados |
Nenhum modelo em até 16 GB tem nota LiveBench, então a tabela não tem coluna LiveBench. Pontuações LMArena nesta tabela: LMArena 2026-10-22 · coletado 2026-10-25 · dataset · CC BY 4.0
Todos os modelos de texto revisados aqui 37
Todos os que rodam aqui, bem ou devagar, com ou sem nota (21 rodam bem, 16 devagar); 19 de 37 têm resultado no LiveBench ou no LMArena. Primeiro os que rodam bem, depois os no limite, depois os lentos; em cada grupo, por downloads no Hub em 30 dias, lidos em 2026-10-25, não por qualidade.
| Qwen3 14B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~14 GB | 9,0 | Apache 2.0 | 10,4 mi |
|---|---|---|---|---|---|---|
| Qwen3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | 5,0 | Apache 2.0 | 8,1 mi |
| Qwen3.5 9B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | 5,7 | Apache 2.0 | 6,1 mi |
| Llama 3.1 8B Instruct | Fora do LiveBench 2026-06-25 | 1.211 | ~8 GB | 4,9 | Llama 3.1 | 4,8 mi |
| Qwen3 1.7B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~4 GB | 1,1 | Apache 2.0 | 4,1 mi |
| Gemma 4 E4B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~8 GB | 5,0 | Apache 2.0 | 4 mi |
| Llama 3.2 1B Instruct | Fora do LiveBench 2026-06-25 | 1.111 | ~3 GB | 0,8 | Llama 3.2 | 3,5 mi |
| Gemma 4 E2B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~6 GB | 3,1 | Apache 2.0 | 3 mi |
| Qwen3 4B Instruct 2507 | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~5 GB | 2,5 | Apache 2.0 | 2,6 mi |
| Gemma 4 12B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~11 GB | 7,1 | Apache 2.0 | 1,7 mi |
| Llama 3.2 3B Instruct | Fora do LiveBench 2026-06-25 | 1.167 | ~5 GB | 2,0 | Llama 3.2 | 1,1 mi |
| SmolLM3 3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~5 GB | 1,9 | Apache 2.0 | 718,7 mil |
| Phi-4 | Fora do LiveBench 2026-06-25 | 1.256 | ~13 GB | 8,0 | MIT | 368,3 mil |
| DeepSeek R1 0528 Qwen3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | 5,0 | MIT | 355,8 mil |
| Phi-4 mini | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~5 GB | 2,5 | MIT | 342,8 mil |
| Olmo 3 7B Instruct | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~8 GB | 4,5 | Apache 2.0 | 262,5 mil |
| Ministral 3 14B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~13 GB | 8,2 | Apache 2.0 | 126,5 mil |
| Ministral 3 3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~5 GB | 2,1 | Apache 2.0 | 87,4 mil |
| Ministral 3 8B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~9 GB | 5,2 | Apache 2.0 | 79,4 mil |
| Granite 4.2 8B | Fora do LiveBench 2026-06-25 | 1.290 | ~8 GB | 5,3 | Apache 2.0 | 78,3 mil |
| Granite 4.2 3B | Fora do LiveBench 2026-06-25 | 1.290 | ~5 GB | 2,2 | Apache 2.0 | 39,8 mil |
| Gemma 4 31B | Fora do LiveBench 2026-06-25 | 1.452 | ~26 GBRoda devagar | 18,3 | Apache 2.0 | 8,4 mi |
| Gemma 4 26B A4B | Fora do LiveBench 2026-06-25 | 1.437 | ~21 GBRoda devagar | 16,9 | Apache 2.0 | 8,2 mi |
| Qwen3.8 27B | 75,3 | 1.437 | ~23 GBRoda devagar | 16,5 | Apache 2.0 | 7,8 mi |
| gpt-oss-20b | Fora do LiveBench 2026-06-25 | 1.317 | ~18 GBRoda devagar | 11,6 | Apache 2.0 | 5,8 mi |
| Qwen3.6 27B | 64,0 | Fora do ranking de texto do LMArena de 2026-10-22 | ~23 GBRoda devagar | 16,8 | Apache 2.0 | 2,4 mi |
| Qwen3.5 35B A3B | Fora do LiveBench 2026-06-25 | 1.394 | ~29 GBRoda devagar | 22,0 | Apache 2.0 | 1,5 mi |
| Nemotron 3 Nano 30B A3B | Fora do LiveBench 2026-06-25 | 1.314 | ~32 GBRoda devagar | 24,6 | NVIDIA Nemotron Open Model | 1,4 mi |
| Qwen3 30B A3B Instruct 2507 | Fora do LiveBench 2026-06-25 | 1.382 | ~25 GBRoda devagar | 18,6 | Apache 2.0 | 1,1 mi |
| GLM-4.7 Flash | Fora do LiveBench 2026-06-25 | 1.365 | ~25 GBRoda devagar | 18,3 | MIT | 953,7 mil |
| Nemotron 3.5 Lightning 30B A3B | Fora do LiveBench 2026-06-25 | O Arena avaliou a versão NVFP4, NVIDIA-Nemotron-3.5-Lightning-30B-A3B (NVFP4); esta ficha é a referência BF16, que a NVIDIA reporta com notas diferentes | ~25 GBRoda devagar | 18,9 | OpenMDW 1.1 | 861,5 mil |
| Qwen3 Coder 30B A3B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~25 GBRoda devagar | 18,6 | Apache 2.0 | 745 mil |
| Devstral Small 2 24B | Fora do LiveBench 2026-06-25 | Fora do ranking de texto do LMArena de 2026-10-22 | ~20 GBRoda devagar | 14,3 | Apache 2.0 | 195,6 mil |
| Mistral Small 3.2 24B | Fora do LiveBench 2026-06-25 | 1.356 | ~21 GBRoda devagar | 14,3 | Apache 2.0 | 181,4 mil |
| Granite 4.2 30B | Fora do LiveBench 2026-06-25 | 1.340 | ~25 GBRoda devagar | 17,7 | Apache 2.0 | 39,3 mil |
| Olmo 3 32B Think | Fora do LiveBench 2026-06-25 | 1.306 | ~26 GBRoda devagar | 19,5 | Apache 2.0 | 13,1 mil |
| Smaug Mini | 76,9 | Fora do ranking de texto do LMArena de 2026-10-22 | ~23 GBRoda devagar | 16,5 | Apache 2.0 | 817 |
Também roda devagar
Acima dos 16 GB de VRAM, as camadas que não cabem rodam na CPU a partir da RAM do PC, até 40 GB no total. 32 GB de RAM do PC presumidos: esta configuração não informa a RAM. Estimativa de planejamento, não velocidade. Os 16 modelos revisados que rodam devagar estão na tabela acima.
- txgemma-27b-chatgoogle~23 GBroda bem com 24 GB
- txgemma-27b-predictgoogle~23 GBroda bem com 24 GB
- granite-4.1-30bibm-granite~24 GBroda bem com 24 GB
- granite-4.1-30b-baseibm-granite~24 GBroda bem com 24 GB
- Qwen3-30B-A3B-Thinking-2507Qwen~25 GBQ4 · contagem de tensores
- DeepSeek-R1-Distill-Qwen-32Bdeepseek-ai~27 GBQ4 · contagem de tensores
- SWE-Dev-32Bzai-org~27 GBQ4 · contagem de tensores
- SynLogic-32BMiniMaxAI~27 GBQ4 · contagem de tensores
- SynLogic-Mix-3-32BMiniMaxAI~27 GBQ4 · contagem de tensores
- DRIVE-SFTtencent~27 GBQ4 · contagem de tensores
- DRIVE-RLtencent~27 GBQ4 · contagem de tensores
- Smaug-34B-v0.1abacusai~28 GBQ4 · contagem de tensores
- CodeLlama-34b-hfmeta-llama~28 GBQ4 · contagem de tensores
- CodeLlama-34b-Instruct-hfmeta-llama~28 GBQ4 · contagem de tensores
- MetaMath-Bagel-DPO-34Babacusai~28 GBQ4 · contagem de tensores
- MetaMath-bagel-34b-v0.2-c1500abacusai~28 GBQ4 · contagem de tensores
- MM-OV-bagel-DPO-34b-c1000-250abacusai~28 GBQ4 · contagem de tensores
- MM-Orc-Vic-bagel-34b-c1000abacusai~28 GBQ4 · contagem de tensores
- CodeLlama-34b-Python-hfmeta-llama~28 GBQ4 · contagem de tensores
- Smaug-Mixtral-v0.1abacusai~38 GBQ4 · contagem de tensores
Ajustar a estimativa: quantização, contexto, reserva
Visão
Visão · LMArena
pontuação · maior é melhor
- Cor = publicador
Fonte: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0 · Modelos sem pontuação ficam de fora; não recebem zero.
| Molmo2-8BQ4 · contagem do Hugging Face · fonte | 1.112 ± 20 | ~9 GB | Q4 · contagem do Hugging Face |
|---|---|---|---|
| Qwen2-VL-7B-InstructQ4 · contagem do Hugging Face · fonte | 1.031 ± 11 | ~9 GB | Q4 · contagem do Hugging Face |
| Molmo-7B-D-0924Q4 · contagem do Hugging Face · fonte | 994 ± 14 | ~8 GB | Q4 · contagem do Hugging Face |
| Llama-3.2-11B-Vision-InstructQ4 · contagem do Hugging Face · fonte | 993 ± 11 | ~11 GB | Q4 · contagem do Hugging Face |
| MiniCPM-V-2_6Q4 · contagem do Hugging Face · fonte | 962 ± 16 | ~9 GB | Q4 · contagem do Hugging Face |
| Phi-3.5-vision-instructQ4 · contagem do Hugging Face · fonte | 919 ± 16 | ~6 GB | Q4 · contagem do Hugging Face |
| Gemma 4 12BQ4 · parâm. publicados · fonte | Fora do ranking de visão do LMArena de 2026-10-19 | ~11 GB | Q4 · parâm. publicados |
| Qwen3.5 9BQ4 · parâm. publicados · fonte | Fora do ranking de visão do LMArena de 2026-10-19 | ~9 GB | Q4 · parâm. publicados |
Pontuações LMArena nesta tabela: LMArena 2026-10-19 · coletado 2026-10-25 · dataset · CC BY 4.0
Também roda devagar
Acima dos 16 GB de VRAM, as camadas que não cabem rodam na CPU a partir da RAM do PC, até 40 GB no total. 32 GB de RAM do PC presumidos: esta configuração não informa a RAM. Estimativa de planejamento, não velocidade.
- Gemma 4 26B A4BGoogle~21 GBroda bem com 24 GB
- Qwen3.6 27BAlibaba~23 GBroda bem com 24 GB
- Qwen3.8 27BAlibaba~23 GBroda bem com 24 GB
- Smaug MiniAbacus AI~23 GBroda bem com 24 GB
- Gemma 4 31BGoogle~26 GBQ4 · parâm. publicados
- Qwen3.5 35B A3BAlibaba~29 GBQ4 · parâm. publicados
- diffusiongemma-26B-A4B-itgoogle~22 GBroda bem com 24 GB
- deepseek-vl2deepseek-ai~23 GBroda bem com 24 GB
- Fara1.5-27Bmicrosoft~23 GBroda bem com 24 GB
- gemma-3-27b-itgoogle~23 GBroda bem com 24 GB
- ERNIE-4.5-VL-28B-A3B-PTbaidu~25 GBQ4 · contagem do Hugging Face
- ERNIE-4.5-VL-28B-A3B-Thinkingbaidu~25 GBQ4 · contagem do Hugging Face
- Keye-VL-2.0-30B-A3BKwai-Keye~26 GBQ4 · contagem do Hugging Face
- Qwen3-VL-30B-A3B-InstructQwen~26 GBQ4 · contagem do Hugging Face
- gemma-4-31Bgoogle~27 GBQ4 · contagem do Hugging Face
- Qwen2.5-VL-32B-InstructQwen~28 GBQ4 · contagem do Hugging Face
- Qwen3.6-35B-A3BQwen~29 GBQ4 · contagem do Hugging Face
Outros 12 modelos de visão do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Visão
Imagem
Imagem · Aderência ao prompt · GenEval
0–1 · maior é melhor
Fonte: GenEval · 2023 · revisado 2026-10-05 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.
| Stable Diffusion XL 1.0Caminho da plataforma documentado · stable-diffusion.cpp · fonte | 0,55 | Fora do ranking de texto para imagem do LMArena de 2026-10-07 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
|---|---|---|---|---|
| Stable Diffusion 1.5Caminho da plataforma documentado · stable-diffusion.cpp · fonte | 0,43 | Fora do ranking de texto para imagem do LMArena de 2026-10-07 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
| TRELLIS-image-largeMínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | Não revisado para o LMArena | ~16 GB | Mínimo do publicador |
| FLUX.2 [klein] 4BMínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | 1.030 ± 3 | ~13 GB | Mínimo do publicador |
| FLUX.2 [klein] Base 4BMínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | O Arena avaliou flux-2-klein-4b; esta ficha é o checkpoint Base, não destilado | ~13 GB | Mínimo do publicador |
| BagelCaminho condicional · CUDA · fonte | Sem resultado publicado comparável | 898 ± 6 | ~12 GB | Caminho condicional |
| Stable Diffusion 3.5 LargeCaminho condicional · CUDA · fonte | Sem resultado publicado comparável | 938 ± 5 | ~11 GB | Caminho condicional |
| Stable Diffusion 3.5 MediumCaminho condicional · fonte | Sem resultado publicado comparável | Fora do ranking de texto para imagem do LMArena de 2026-10-07 | ~10 GB | Caminho condicional |
Pontuações LMArena nesta tabela: LMArena 2026-10-07 · coletado 2026-10-25 · dataset · CC BY 4.0
Com 24 GB você roda também… 23
O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.
- Kandinsky-5.0-T2I-Lite-sft-Diffuserskandinskylab~17 GBest. 16 bits · parâm.
- LongCat ImageMeituan~17 GBMínimo do publicador
- Z-ImageTongyi-MAI~17 GBest. 16 bits · parâm.
- Janus ProDeepSeek~19 GBest. 16 bits · parâm.
- Qwen-Image-2.1Qwen~20 GBest. 16 bits · parâm.
- Qwen-Image-2.1-TurboQwen~20 GBest. 16 bits · parâm.
- FIBOBria~22 GBest. 16 bits · parâm.
- FIBO LiteBria~22 GBest. 16 bits · parâm.
- Fibo-1.5briaai~22 GBest. 16 bits · parâm.
- Fibo-Editbriaai~22 GBest. 16 bits · parâm.
- HiDream-O1-ImageHiDream~22 GBest. 16 bits · parâm.
- HiDream-O1-Image-DevHiDream~22 GBest. 16 bits · parâm.
- Infinity 8BByteDance~22 GBest. 16 bits · parâm.
- Stable Diffusion 3.5 Large TurboStability AI~22 GBest. 16 bits · parâm.
- GLM-ImageZ AI~23 GBMínimo do publicador
- ERNIE ImageBaidu~24 GBMínimo do publicador
- ERNIE Image TurboBaidu~24 GBMínimo do publicador
- FLUX.2 [dev]Black Forest Labs~24 GBMínimo do publicador
- HiDream-O1-Image-Dev-2604HiDream-ai~24 GBest. 16 bits · parâm.
- HunyuanImage-2.1Tencent Hunyuan~24 GBMínimo do publicador
- Ideogram 4.0Ideogram~24 GBMínimo do publicador
- Ideogram 4.0 (Quality)Ideogram~24 GBMínimo do publicador
- TRELLIS.2-4Bmicrosoft~24 GBMínimo do publicador
Outros 17 modelos de imagem do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Imagem
Vídeo
| CogVideoX-5b-I2Vest. 16 bits · parâm. · fonte | ~16 GB | est. 16 bits · parâm. |
|---|---|---|
| CogVideoX1.5-5Best. 16 bits · parâm. · fonte | ~16 GB | est. 16 bits · parâm. |
| CogVideoX1.5-5B-I2Vest. 16 bits · parâm. · fonte | ~16 GB | est. 16 bits · parâm. |
| SANA-Video_2.0_5B_720pest. 16 bits · parâm. · fonte | ~13 GB | est. 16 bits · parâm. |
| Kandinsky-6.0-Lite-distill-5s-Diffusersest. 16 bits · parâm. · fonte | ~10 GB | est. 16 bits · parâm. |
| Allegroest. 16 bits · parâm. · fonte | ~9 GB | est. 16 bits · parâm. |
| Wan2.1 T2V 1.3BCaminho da plataforma documentado · Wan2.1 / PyTorch · fonte | ~8 GB | Caminho da plataforma documentado |
| Wan2.1-T2V-1.3B-DiffusersCaminho condicional · CUDA · fonte | ~8 GB | Caminho condicional |
Como esta lista funciona Primeiro os caminhos de execução documentados neste hardware, depois os mínimos dos publicadores (CUDA ou Apple MPS).
Com 24 GB você roda também… 3
O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.
- HunyuanVideo-1.5tencent~22 GBest. 16 bits · parâm.
- Wan2.2-TI2V-5BWan-AI~24 GBMínimo do publicador
- Wan2.2-TI2V-5B-DiffusersWan-AI~24 GBMínimo do publicador
Outros 20 modelos de vídeo do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Vídeo
Áudio
Áudio · Taxa de erro de palavras · Open ASR
% · menor é melhor
Fonte: Taxa de erro de palavras · Open ASR · revisado 2026-10-20 · Qualidade publicada na configuração original do benchmark; não medida neste hardware.
| Whisper large-v3-turboCaminho da plataforma documentado · whisper.cpp / CUDA · fonte | 7,83 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
|---|---|---|---|
| Whisper large-v3Caminho da plataforma documentado · whisper.cpp / CUDA · fonte | 7,44 | Caminho documentado sem valor de memória | Caminho da plataforma documentado |
| GaussianMindest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~16 GB | est. 16 bits · parâm. |
| Higgs Audio V3 TTSMínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | ~16 GB | Mínimo do publicador |
| higgs-tts-2-3b-baseest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~16 GB | est. 16 bits · parâm. |
| Maya1Mínimo do publicador · CUDA · fonte | Sem resultado publicado comparável | ~16 GB | Mínimo do publicador |
| MusicGen SmallCaminho da plataforma documentado · AudioCraft / PyTorch · fonte | Sem resultado publicado comparável | ~16 GB | Caminho da plataforma documentado |
| Phi-4-multimodal-instructest. 16 bits · parâm. · fonte | Sem resultado publicado comparável | ~16 GB | est. 16 bits · parâm. |
Com 24 GB você roda também… 12
O próximo tamanho de memória desta linha. Os valores são o requisito neste tipo de hardware.
- omniASR-W2V-7Bfacebook~18 GBest. 16 bits · parâm.
- MiMo-V2.5-ASRXiaomiMiMo~21 GBest. 16 bits · parâm.
- moshiko-pytorch-bf16kyutai~21 GBest. 16 bits · parâm.
- audio-flamingo-3-hfnvidia~22 GBest. 16 bits · parâm.
- Llasa-8BHKUSTAudio~23 GBest. 16 bits · parâm.
- MOSS-TTS-v1.5OpenMOSS-Team~23 GBest. 16 bits · parâm.
- personaplex-7b-v1nvidia~23 GBest. 16 bits · parâm.
- Qwen2-Audio-7B-InstructQwen~23 GBest. 16 bits · parâm.
- VibeVoice-ASRmicrosoft~23 GBest. 16 bits · parâm.
- VibeVoice-ASR-Streaming-7Bmicrosoft~23 GBest. 16 bits · parâm.
- Fish Audio S2 ProFish Audio~24 GBMínimo do publicador
- MiniMax-Music3MiniMaxAI~24 GBMínimo do publicador
Outros 33 modelos de áudio do catálogo não têm memória nem contagem de parâmetros utilizável para este perfil. Ver modelos de Áudio
Embeddings
Embeddings · MTEB (Multilingual, v2) · mean(task)
0–100 · maior é melhor
- Cor = publicador
| Qwen3-Embedding 8B8 bits · parâm. publicados · fonte | 70,6 | ~12 GB | 8 bits · parâm. publicados |
|---|---|---|---|
| Qwen3-Embedding 4B8 bits · parâm. publicados · fonte | 69,5 | ~7 GB | 8 bits · parâm. publicados |
| Harrier OSS v1 (0.6B)8 bits · parâm. publicados · fonte | 69,0 | ~3 GB | 8 bits · parâm. publicados |
| Qwen3-Embedding 0.6B8 bits · parâm. publicados · fonte | 64,3 | ~3 GB | 8 bits · parâm. publicados |
| Multilingual E5 Large Instruct8 bits · parâm. publicados · fonte | 63,2 | ~3 GB | 8 bits · parâm. publicados |
| EmbeddingGemma 28 bits · parâm. publicados · fonte | 61,4 | ~3 GB | 8 bits · parâm. publicados |
| EmbeddingGemma (300M)8 bits · parâm. publicados · fonte | 61,1 | ~3 GB | 8 bits · parâm. publicados |
| BGE-M38 bits · parâm. publicados · fonte | 59,6 | ~3 GB | 8 bits · parâm. publicados |
Com 24 GB você roda também… 1
O próximo tamanho de memória desta linha roda estes bem. Os valores são o requisito neste tipo de hardware.
- KaLM-Embedding-Gemma3-12B-2511tencent~17 GB8 bits · contagem do Hub
Roda bem em até 16 GB de VRAM · estimativas de planejamento, não velocidade medida
Medições
Tokens por segundo publicados, exatamente como medidos; nunca estimados.
Especificações
11 campos com fonte; a fonte aparece uma vez por grupo, e um campo de outra fonte tem o próprio link. Especificações oficiais
Marcador: o modelo de texto mais leve que não roda bem aqui, mas roda bem com 24 GB. Nenhum modelo de texto que roda bem aqui tem nota LiveBench. Estimativa Q4 de planejamento, não compatibilidade medida.
Configuração selecionada
Última consulta · Fonte do fabricante
- Capacidade de memória
- 16 GB
- Tipo de memória
- 16 GB GDDR7 · 256-bit
- Chip / processador
- Blackwell · RTX 5070 Ti
- Banda de memória
- 896 GB/s
- Núcleos CUDA
- 8.960
- Potência da GPU (especificação de referência)
- 300 W
- Interface de memória
- 256 bit
- Capacidade computacional CUDA
- 12.0
Especificação da família
Última consulta · Fonte do fabricante
- Data de lançamento
- 2025-02-20
- Lançamento
- 2025
RTX 5070 Ti de desktop com 16 GB GDDR7. A capacidade sozinha não determina velocidade local; confira runtime e formato do checkpoint.
Foto: Foto da ASUS de uma placa parceira GeForce RTX 5070 Ti · outras placas parceiras variam. · Fonte do fabricante
A banda de memória não mede a velocidade do modelo; confirme compatibilidade do runtime e do checkpoint. Especificação de hardware revisada: 2026-10-09.
Como funcionam as estimativas
- Candidatos
- Fichas revisadas usam parâmetros publicados; candidatos automáticos de texto usam contagens de tensores do repositório oficial (pesos quantizados empacotados e arquiteturas não suportadas ficam de fora).
- Planejamento
- Pesos Q4 + 20% de margem + reserva: 25% da memória unificada ou do sistema (no mínimo 2 GB, no máximo 8 GB; 2 GB aqui) ou 2 GB por GPU dedicada. Ajustável em “Ajustar a estimativa”. Não calculamos cache KV a partir do contexto.
- Níveis de compatibilidade
- Roda bem: a estimativa cabe na memória rápida (VRAM, ou memória unificada dentro da fatia de GPU do macOS). Roda devagar: dentro da memória da máquina, fora da parte rápida; a placa de vídeo descarrega camadas para a RAM do PC (a RAM informada, ou 32 GB presumidos). Não roda: acima das duas. Os níveis são estimativas de planejamento, nunca velocidade.
- Visão
- Modelos de visão e linguagem usam a estimativa Q4 de planejamento a partir da contagem de parâmetros (publicada na ficha do modelo ou lida no Hugging Face). Modelos de visão clássica (classificar, detectar, segmentar) usam estimativa de 16 bits. Não acompanhamos benchmark de visão, então as linhas não têm nota.
- Mídia e embeddings
- Mídia usa caminhos de execução documentados (hardware exato ou plataforma) e mínimos dos publicadores; um requisito publicado acima desta memória leva o modelo ao próximo degrau. Sem eles, uma estimativa de 16 bits a partir dos parâmetros publicados (× 1,2 + 2 GB), rotulada como tal. Embeddings usam pesos de 8 bits + 20% + 2 GB.
IA local: parâmetros, Q4 e memória · Catálogo completo de modelos · Dados e metodologia
Alternativas
Comparações lado a lado e outras máquinas na mesma escada de memória (VRAM); cada página lista os modelos que cabem nela.
Comparar com… 1
Também 16 GB 8
Menos memória · 12 GB 8
- RTX 5070 · 12 GB de VRAM
- RTX 3060 · 12 GB de VRAM
- RTX 4070 · 12 GB de VRAM
- RTX 4070 SUPER · 12 GB de VRAM
- Dell Alienware 16X Aurora (AC16251) · Core Ultra 9 290HX Plus · RTX 5070 Ti 12 GB · 32 GB
- HP ZBook Fury 16 G11 · Core i9-14900HX · RTX 4000 Ada 12 GB · 32 GB
- ROG Zephyrus G14 (2025) · Ryzen AI 9 HX 370 · RTX 5070 Ti · 32 GB
- RTX 5070 Laptop GPU · 12 GB de VRAM
