E se o modelo não couber na VRAM?
Mandar camadas para o processador e a RAM do PC: quando funciona, quanto custa e como o site indica isso.
Resposta curta
Ainda roda, bem mais devagar: as camadas que não cabem ficam na RAM do PC e rodam no processador.
- Quais apps: Os baseados no llama.cpp, como Ollama e LM Studio, conseguem dividir o modelo assim.
- Até onde: Placa de 8 GB com 32 GB de RAM: modelos de até 32 GB, marcados “roda devagar”.
- No Mac: Não há memória de vídeo separada; o modelo precisa caber na memória unificada.
Estimativa de planejamento com a regra do site, não uma medição. Metodologia
Como o offload funciona
Um modelo é uma pilha de camadas. Quando o arquivo é maior que a memória da placa de vídeo, o llama.cpp e os apps baseados nele (LM Studio, Ollama) colocam na placa quantas camadas couberem e deixam o resto na memória comum do computador, onde o processador as roda. A resposta é a mesma; só a velocidade muda. (llama.cpp README, lido em 17 de out. de 2026)
É mais lento porque cada palavra nova lê todas as camadas, e as camadas na RAM do PC são lidas na velocidade da memória do sistema. Os perfis do site registram 448 GB/s para a memória de uma placa RTX 5060 Ti 8 GB e 152 GB/s para a memória de sistema mais rápida que têm (a LPDDR5x de um notebook Snapdragon X2). A parte do trabalho que roda a partir da RAM do PC dita o ritmo (RTX 5060 Ti 8 GB, Surface Laptop X2 Plus). O site nunca transforma isso em velocidade: “roda devagar” é uma faixa, não um número.
Uma placa de 8 GB, modelo a modelo
Requisito planejado em Q4 na placa (reserva de 2 GB incluída) e a faixa do site, com 32 GB de RAM presumidos ou 16 GB informados.
| Modelo | Parâmetros (B) | Q4 na placa (GB) | RTX 4060 8 GB · 32 GB RAM | LOQ 15IRX10 i7-14700HX RTX 5060 16GB 83JE000QUS |
|---|---|---|---|---|
| Qwen3 4B Instruct 2507 | 4 | 5 | Roda bem | Roda bem |
| Qwen3 8B | 8,2 | 9 | Roda devagar | Roda devagar |
| Qwen3 14B | 14,8 | 14 | Roda devagar | Roda devagar |
| Mistral Small 3.2 24B | 24 | 21 | Roda devagar | Não roda |
| Qwen3 30B A3B Instruct 2507 | 30,5 | 25 | Roda devagar | Não roda |
| Olmo 3 32B Think | 32 | 26 | Roda devagar | Não roda |
Onde fica o limite
- Roda bem
- Até 8 GB na placa13 modelos de texto revisados na RTX 4060 · 8 GB de VRAM.
- Roda devagar
- Até 32 GB com 32 GB de RAMOs 8 GB da placa mais a RAM do PC, menos 8 GB do próprio sistema (25% da RAM, de 2 a 8 GB). 24 modelos revisados caem aqui.
- Menos RAM no PC, menos espaço
- Até 20 GB com 16 GB de RAMLOQ 15IRX10 · MTM 83JE000QUS informa 16 GB de RAM, então a faixa lenta termina antes: 10 modelos revisados.
- Quando a RAM é desconhecida
- 32 GB presumidos, e o site avisaUm perfil só da placa não diz quanta RAM o PC tem; a página mostra a suposição ao lado de cada linha lenta.
No Mac
O Mac não tem memória de vídeo separada, então não há para onde fazer offload. O que ele tem é um limite padrão de quanta memória a GPU pode usar; o site planeja com 75% da memória como essa parte. No Mac Studio · M5 Max · CPU de 18 núcleos / GPU de 40 núcleos · 64 GB unificados, a faixa “roda bem” do site termina em 56 GB (a parte da GPU mais a reserva) e “roda devagar” cobre o resto até 64 GB: o modelo cabe na memória, mas acima da parte da GPU precisa de um ajuste do sistema ou roda parcialmente na CPU. (Apple · recommendedMaxWorkingSetSize, lido em 17 de out. de 2026)
Toda página de hardware lista esses modelos à parte, em “Também roda devagar”, para nunca se misturarem aos que rodam bem.