Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

E se o modelo não couber na VRAM?

Mandar camadas para o processador e a RAM do PC: quando funciona, quanto custa e como o site indica isso.

Velocidade · atualizado em

Resposta curta

Ainda roda, bem mais devagar: as camadas que não cabem ficam na RAM do PC e rodam no processador.

  • Quais apps: Os baseados no llama.cpp, como Ollama e LM Studio, conseguem dividir o modelo assim.
  • Até onde: Placa de 8 GB com 32 GB de RAM: modelos de até 32 GB, marcados “roda devagar”.
  • No Mac: Não há memória de vídeo separada; o modelo precisa caber na memória unificada.

Estimativa de planejamento com a regra do site, não uma medição. Metodologia

Como o offload funciona

Um modelo é uma pilha de camadas. Quando o arquivo é maior que a memória da placa de vídeo, o llama.cpp e os apps baseados nele (LM Studio, Ollama) colocam na placa quantas camadas couberem e deixam o resto na memória comum do computador, onde o processador as roda. A resposta é a mesma; só a velocidade muda. (llama.cpp README, lido em 17 de out. de 2026)

É mais lento porque cada palavra nova lê todas as camadas, e as camadas na RAM do PC são lidas na velocidade da memória do sistema. Os perfis do site registram 448 GB/s para a memória de uma placa RTX 5060 Ti 8 GB e 152 GB/s para a memória de sistema mais rápida que têm (a LPDDR5x de um notebook Snapdragon X2). A parte do trabalho que roda a partir da RAM do PC dita o ritmo (RTX 5060 Ti 8 GB, Surface Laptop X2 Plus). O site nunca transforma isso em velocidade: “roda devagar” é uma faixa, não um número.

Uma placa de 8 GB, modelo a modelo

Requisito planejado em Q4 na placa (reserva de 2 GB incluída) e a faixa do site, com 32 GB de RAM presumidos ou 16 GB informados.

Modelos revisados numa placa de 8 GB com 32 GB ou 16 GB de RAM no PC.
ModeloParâmetros (B)Q4 na placa (GB)RTX 4060 8 GB · 32 GB RAMLOQ 15IRX10 i7-14700HX RTX 5060 16GB 83JE000QUS
Qwen3 4B Instruct 250745Roda bemRoda bem
Qwen3 8B8,29Roda devagarRoda devagar
Qwen3 14B14,814Roda devagarRoda devagar
Mistral Small 3.2 24B2421Roda devagarNão roda
Qwen3 30B A3B Instruct 250730,525Roda devagarNão roda
Olmo 3 32B Think3226Roda devagarNão roda

Onde fica o limite

Roda bem
Até 8 GB na placa13 modelos de texto revisados na RTX 4060 · 8 GB de VRAM.
Roda devagar
Até 32 GB com 32 GB de RAMOs 8 GB da placa mais a RAM do PC, menos 8 GB do próprio sistema (25% da RAM, de 2 a 8 GB). 24 modelos revisados caem aqui.
Menos RAM no PC, menos espaço
Até 20 GB com 16 GB de RAMLOQ 15IRX10 · MTM 83JE000QUS informa 16 GB de RAM, então a faixa lenta termina antes: 10 modelos revisados.
Quando a RAM é desconhecida
32 GB presumidos, e o site avisaUm perfil só da placa não diz quanta RAM o PC tem; a página mostra a suposição ao lado de cada linha lenta.

No Mac

O Mac não tem memória de vídeo separada, então não há para onde fazer offload. O que ele tem é um limite padrão de quanta memória a GPU pode usar; o site planeja com 75% da memória como essa parte. No Mac Studio · M5 Max · CPU de 18 núcleos / GPU de 40 núcleos · 64 GB unificados, a faixa “roda bem” do site termina em 56 GB (a parte da GPU mais a reserva) e “roda devagar” cobre o resto até 64 GB: o modelo cabe na memória, mas acima da parte da GPU precisa de um ajuste do sistema ou roda parcialmente na CPU. (Apple · recommendedMaxWorkingSetSize, lido em 17 de out. de 2026)

Toda página de hardware lista esses modelos à parte, em “Também roda devagar”, para nunca se misturarem aos que rodam bem.