Mac ou placa de vídeo para IA local?
Mais memória ou mais velocidade, com os números do próprio site.
Resposta curta
Placa de vídeo pela velocidade, Mac pelo tamanho. Escolha pelo maior modelo que você quer rodar.
- RTX 4090 24 GB: Até uns 27B em Q4, 189 tokens/s num 7B.
- Mac Studio M5 Max 64GB: Até uns 49B, 120 tokens/s no mesmo 7B.
- Por quê: VRAM: mais rápida, mas até 32 GB nas placas de consumo; o Mac tem bem mais.
Estimativas de planejamento com a regra do site; velocidades são resultados publicados do llama.cpp. Metodologia
A diferença real
Uma placa de vídeo traz memória própria muito rápida (VRAM), mas pouca: as placas de consumo param em 32 GB. Um Mac tem uma só memória unificada que a GPU divide com o sistema, até centenas de gigabytes, em geral com menos banda que uma placa topo de linha. Como o texto é gerado no ritmo da banda de memória, a placa vence em velocidade para qualquer modelo que comporte; o Mac vence no tamanho de modelo que consegue carregar.
No PC, o sistema roda numa RAM separada, então o site separa só 2 GB da placa. No Mac, o modelo divide a memória com o macOS e os apps, então o site separa 25% (de 2 a 8 GB) e planeja dentro da parte padrão da GPU. (Apple · recommendedMaxWorkingSetSize, lido em 17 de out. de 2026)
Lado a lado
Três pares com memória ou ambição parecidas. Estimativas de planejamento Q4; velocidade é o resultado publicado de 7B Q4_0 quando uma fonte mediu aquela máquina.
| Máquina | Memória para modelos (GB) | Maior tamanho Q4 (B) | Modelos de texto revisados que rodam bem | Banda (GB/s) | Velocidade 7B Q4_0 (tokens/s) |
|---|---|---|---|---|---|
| RTX 5060 Ti 16 GB | 16 | 14 | 21 | Sem banda do fabricante registrada para este perfil | 93,5 |
| Mac mini M4 16GB | 16 | 14 | 21 | 120 | 24,1 |
| RTX 4090 24 GB | 24 | 27 | 28 | 1.008 | 189 |
| Mac Studio M5 Max 64GB | 56 | 49 | 37 | 614 | 119,9 |
| RTX 5090 | 32 | 35 | 37 | 1.792 | 300,4 |
| Mac Studio M5 Ultra 512GB | 392 | 120 | 43 | 1.200 | 179,1 |
Fontes das velocidades: (llama.cpp CUDA scoreboard · community result, lido em 25 de set. de 2026) (llama.cpp Apple Silicon summary · community result, lido em 25 de out. de 2026)
Como escolher
- Você quer modelos pequenos, rápidos
- Uma placa de vídeoModelos de até uns 27B numa placa de 24 GB respondem rápido, e o PC continua atualizável.
- Você quer modelos grandes
- Um Mac com bastante memória56 GB para modelos num Mac Studio de 64 GB: tamanhos que nenhuma placa de consumo comporta sozinha.
- Você já tem um PC
- Comece pela placa deleModelos um pouco grandes demais ainda rodam, devagar, com parte na RAM do PC.
- Imagem e vídeo também
- Confira as páginas de formatoModelos de imagem e vídeo seguem regras de memória próprias; cada página de modelo diz quais caminhos de hardware o publicador documenta.