GGUF ou MLX: qual arquivo baixar no Mac (e no LM Studio)?
O que é cada formato, quais apps abrem cada um e o que mostram os tamanhos reais e as velocidades medidas.
Resposta curta
Depende do app, não do tamanho. Num Mac com chip M usando LM Studio ou mlx-lm, MLX; em qualquer outro caso, GGUF.
- GGUF: Um arquivo que Ollama, LM Studio e llama.cpp abrem no Windows, no Linux e em qualquer Mac.
- MLX: O formato da Apple, feito para a memória unificada do Mac. Só em Macs com chip M.
- Tamanho: Quase igual: o Qwen3 4B em 4 bits tem 2,5 GB em GGUF e 2,3 GB em MLX.
Tamanhos publicados, lidos em 23 de out. de 2026: unsloth/Qwen3-4B-Instruct-2507-GGUF · mlx-community/Qwen3-4B-Instruct-2507-4bit
A ideia
Pense num filme vendido em dois discos: um que toca em quase qualquer aparelho e outro feito para uma marca de aparelho, que usa os recursos dela. O filme é o mesmo. O GGUF é o disco para qualquer aparelho: um arquivo que o llama.cpp e os apps feitos sobre ele leem no Windows, no Linux e no Mac. O MLX é o disco para um aparelho: uma pasta de arquivos para o framework MLX da própria Apple, que roda em Macs com Apple silicon (M1 em diante).
O GGUF foi pensado para “distribuição em arquivo único” (GGUF specification, lido em 25 de out. de 2026), e o llama.cpp não carrega outro formato (llama.cpp · models, lido em 25 de out. de 2026). O MLX é “um framework de arrays para aprendizado de máquina no Apple silicon” cujos arrays “ficam na memória compartilhada”, a memória unificada do Mac (Apple · MLX README, lido em 25 de out. de 2026). Os dois formatos costumam guardar uma cópia quantizada, então o mesmo conceito de Q4 vale para os dois.
Qual escolher
É um PC com Windows ou Linux, uma placa de vídeo ou um Mac com Intel?
SimGGUFOs apps de MLX rodam no Apple silicon; o llama.cpp roda também em NVIDIA, AMD e na CPU.
Não
Você usa o Ollama ou quer um arquivo que também funcione num PC?
SimGGUFO Ollama importa arquivos GGUF; um arquivo GGUF roda em todos os apps abaixo.
Não
Você usa LM Studio ou mlx-lm num Mac com Apple silicon?
SimMLXFeito para a memória unificada do Mac. O LM Studio lista os dois, então dá para testar também o GGUF do mesmo tamanho.
Não
GGUFO arquivo que todos os apps desta página abrem.
O tamanho não decide: as duas cópias do mesmo modelo ficam a poucos por cento uma da outra (Qwen3 4B em 4 bits: 2,5 GB em GGUF e 2,3 GB em MLX). Escolha primeiro os bits para a sua memória, depois o formato para o seu app.
Qual app abre qual
| App | GGUF | MLX | Roda em | Fonte |
|---|---|---|---|---|
| LM Studio | Sim, pelo llama.cpp | Sim, em Macs com Apple silicon | Mac (só Apple silicon), Windows, Linux | LM Studio docs |
| Ollama | Sim (um Modelfile com FROM arquivo.gguf) | Um motor MLX para modelos safetensors, ligado por padrão no Apple silicon; baixar pastas do mlx-community não é documentado | Mac, Windows, Linux | Ollama · importing a model |
| llama.cpp | Sim, o único formato que ele carrega | Não | Apple silicon (Metal), NVIDIA (CUDA), AMD (HIP), Vulkan, CPU | llama.cpp · models |
| mlx-lm | Não | Sim, MLX é o formato dele | Macs com Apple silicon | Apple · mlx-lm README |
A documentação do LM Studio diz que ele roda modelos “usando llama.cpp” no Mac, no Windows e no Linux e que, “em Macs com Apple Silicon, o LM Studio também roda LLMs usando o MLX da Apple” (LM Studio docs, lido em 25 de out. de 2026); no Mac ele exige Apple silicon (LM Studio · system requirements, lido em 25 de out. de 2026). O Ollama importa um arquivo GGUF com um Modelfile de uma linha (Ollama · importing a model, lido em 25 de out. de 2026); as notas de desenvolvimento dele acrescentam um motor MLX para modelos safetensors, ligado por padrão no Apple silicon (Ollama · development (MLX engine), lido em 25 de out. de 2026). Para começar com qualquer um dos dois, veja como começar com Ollama ou LM Studio.
Mac vs PC e NVIDIA
Num Mac com Apple silicon os dois formatos rodam no mesmo chip e na mesma memória unificada: o llama.cpp trata o Apple silicon como “cidadão de primeira classe” por meio do Metal (llama.cpp README, lido em 25 de out. de 2026), e o MLX é o framework da própria Apple para ele. É a única máquina em que a escolha existe de fato.
Num PC com Windows ou Linux, e em qualquer placa NVIDIA ou AMD, baixe GGUF: o llama.cpp tem kernels CUDA para NVIDIA, HIP para AMD e um backend Vulkan, e o LM Studio e o Ollama usam o llama.cpp ali. O MLX tem um backend CUDA para Linux (MLX · installation, lido em 25 de out. de 2026), mas as pastas MLX do Hugging Face são feitas para Macs, e o LM Studio só usa MLX no Apple silicon. Se o modelo cabe é a mesma pergunta nos dois formatos: veja Mac ou placa de vídeo e VRAM, RAM ou memória unificada.
Tamanhos
Qwen3 4B: GGUF e MLX lado a lado
Tamanho do download em GB com 4, 6 e 8 bits
- GGUF
- MLX
Tamanhos no Hub, lidos em 23 de out. de 2026: unsloth/Qwen3-4B-Instruct-2507-GGUF e os repositórios MLX citados na tabela
| Modelo | Bits | Arquivo GGUF (GB) | Pasta MLX (GB) | Partes MLX | Repositório MLX |
|---|---|---|---|---|---|
| Qwen3 4B | 4 | 2,5 (Q4_K_M) | 2,3 | 1 | mlx-community/Qwen3-4B-Instruct-2507-4bit |
| Qwen3 4B | 6 | 3,3 (Q6_K) | 3,3 | 1 | lmstudio-community/Qwen3-4B-Instruct-2507-MLX-6bit |
| Qwen3 4B | 8 | 4,3 (Q8_0) | 4,3 | 1 | lmstudio-community/Qwen3-4B-Instruct-2507-MLX-8bit |
| Qwen3 30B A3B | 4 | 18,6 (Q4_K_M) | 17,2 | 4 | lmstudio-community/Qwen3-30B-A3B-Instruct-2507-MLX-4bit |
| Qwen3 30B A3B | 6 | 25,1 (Q6_K) | 24,8 | 5 | lmstudio-community/Qwen3-30B-A3B-Instruct-2507-MLX-6bit |
| Qwen3 30B A3B | 8 | 32,5 (Q8_0) | 32,4 | 7 | lmstudio-community/Qwen3-30B-A3B-Instruct-2507-MLX-8bit |
Com os mesmos bits, os dois formatos ficam a poucos por cento um do outro. O Qwen3 30B A3B, maior, mostra a outra diferença: o GGUF Q4_K_M dele é um arquivo de 18,6 GB, enquanto a cópia MLX de 4 bits tem 17,2 GB divididos em 4 arquivos que precisam ficar na mesma pasta. A tabela traz os dois modelos. A memória para rodar qualquer um é o arquivo mais espaço para a conversa; as página do Qwen3 4B lista cada arquivo com a memória que ele pede.
Velocidade medida
A pergunta mais comum é qual é mais rápido. Este site não tem uma execução do mesmo modelo nos dois formatos no mesmo Mac, então não responde. O que ele tem: os mantenedores do mlx-lm mediram cópias MLX destes dois modelos num Apple M4 Max · 64 GB (GPU cores not stated), e a tabela de Apple silicon do llama.cpp mediu um arquivo GGUF de referência (Llama 7B Q4_0) em 27 configurações de Mac. Modelos e máquinas diferentes, então os dois conjuntos não se comparam. (mlx-lm · BENCHMARKS.md, lido em 25 de out. de 2026)
| Modelo | Arquivo | Escrita · tokens/s (medido) |
|---|---|---|
| Qwen3 4B | MLX q4 | 134.52 |
| Qwen3 4B | MLX q5 | 116.39 |
| Qwen3 4B | MLX q6 | 104.68 |
| Qwen3 4B | MLX q8 | 86.907 |
| Qwen3 4B | MLX bf16 | 52.47 |
| Qwen3 30B A3B | MLX q4 | 113.33 |
| Qwen3 30B A3B | MLX q5 | 101.00 |
| Qwen3 30B A3B | MLX q6 | 94.14 |
| Qwen3 30B A3B | MLX q8 | 83.16 |
Dentro de um formato vale a regra dos tamanhos: menos bits, pasta menor, escrita mais rápida. O Qwen3 4B escreve 134,5 tokens por segundo em MLX q4 e 52,5 em MLX bf16, porque cada token novo lê o modelo inteiro da memória. O que é um token e por que a velocidade da memória define esse ritmo: tokens e tokens por segundo.
Perguntas
Um MLX de 4 bits tem a mesma qualidade de um GGUF Q4_K_M?
Parecida, não idêntica. Os dois guardam cerca de 4 bits por número, mas arredondam de jeitos diferentes: o Q4_K_M mantém algumas partes sensíveis em 6 bits, e o MLX de 4 bits arredonda grupos de 64 números com uma escala cada. Nenhum dos dois tem nota neste site; as notas são do modelo original.
Dá para usar MLX no Windows ou com placa NVIDIA?
Não no LM Studio, que só usa MLX em Macs com Apple silicon. O MLX em si tem um backend CUDA para Linux, mas os apps comuns no Windows e em placas NVIDIA carregam GGUF.
Dá para transformar um no outro?
Os dois são feitos a partir dos pesos originais de 16 bits, não um do outro. O comando convert do mlx-lm faz uma cópia MLX, e os scripts convert do llama.cpp fazem um GGUF. Para modelos populares, alguém em geral já fez isso.
Por que o LM Studio mostra os dois para o mesmo modelo?
Porque num Mac com Apple silicon ele roda os dois motores. Contas da comunidade como lmstudio-community e mlx-community publicam uma pasta MLX ao lado dos arquivos GGUF do mesmo modelo.