Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

GGUF ou MLX: qual arquivo baixar no Mac (e no LM Studio)?

O que é cada formato, quais apps abrem cada um e o que mostram os tamanhos reais e as velocidades medidas.

Arquivos e versões · atualizado em

Resposta curta

Depende do app, não do tamanho. Num Mac com chip M usando LM Studio ou mlx-lm, MLX; em qualquer outro caso, GGUF.

  • GGUF: Um arquivo que Ollama, LM Studio e llama.cpp abrem no Windows, no Linux e em qualquer Mac.
  • MLX: O formato da Apple, feito para a memória unificada do Mac. Só em Macs com chip M.
  • Tamanho: Quase igual: o Qwen3 4B em 4 bits tem 2,5 GB em GGUF e 2,3 GB em MLX.

Tamanhos publicados, lidos em 23 de out. de 2026: unsloth/Qwen3-4B-Instruct-2507-GGUF · mlx-community/Qwen3-4B-Instruct-2507-4bit

A ideia

Pense num filme vendido em dois discos: um que toca em quase qualquer aparelho e outro feito para uma marca de aparelho, que usa os recursos dela. O filme é o mesmo. O GGUF é o disco para qualquer aparelho: um arquivo que o llama.cpp e os apps feitos sobre ele leem no Windows, no Linux e no Mac. O MLX é o disco para um aparelho: uma pasta de arquivos para o framework MLX da própria Apple, que roda em Macs com Apple silicon (M1 em diante).

O GGUF foi pensado para “distribuição em arquivo único” (GGUF specification, lido em 25 de out. de 2026), e o llama.cpp não carrega outro formato (llama.cpp · models, lido em 25 de out. de 2026). O MLX é “um framework de arrays para aprendizado de máquina no Apple silicon” cujos arrays “ficam na memória compartilhada”, a memória unificada do Mac (Apple · MLX README, lido em 25 de out. de 2026). Os dois formatos costumam guardar uma cópia quantizada, então o mesmo conceito de Q4 vale para os dois.

Qual escolher

  1. É um PC com Windows ou Linux, uma placa de vídeo ou um Mac com Intel?

    SimGGUFOs apps de MLX rodam no Apple silicon; o llama.cpp roda também em NVIDIA, AMD e na CPU.

    Não

  2. Você usa o Ollama ou quer um arquivo que também funcione num PC?

    SimGGUFO Ollama importa arquivos GGUF; um arquivo GGUF roda em todos os apps abaixo.

    Não

  3. Você usa LM Studio ou mlx-lm num Mac com Apple silicon?

    SimMLXFeito para a memória unificada do Mac. O LM Studio lista os dois, então dá para testar também o GGUF do mesmo tamanho.

    Não

  4. GGUFO arquivo que todos os apps desta página abrem.

Leia de cima para baixo: o primeiro sim decide. As fontes de cada app estão na tabela abaixo.

O tamanho não decide: as duas cópias do mesmo modelo ficam a poucos por cento uma da outra (Qwen3 4B em 4 bits: 2,5 GB em GGUF e 2,3 GB em MLX). Escolha primeiro os bits para a sua memória, depois o formato para o seu app.

Qual app abre qual

O que a documentação de cada app diz, lida em 25 de out. de 2026.
AppGGUFMLXRoda emFonte
LM StudioSim, pelo llama.cppSim, em Macs com Apple siliconMac (só Apple silicon), Windows, LinuxLM Studio docs
OllamaSim (um Modelfile com FROM arquivo.gguf)Um motor MLX para modelos safetensors, ligado por padrão no Apple silicon; baixar pastas do mlx-community não é documentadoMac, Windows, LinuxOllama · importing a model
llama.cppSim, o único formato que ele carregaNãoApple silicon (Metal), NVIDIA (CUDA), AMD (HIP), Vulkan, CPUllama.cpp · models
mlx-lmNãoSim, MLX é o formato deleMacs com Apple siliconApple · mlx-lm README

A documentação do LM Studio diz que ele roda modelos “usando llama.cpp” no Mac, no Windows e no Linux e que, “em Macs com Apple Silicon, o LM Studio também roda LLMs usando o MLX da Apple” (LM Studio docs, lido em 25 de out. de 2026); no Mac ele exige Apple silicon (LM Studio · system requirements, lido em 25 de out. de 2026). O Ollama importa um arquivo GGUF com um Modelfile de uma linha (Ollama · importing a model, lido em 25 de out. de 2026); as notas de desenvolvimento dele acrescentam um motor MLX para modelos safetensors, ligado por padrão no Apple silicon (Ollama · development (MLX engine), lido em 25 de out. de 2026). Para começar com qualquer um dos dois, veja como começar com Ollama ou LM Studio.

Mac vs PC e NVIDIA

Num Mac com Apple silicon os dois formatos rodam no mesmo chip e na mesma memória unificada: o llama.cpp trata o Apple silicon como “cidadão de primeira classe” por meio do Metal (llama.cpp README, lido em 25 de out. de 2026), e o MLX é o framework da própria Apple para ele. É a única máquina em que a escolha existe de fato.

Num PC com Windows ou Linux, e em qualquer placa NVIDIA ou AMD, baixe GGUF: o llama.cpp tem kernels CUDA para NVIDIA, HIP para AMD e um backend Vulkan, e o LM Studio e o Ollama usam o llama.cpp ali. O MLX tem um backend CUDA para Linux (MLX · installation, lido em 25 de out. de 2026), mas as pastas MLX do Hugging Face são feitas para Macs, e o LM Studio só usa MLX no Apple silicon. Se o modelo cabe é a mesma pergunta nos dois formatos: veja Mac ou placa de vídeo e VRAM, RAM ou memória unificada.

Tamanhos

Qwen3 4B: GGUF e MLX lado a lado

Tamanho do download em GB com 4, 6 e 8 bits

  • GGUF
  • MLX
2,5 GBGGUF Q4_K_MGGUF Q4_K_M2,3 GBMLX 4 bitsMLX 4 bits3,3 GBGGUF Q6_KGGUF Q6_K3,3 GBMLX 6 bitsMLX 6 bits4,3 GBGGUF Q8_0GGUF Q8_04,3 GBMLX 8 bitsMLX 8 bits

Tamanhos no Hub, lidos em 23 de out. de 2026: unsloth/Qwen3-4B-Instruct-2507-GGUF e os repositórios MLX citados na tabela

GB = 10⁹ bytes, somados nos arquivos de pesos do repositório; lidos em 23 de out. de 2026. Um GGUF deste tamanho é um arquivo só; uma cópia MLX é uma pasta com partes safetensors.
ModeloBitsArquivo GGUF (GB)Pasta MLX (GB)Partes MLXRepositório MLX
Qwen3 4B42,5 (Q4_K_M)2,31mlx-community/Qwen3-4B-Instruct-2507-4bit
Qwen3 4B63,3 (Q6_K)3,31lmstudio-community/Qwen3-4B-Instruct-2507-MLX-6bit
Qwen3 4B84,3 (Q8_0)4,31lmstudio-community/Qwen3-4B-Instruct-2507-MLX-8bit
Qwen3 30B A3B418,6 (Q4_K_M)17,24lmstudio-community/Qwen3-30B-A3B-Instruct-2507-MLX-4bit
Qwen3 30B A3B625,1 (Q6_K)24,85lmstudio-community/Qwen3-30B-A3B-Instruct-2507-MLX-6bit
Qwen3 30B A3B832,5 (Q8_0)32,47lmstudio-community/Qwen3-30B-A3B-Instruct-2507-MLX-8bit

Com os mesmos bits, os dois formatos ficam a poucos por cento um do outro. O Qwen3 30B A3B, maior, mostra a outra diferença: o GGUF Q4_K_M dele é um arquivo de 18,6 GB, enquanto a cópia MLX de 4 bits tem 17,2 GB divididos em 4 arquivos que precisam ficar na mesma pasta. A tabela traz os dois modelos. A memória para rodar qualquer um é o arquivo mais espaço para a conversa; as página do Qwen3 4B lista cada arquivo com a memória que ele pede.

Velocidade medida

A pergunta mais comum é qual é mais rápido. Este site não tem uma execução do mesmo modelo nos dois formatos no mesmo Mac, então não responde. O que ele tem: os mantenedores do mlx-lm mediram cópias MLX destes dois modelos num Apple M4 Max · 64 GB (GPU cores not stated), e a tabela de Apple silicon do llama.cpp mediu um arquivo GGUF de referência (Llama 7B Q4_0) em 27 configurações de Mac. Modelos e máquinas diferentes, então os dois conjuntos não se comparam. (mlx-lm · BENCHMARKS.md, lido em 25 de out. de 2026)

Velocidade de geração, mlx_lm.benchmark --model <repo> -p 2048 -g 128 (maintainers' benchmark table); Apple M4 Max · 64 GB (GPU cores not stated); mlx 0.29.2.dev20251008+85a8824a8 · mlx-lm 0.28.2 · macOS 26.1. Medido pelos mantenedores do mlx-lm; a velocidade do prompt é outra coluna da fonte, que este site não guarda.
ModeloArquivoEscrita · tokens/s (medido)
Qwen3 4BMLX q4134.52
Qwen3 4BMLX q5116.39
Qwen3 4BMLX q6104.68
Qwen3 4BMLX q886.907
Qwen3 4BMLX bf1652.47
Qwen3 30B A3BMLX q4113.33
Qwen3 30B A3BMLX q5101.00
Qwen3 30B A3BMLX q694.14
Qwen3 30B A3BMLX q883.16

Dentro de um formato vale a regra dos tamanhos: menos bits, pasta menor, escrita mais rápida. O Qwen3 4B escreve 134,5 tokens por segundo em MLX q4 e 52,5 em MLX bf16, porque cada token novo lê o modelo inteiro da memória. O que é um token e por que a velocidade da memória define esse ritmo: tokens e tokens por segundo.

Perguntas

Um MLX de 4 bits tem a mesma qualidade de um GGUF Q4_K_M?

Parecida, não idêntica. Os dois guardam cerca de 4 bits por número, mas arredondam de jeitos diferentes: o Q4_K_M mantém algumas partes sensíveis em 6 bits, e o MLX de 4 bits arredonda grupos de 64 números com uma escala cada. Nenhum dos dois tem nota neste site; as notas são do modelo original.

Dá para usar MLX no Windows ou com placa NVIDIA?

Não no LM Studio, que só usa MLX em Macs com Apple silicon. O MLX em si tem um backend CUDA para Linux, mas os apps comuns no Windows e em placas NVIDIA carregam GGUF.

Dá para transformar um no outro?

Os dois são feitos a partir dos pesos originais de 16 bits, não um do outro. O comando convert do mlx-lm faz uma cópia MLX, e os scripts convert do llama.cpp fazem um GGUF. Para modelos populares, alguém em geral já fez isso.

Por que o LM Studio mostra os dois para o mesmo modelo?

Porque num Mac com Apple silicon ele roda os dois motores. Contas da comunidade como lmstudio-community e mlx-community publicam uma pasta MLX ao lado dos arquivos GGUF do mesmo modelo.