Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

O que são versões GGUF, MLX, fine-tune e abliterated?

Quem fez cada cópia de um modelo, o que mudou nela e qual baixar.

Arquivos e versões · atualizado em

Resposta curta

GGUF e MLX são formatos de arquivo: o mesmo modelo, empacotado para apps diferentes. Fine-tune e abliterated são modelos alterados: alguém mudou o original.

  • GGUF: Um arquivo que Ollama, LM Studio e llama.cpp abrem em qualquer computador.
  • MLX: O formato da Apple para Macs com chip M, aberto pelo LM Studio.
  • Fine-tune: O original treinado de novo com novos dados. É outro modelo.
  • Abliterated: Uma cópia editada por terceiros para recusar menos.

Formatos: (Hugging Face · GGUF, lido em 17 de out. de 2026) · (Apple · MLX, lido em 17 de out. de 2026)

Tipos de versão

Original
Os pesos como o publicador treinouEm geral arquivos safetensors de 16 bits (BF16), feitos para servidores e para novos treinos.
Quantizado oficial
Uma cópia menor lançada pelo publicadorArquivos FP8, NVFP4 ou AWQ, mais para GPUs de servidor.
GGUF
Um arquivo por precisão, para o llama.cppConvertido pelo publicador ou pela comunidade.Hugging Face · GGUF
MLX
Uma cópia para o framework MLX, da AppleConvertido pela comunidade, em geral para Macs.Apple · MLX
Fine-tune
O modelo treinado de novo com novos dadosMuda o que ele sabe ou como responde. Mesmo tamanho e memória do original.
Adapter · merge
Um arquivo extra pequeno, ou dois modelos misturadosUm adapter (LoRA) carrega por cima do original; um merge combina os pesos de vários modelos.

Qual dos dois baixar no Mac ou no LM Studio, com os apps que abrem cada um, tamanhos reais e velocidades medidas: GGUF ou MLX.

Um modelo, quatro cópias

Qwen3.6 27B no Hugging Face. Tamanhos somados dos arquivos de pesos de cada repositório, lidos em 16 de out. de 2026.

GB = 10⁹ bytes. Os dois repositórios do publicador incluem os pesos de visão; o tamanho GGUF é só o arquivo de linguagem.
VersãoRepositórioFeito porTamanho (GB)
Original · BF16Qwen/Qwen3.6-27BPublicador55,6
Quantizado oficial · FP8Qwen/Qwen3.6-27B-FP8Publicador30,9
GGUF · Q4_K_Munsloth/Qwen3.6-27B-GGUFComunidade16,8
MLX · 4-bitlmstudio-community/Qwen3.6-27B-MLX-4bitComunidade16,1

As quatro cópias partem do mesmo conjunto de parâmetros, então o site planeja todas com uma estimativa por precisão (bytes por parâmetro). As notas de benchmark deste site são dos pesos originais do publicador; uma cópia convertida pode pontuar um pouco diferente, e um fine-tune é outro modelo.

Como distinguir

No Hugging Face, uma cópia indica o original no campo base_model, e o Hub classifica a ligação como fine-tune, adapter, versão quantizada ou merge. A página da cópia passa a mostrar o modelo base (Hugging Face · base_model, lido em 17 de out. de 2026).

Quem publicou
A conta do publicador, ou de outra pessoaQwen/… é o publicador; unsloth/… e lmstudio-community/… são conversores.
O que o nome acrescenta
GGUF, MLX, um número de bits ou um nome novoUm nome novo costuma indicar fine-tune ou merge: outro modelo.
Licença
Leia também a licença do originalAs cópias partem dos pesos do original e podem estar sujeitas aos termos dele.

Abliterated e sem filtro

Modelos de chat são treinados para recusar alguns pedidos. Pesquisadores mostraram que esse comportamento de recusa está ligado a uma direção nas ativações internas do modelo (Arditi et al., 2024, lido em 17 de out. de 2026). A “abliteration” (abliteração) remove essa direção dos pesos, e a cópia passa a recusar bem menos. “Uncensored” (sem filtro) é um rótulo mais amplo para cópias alteradas para recusar menos, por abliteração ou por meio de fine-tune.

Essas cópias são feitas por terceiros, não pelo publicador. Os testes de segurança e os resultados publicados descrevem o original, não a cópia, e as respostas e a qualidade da cópia podem ser diferentes. Este site lista só modelos originais e não aplica as notas deles a cópias modificadas.