Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Kimi K2.6 · thinking

Moonshot AI · moonshotai/Kimi-K2.6

Arquivo Q4 de 583,7 GB (UD-Q4_K_XL) · Licença dos pesos: Termos do publicador: Modified MIT

LiveBench · geral70,5 / 100#17 de 23 modelos abertos · 2026-06-25
Memória necessária~750 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros1.000 Bespecificação do fabricante · 32B ativos
Contexto262.144 tokensPublicado para este modelo

Qualidade

Qualidade · Geral

LiveBench 2026-06-25 · 0 a 100 · maior é melhor · este modelo em destaque, #17 de 23

  • Cor = publicador
  • Memória em revisão

Fonte: LiveBench 2026-06-25 · coletado 2026-10-18 · modelos abertos sem nota não aparecem (sem nota ≠ 0)

Sem resultado em LMArena 2026-10-22 Sem resultado no LMArena 2026-10-22

Categorias do LiveBench

Média deste modelo por categoria · 0 a 100

79,4RaciocínioRaciocínio78,6CódigoCódigo46,9Código com agentesCódigo com agentes84,3MatemáticaMatemática65,1Análise de dadosAnálise de dados75,1LinguagemLinguagem64,4Seguir instruçõesSeguir instruções

Fonte: LiveBench 2026-06-25 · coletado 2026-10-18 · modelos abertos sem nota não aparecem (sem nota ≠ 0)

Informado pelo publicador

33 resultados · ficha de Moonshot AI · lida em 2026-10-25
HLE-Full (w/ tools)
54,0
BrowseComp
83,2
BrowseComp (Agent Swarm)
86,3
DeepSearchQA (f1-score)
92,5
DeepSearchQA (accuracy)
83,0
WideSearch (item-f1)
80,8
Toolathlon
50,0
MCPMark
55,9
Todos os resultados informados33
Claw Eval (pass^3)
62,3
Claw Eval (pass@3)
80,9
APEX-Agents
27,9
OSWorld-Verified
73,1
Terminal-Bench 2.0 (Terminus-2)
66,7
SWE-Bench Pro
58,6
SWE-Bench Multilingual
76,7
SWE-Bench Verified
80,2
SciCode
52,2
OJBench (python)
60,6
LiveCodeBench (v6)
89,6
HLE-Full
34,7
AIME 2026
96,4
HMMT 2026 (Feb)
92,7
IMO-AnswerBench
86,0
GPQA-Diamond
90,5
MMMU-Pro
79,4
MMMU-Pro (w/ python)
80,1
CharXiv (RQ)
80,4
CharXiv (RQ; w/ python)
86,7
MathVision
87,4
MathVision (w/ python)
93,2
BabyVision
39,8
BabyVision (w/ python)
68,5
V (w/ python)
96,9

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: 3. Evaluation Results); coluna “Kimi K2.6”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Rodar

Rodar

Arquivo UD-Q4_K_XL · 583,7 GB · 14 partes · unsloth/Kimi-K2.6-GGUF · O que é Q4?

llama-server -hf unsloth/Kimi-K2.6-GGUF:UD-Q4_K_XL
  1. Instale o llama.cpp
  2. Rode o comando acima
  3. Pergunte em localhost:8080: Explique o que é a janela de contexto, em duas frases.

Qualidade × memória

Qualidade × memória

LiveBench 2026-06-25 geral vs. memória de planejamento Q4 (escala log) · 19 modelos abertos

  • Este modelo
  • Cor = publicador
40608010081632641282565121.0242.0484.096Memória necessária · Q4 · só o modelo (GB, log)LiveBenchSmaug AgenticQwen3.8 MaxDeepSeek V4 Pro · 0813Smaug MiniKimi K2.6 · thinking

Memória = o número do próprio modelo: parâmetros × 0,625 byte + 20% de margem, antes da reserva de qualquer máquina; com uma máquina escolhida, o total nela com a reserva (25% da memória, de 2 a 8 GB; 2 GB por placa de vídeo). Estimativa, não VRAM medida. LiveBench 2026-06-25

Roda em

Mais memória que qualquer perfil do catálogo

Mesmo o maior perfil (8 × 80 GB, somados) fica abaixo desta estimativa de planejamento. Montagens com vários nós estão fora deste catálogo.

Kimi K2.6 · thinking é um modelo de texto da Moonshot AI com 1.000B de parâmetros, dos quais 32B ativos por token (mistura de especialistas). Lê até 262.144 tokens de contexto. Os pesos em Q4 com a margem de trabalho somam cerca de 750 GB, mais do que a memória rápida de todas as máquinas de referência. Coletamos 4 arquivos GGUF para baixar de um publicador; a fonte GGUF mais baixada é a de unsloth. Sua nota geral no LiveBench 2026-06-25 é 70,5.

Nas máquinas de referência

Kimi K2.6 · thinking nas máquinas de referência
Onde fica o Q4
Mac mini M2 · 8 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~752 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 16 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~754 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 24 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~756 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 32 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~758 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M5 Pro · 64 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~758 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac Studio M5 Max · 128 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~758 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~758 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 4060 · 8 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~752 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 3060 · 12 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~752 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 5080 · 16 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~752 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 4090 · 24 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~752 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 5090 · 32 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~752 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
DGX H100 · 8 × 80 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~766 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior

A coluna de arquivo usa a escada de quantização do site (Q8_0 a Q3_K_M; MLX de 8 a 4 bits no Mac): o maior arquivo coletado cujo tamanho × 1,2, mais o cache de contexto e a reserva da máquina, cabe na memória rápida. Estimativas de planejamento, não execuções medidas.

Planejar outra quantização ou contexto

Considere para

Consulte esta variante thinking ao comparar checkpoints maiores de raciocínio no mesmo snapshot de benchmark.

Confira antes

A ficha lista o encoder visual separadamente; o suporte experimental a vídeo é exclusivo da API e não é anunciado como recurso local.

Versões para baixar

Arquivos que você pode baixar deste checkpoint. A seção abre na fonte GGUF coletada mais baixada, unsloth, no arquivo UD-Q4_K_XL. Os tamanhos são os bytes publicados no Hub. O que é Q4?

GGUF · o único formato coletado

unsloth

unsloth/Kimi-K2.6-GGUF · UD-Q4_K_XL/Kimi-K2.6-UD-Q4_K_XL-00001-of-00014.gguf · 583,7 GB

Rodar este arquivo

llama-server -hf unsloth/Kimi-K2.6-GGUF:UD-Q4_K_XL
lms get https://huggingface.co/unsloth/Kimi-K2.6-GGUF
  • Ollama: A forma hf.co documentada do Ollama cobre GGUFs de um arquivo só; este tem 14 partes
  • mlx-lm: O mlx-lm roda repositórios MLX; escolha a versão MLX num Mac

As notas de qualidade desta página pertencem ao checkpoint original; estes arquivos não recebem nota nem ranking. Tamanhos lidos em 2026-10-23 · downloads lidos em 2026-10-17 · comandos: Documentação do Hugging Face Hub: Ollama com qualquer modelo GGUF · README do servidor do llama.cpp (-hf <user>/<model>[:quant]) · Documentação do LM Studio: lms get com uma URL do Hugging Face · README do mlx-lm (mlx_lm.generate --model)

Ajustes, adaptadores e outras versões19 ajustes
Versões quantizadas
45
Ajustes (fine-tunes)
19
Adaptadores · misturas
9 · 2

Ver na árvore de modelos do Hugging Face · lido em 2026-10-23

Versões sem filtro (uncensored, abliterated)5

Algumas versões da comunidade removem as recusas de segurança do modelo. A qualidade pode cair, o publicador original não dá suporte, as afirmações sobre elas são de quem as publicou e a licença original continua valendo. Este site nunca as recomenda nem as ranqueia.

5 repositórios derivados têm “uncensored” ou “abliterated” no nome (lido em 2026-10-23).

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

~750 GB de pesos Q4 com margem de trabalho, antes da reserva da máquina. Fórmula: parâmetros × 0,625 byte, mais 20% de margem; cada máquina soma então a reserva do sistema: 25% da memória unificada ou do sistema, de 2 a 8 GB, ou 2 GB por GPU em placas dedicadas. Não é VRAM medida nem tamanho do download do checkpoint.

Apenas estimativa de planejamento Q4. Verifique formato do checkpoint, suporte do runtime, cache KV, contexto, tamanho de lote e offload antes de escolher hardware.

Nível da evidência: Apenas estimativa genérica; nenhuma execução reproduzida por este site.

Amostragem padrão do publicador
— O generation_config.json não informa valores de amostragem para este checkpoint
Marcadores do template de chat
chamadas de ferramenta · raciocínio (thinking)marcadores encontrados no template, não um teste do recurso · lido em 2026-10-23fonte
Antes de baixar
  1. Confirme o checkpoint exato e a licença vinculada aqui.
  2. Confirme runtime e precisão ou quantização compatíveis com sua plataforma.
  3. Reserve memória para contexto, lote e eventuais componentes de mídia além dos pesos.

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Checkpoint / versão
moonshotai/Kimi-K2.6
Tarefa e modalidade
linguagem e raciocínio · texto + imagem
Contagem e base
1.000B · especificação do fabricante · 32B ativos
Contexto
262.144 tokens publicados para este modelo
Arquitetura
MoE
Runtime e precisão
Nenhuma execução local verificada.
Uso comercial
"Modified MIT" nomeia textos MIT modificados diferentes (da Kimi e da MiniMax, com condições diferentes), então o nome sozinho não decide o uso comercial
Todos os campos guardados10 campos
Revisão conferida
7eb5002f6aadc958aed6a9177b7ed26bb94011bb
Arquitetura
KimiK25ForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Formatos
safetensors
Repositório criado
2026-04-14criação não é o lançamento do modelo
Repositório atualizado
2026-05-19um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
353.428 · 1.636só este repositório · lido em 2026-10-25
Lido na página do Hub
tarefa, classe transformers, tags de tarefa, nome da licença, formatos de arquivoVisão geral e lista de arquivos do Hub · lido em 2026-10-18
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

A ficha lista separadamente um encoder visual de 400M. Vídeo experimental é suportado apenas na API, por isso não é anunciado como capacidade local.

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Catálogo revisado: 2026-09-30. Versão do benchmark: 2026-06-25; snapshot coletado: 2026-10-18.