Inkling · xhigh
Thinking Machines · thinkingmachines/Inkling
Arquivo Q4 de 587,0 GB (UD-Q4_K_XL) · Licença dos pesos: Apache 2.0
Qualidade
Qualidade · Geral
LiveBench 2026-06-25 · 0 a 100 · maior é melhor · este modelo em destaque, #14 de 23
- Cor = publicador
- Memória em revisão
Fonte: LiveBench 2026-06-25 · coletado 2026-10-18 · modelos abertos sem nota não aparecem (sem nota ≠ 0)
Sem resultado em LMArena 2026-10-22 Sem resultado no LMArena 2026-10-22
Categorias do LiveBench
Média deste modelo por categoria · 0 a 100
Fonte: LiveBench 2026-06-25 · coletado 2026-10-18 · modelos abertos sem nota não aparecem (sem nota ≠ 0)
Informado pelo publicador
- HLE (text only)
- 29,7%Reasoning
- HLE (with tools)
- 46,0%Reasoning
- AIME 2026
- 97,1%Reasoning
- GPQA Diamond
- 87,2%Reasoning
- SWEBench Verified
- 77,6%Agentic (coding)
- SWEBench Pro (Public)
- 54,3%Agentic (coding)
- Terminal Bench 2.1 (Best Harness)
- 63,8Agentic (coding)
- GDPVal-AA v2
- 1.233Agentic (coding)
Todos os resultados informados
- MCP Atlas
- 74,1%Agentic (general)
- Tau 3 Banking
- 23,7%Agentic (general)
- BrowseComp (w/ Ctx)
- 77,1%Factuality
- SimpleQA Verified
- 43,9%Factuality
- AA Omniscience
- 1,0%Factuality
- IFBench
- 79,8%Chat
- Global-MMLU-Lite
- 88,7%Chat
- MMMU Pro (Standard 10)
- 73,5%Vision
- Charxiv RQ
- 78,1%Vision
- Charxiv RQ (with python)
- 82,0%Vision
- Audio MC
- 56,6%Audio
- MMAU
- 77,2%Audio
- VoiceBench
- 91,4%Audio
- FORTRESS (Adversarial)
- 78,0%Safety
- FORTRESS (Benign)
- 95,9%Safety
- StrongREJECT
- 98,6%Safety
Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: 5. Evaluations); coluna “Inkling”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo
Rodar
Rodar
Arquivo UD-Q4_K_XL · 587 GB · 14 partes · unsloth/inkling-GGUF · O que é Q4?
llama-server -hf unsloth/inkling-GGUF:UD-Q4_K_XL- Instale o llama.cpp
- Rode o comando acima
- Pergunte em localhost:8080:
Explique o que é a janela de contexto, em duas frases.
Qualidade × memória
Qualidade × memória
LiveBench 2026-06-25 geral vs. memória de planejamento Q4 (escala log) · 19 modelos abertos
- Este modelo
- Cor = publicador
Memória = o número do próprio modelo: parâmetros × 0,625 byte + 20% de margem, antes da reserva de qualquer máquina; com uma máquina escolhida, o total nela com a reserva (25% da memória, de 2 a 8 GB; 2 GB por placa de vídeo). Estimativa, não VRAM medida. LiveBench 2026-06-25
Roda em
Mais memória que qualquer perfil do catálogo
Mesmo o maior perfil (8 × 80 GB, somados) fica abaixo desta estimativa de planejamento. Montagens com vários nós estão fora deste catálogo.
Inkling · xhigh é um modelo de texto da Thinking Machines com 975B de parâmetros, dos quais 41B ativos por token (mistura de especialistas). Foi lançado em 15 de julho de 2026 e lê até 1.000.000 tokens de contexto. Os pesos em Q4 com a margem de trabalho somam cerca de 732 GB, mais do que a memória rápida de todas as máquinas de referência. Coletamos 8 arquivos GGUF e MLX para baixar de 2 fontes de publicadores; a fonte GGUF mais baixada é a de unsloth. Sua nota geral no LiveBench 2026-06-25 é 71,9.
Nas máquinas de referência
| Onde fica o Q4 | ||||
|---|---|---|---|---|
| Mac mini M2 · 8 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~734 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M4 · 16 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~736 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M4 · 24 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~738 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M4 · 32 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~740 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M5 Pro · 64 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~740 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac Studio M5 Max · 128 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~740 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~740 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 4060 · 8 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~734 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 3060 · 12 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~734 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 5080 · 16 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~734 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 4090 · 24 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~734 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 5090 · 32 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~734 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| DGX H100 · 8 × 80 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~748 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
A coluna de arquivo usa a escada de quantização do site (Q8_0 a Q3_K_M; MLX de 8 a 4 bits no Mac): o maior arquivo coletado cujo tamanho × 1,2, mais o cache de contexto e a reserva da máquina, cabe na memória rápida. Estimativas de planejamento, não execuções medidas.
Compare Inkling · xhigh pela ficha do publicador e pelo snapshot LiveBench 2026-06-25. Isto é evidência de qualidade, não de velocidade local.
Os pesos em Q4 com a margem de trabalho somam cerca de 732 GB a partir de 975B parâmetros declarados, antes da reserva da máquina (Roda em soma a reserva de cada máquina). Não é um mínimo medido; contexto, lote, runtime e quantização mudam o uso real de memória.
Versões para baixar
Arquivos que você pode baixar deste checkpoint. A seção abre na fonte GGUF coletada mais baixada, unsloth, no arquivo UD-Q4_K_XL. Num Mac abre na fonte MLX mais baixada. Os tamanhos são os bytes publicados no Hub. O que é Q4?
unsloth
unsloth/inkling-GGUF · UD-Q4_K_XL/inkling-UD-Q4_K_XL-00001-of-00014.gguf · 587,0 GB
Rodar este arquivo
llama-server -hf unsloth/inkling-GGUF:UD-Q4_K_XLlms get https://huggingface.co/unsloth/inkling-GGUF- Ollama: A forma hf.co documentada do Ollama cobre GGUFs de um arquivo só; este tem 14 partes
- mlx-lm: O mlx-lm roda repositórios MLX; escolha a versão MLX num Mac
As notas de qualidade desta página pertencem ao checkpoint original; estes arquivos não recebem nota nem ranking. Tamanhos lidos em 2026-10-23 · downloads lidos em 2026-10-17 · comandos: Documentação do Hugging Face Hub: Ollama com qualquer modelo GGUF · README do servidor do llama.cpp (-hf <user>/<model>[:quant]) · Documentação do LM Studio: lms get com uma URL do Hugging Face · README do mlx-lm (mlx_lm.generate --model)
Ajustes, adaptadores e outras versões
- Versões quantizadas
- 48
- Ajustes (fine-tunes)
- 15
- Adaptadores · misturas
- 12 · 0
Ver na árvore de modelos do Hugging Face · lido em 2026-10-23
Versões sem filtro (uncensored, abliterated)
Algumas versões da comunidade removem as recusas de segurança do modelo. A qualidade pode cair, o publicador original não dá suporte, as afirmações sobre elas são de quem as publicou e a licença original continua valendo. Este site nunca as recomenda nem as ranqueia.
1 repositórios derivados têm “uncensored” ou “abliterated” no nome (lido em 2026-10-23).
Velocidade medida
Nenhuma medição publicada para este checkpoint
Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.
Como rodar
A memória necessária acima é a carga Q4 antes da reserva da máquina. Fórmula: parâmetros × 0,625 byte, mais 20% de margem; cada máquina soma então a reserva do sistema: 25% da memória unificada ou do sistema, de 2 a 8 GB, ou 2 GB por GPU em placas dedicadas. Não é VRAM medida nem tamanho do download do checkpoint.
Apenas estimativa de planejamento Q4. Verifique formato do checkpoint, suporte do runtime, cache KV, contexto, tamanho de lote e offload antes de escolher hardware.
Nível da evidência: Apenas estimativa genérica; nenhuma execução reproduzida por este site.
- Amostragem padrão do publicador
- — O generation_config.json não informa valores de amostragem para este checkpoint
- Marcadores do template de chat
- chamadas de ferramenta · raciocínio (thinking)marcadores encontrados no template, não um teste do recurso · lido em 2026-10-23fonte
Antes de baixar
- Confirme o checkpoint exato e a licença vinculada aqui.
- Confirme runtime e precisão ou quantização compatíveis com sua plataforma.
- Reserve memória para contexto, lote e eventuais componentes de mídia além dos pesos.
Detalhes técnicos
O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.
- Checkpoint / versão
- thinkingmachines/Inkling
- Tarefa e modalidade
- linguagem e raciocínio · texto + imagem + áudio
- Contagem e base
- 975B · especificação do fabricante · 41B ativos
- Contexto
- 1.000.000 tokens publicados para este modelo
- Arquitetura
- MoE
- Lançamento
- Inkling Benchmarks, Cost and Capabilities (Vals AI) · consultado em 2026-10-09fonte secundária
- Runtime e precisão
- Nenhuma execução local verificada.
- Idiomas
- en Declaração do publicador · consultado em 2026-10-18fonte
- Uso comercial
- Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Todos os campos guardados
- Revisão conferida
- 828496eeae4c243ff1a22f7f28ff83694f2f7bc9
- Arquitetura
- InklingForConditionalGeneration
- Biblioteca
- transformers
- Tag de tarefa no Hub
- image-text-to-text
- Formatos
- safetensors
- Repositório criado
- 2026-07-14criação não é o lançamento do modelo
- Repositório atualizado
- 2026-07-23um commit não é data de lançamento
- Downloads no Hub (30 dias) · curtidas
- 1.587.519 · 1.827só este repositório · lido em 2026-10-25
- Lido na página do Hub
- tarefa, classe transformers, tags de tarefa, formatos de arquivoVisão geral e lista de arquivos do Hub · lido em 2026-10-18
- Estado no catálogo
- Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário
Orientação do fabricante: pelo menos 2 TB VRAM em BF16 ou 600 GB em NVFP4. Essas configurações diferem da estimativa genérica Q4 desta ferramenta.
Fontes
Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.
- Checkpoint e ficha do publicador
- Licença dos pesos e termos de uso
- Fonte do benchmark de qualidade · LiveBench 2026-06-25 geral
Catálogo revisado: 2026-09-30. Versão do benchmark: 2026-06-25; snapshot coletado: 2026-10-18.