Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Inkling · xhigh

Thinking Machines · thinkingmachines/Inkling

Texto e chatVisãoÁudio

Arquivo Q4 de 587,0 GB (UD-Q4_K_XL) · Licença dos pesos: Apache 2.0

LiveBench · geral71,9 / 100#14 de 23 modelos abertos · 2026-06-25
Memória necessária~732 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros975 Bespecificação do fabricante · 41B ativos
Contexto1.000.000 tokensPublicado para este modelo

Qualidade

Qualidade · Geral

LiveBench 2026-06-25 · 0 a 100 · maior é melhor · este modelo em destaque, #14 de 23

  • Cor = publicador
  • Memória em revisão

Fonte: LiveBench 2026-06-25 · coletado 2026-10-18 · modelos abertos sem nota não aparecem (sem nota ≠ 0)

Sem resultado em LMArena 2026-10-22 Sem resultado no LMArena 2026-10-22

Categorias do LiveBench

Média deste modelo por categoria · 0 a 100

78,3RaciocínioRaciocínio71,0CódigoCódigo49,4Código com agentesCódigo com agentes88,4MatemáticaMatemática72,8Análise de dadosAnálise de dados73,5LinguagemLinguagem70,1Seguir instruçõesSeguir instruções

Fonte: LiveBench 2026-06-25 · coletado 2026-10-18 · modelos abertos sem nota não aparecem (sem nota ≠ 0)

Informado pelo publicador

24 resultados · ficha de Thinking Machines · lida em 2026-10-25
HLE (text only)
29,7%Reasoning
HLE (with tools)
46,0%Reasoning
AIME 2026
97,1%Reasoning
GPQA Diamond
87,2%Reasoning
SWEBench Verified
77,6%Agentic (coding)
SWEBench Pro (Public)
54,3%Agentic (coding)
Terminal Bench 2.1 (Best Harness)
63,8Agentic (coding)
GDPVal-AA v2
1.233Agentic (coding)
Todos os resultados informados24
MCP Atlas
74,1%Agentic (general)
Tau 3 Banking
23,7%Agentic (general)
BrowseComp (w/ Ctx)
77,1%Factuality
SimpleQA Verified
43,9%Factuality
AA Omniscience
1,0%Factuality
IFBench
79,8%Chat
Global-MMLU-Lite
88,7%Chat
MMMU Pro (Standard 10)
73,5%Vision
Charxiv RQ
78,1%Vision
Charxiv RQ (with python)
82,0%Vision
Audio MC
56,6%Audio
MMAU
77,2%Audio
VoiceBench
91,4%Audio
FORTRESS (Adversarial)
78,0%Safety
FORTRESS (Benign)
95,9%Safety
StrongREJECT
98,6%Safety

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: 5. Evaluations); coluna “Inkling”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Rodar

Rodar

Arquivo UD-Q4_K_XL · 587 GB · 14 partes · unsloth/inkling-GGUF · O que é Q4?

llama-server -hf unsloth/inkling-GGUF:UD-Q4_K_XL
  1. Instale o llama.cpp
  2. Rode o comando acima
  3. Pergunte em localhost:8080: Explique o que é a janela de contexto, em duas frases.

Qualidade × memória

Qualidade × memória

LiveBench 2026-06-25 geral vs. memória de planejamento Q4 (escala log) · 19 modelos abertos

  • Este modelo
  • Cor = publicador
40608010081632641282565121.0242.0484.096Memória necessária · Q4 · só o modelo (GB, log)LiveBenchSmaug AgenticQwen3.8 MaxDeepSeek V4 Pro · 0813Smaug MiniInkling · xhigh

Memória = o número do próprio modelo: parâmetros × 0,625 byte + 20% de margem, antes da reserva de qualquer máquina; com uma máquina escolhida, o total nela com a reserva (25% da memória, de 2 a 8 GB; 2 GB por placa de vídeo). Estimativa, não VRAM medida. LiveBench 2026-06-25

Roda em

Mais memória que qualquer perfil do catálogo

Mesmo o maior perfil (8 × 80 GB, somados) fica abaixo desta estimativa de planejamento. Montagens com vários nós estão fora deste catálogo.

Inkling · xhigh é um modelo de texto da Thinking Machines com 975B de parâmetros, dos quais 41B ativos por token (mistura de especialistas). Foi lançado em 15 de julho de 2026 e lê até 1.000.000 tokens de contexto. Os pesos em Q4 com a margem de trabalho somam cerca de 732 GB, mais do que a memória rápida de todas as máquinas de referência. Coletamos 8 arquivos GGUF e MLX para baixar de 2 fontes de publicadores; a fonte GGUF mais baixada é a de unsloth. Sua nota geral no LiveBench 2026-06-25 é 71,9.

Nas máquinas de referência

Inkling · xhigh nas máquinas de referência
Onde fica o Q4
Mac mini M2 · 8 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~734 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 16 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~736 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 24 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~738 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M4 · 32 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~740 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac mini M5 Pro · 64 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~740 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac Studio M5 Max · 128 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~740 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~740 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 4060 · 8 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~734 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 3060 · 12 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~734 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 5080 · 16 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~734 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 4090 · 24 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~734 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
RTX 5090 · 32 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~734 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior
DGX H100 · 8 × 80 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior~748 GBMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior

A coluna de arquivo usa a escada de quantização do site (Q8_0 a Q3_K_M; MLX de 8 a 4 bits no Mac): o maior arquivo coletado cujo tamanho × 1,2, mais o cache de contexto e a reserva da máquina, cabe na memória rápida. Estimativas de planejamento, não execuções medidas.

Planejar outra quantização ou contexto

Considere para

Compare Inkling · xhigh pela ficha do publicador e pelo snapshot LiveBench 2026-06-25. Isto é evidência de qualidade, não de velocidade local.

Confira antes

Os pesos em Q4 com a margem de trabalho somam cerca de 732 GB a partir de 975B parâmetros declarados, antes da reserva da máquina (Roda em soma a reserva de cada máquina). Não é um mínimo medido; contexto, lote, runtime e quantização mudam o uso real de memória.

Versões para baixar

Arquivos que você pode baixar deste checkpoint. A seção abre na fonte GGUF coletada mais baixada, unsloth, no arquivo UD-Q4_K_XL. Num Mac abre na fonte MLX mais baixada. Os tamanhos são os bytes publicados no Hub. O que é Q4?

unsloth

unsloth/inkling-GGUF · UD-Q4_K_XL/inkling-UD-Q4_K_XL-00001-of-00014.gguf · 587,0 GB

Rodar este arquivo

llama-server -hf unsloth/inkling-GGUF:UD-Q4_K_XL
lms get https://huggingface.co/unsloth/inkling-GGUF
  • Ollama: A forma hf.co documentada do Ollama cobre GGUFs de um arquivo só; este tem 14 partes
  • mlx-lm: O mlx-lm roda repositórios MLX; escolha a versão MLX num Mac

As notas de qualidade desta página pertencem ao checkpoint original; estes arquivos não recebem nota nem ranking. Tamanhos lidos em 2026-10-23 · downloads lidos em 2026-10-17 · comandos: Documentação do Hugging Face Hub: Ollama com qualquer modelo GGUF · README do servidor do llama.cpp (-hf <user>/<model>[:quant]) · Documentação do LM Studio: lms get com uma URL do Hugging Face · README do mlx-lm (mlx_lm.generate --model)

Ajustes, adaptadores e outras versões15 ajustes
Versões quantizadas
48
Ajustes (fine-tunes)
15
Adaptadores · misturas
12 · 0

Ver na árvore de modelos do Hugging Face · lido em 2026-10-23

Versões sem filtro (uncensored, abliterated)1

Algumas versões da comunidade removem as recusas de segurança do modelo. A qualidade pode cair, o publicador original não dá suporte, as afirmações sobre elas são de quem as publicou e a licença original continua valendo. Este site nunca as recomenda nem as ranqueia.

1 repositórios derivados têm “uncensored” ou “abliterated” no nome (lido em 2026-10-23).

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

A memória necessária acima é a carga Q4 antes da reserva da máquina. Fórmula: parâmetros × 0,625 byte, mais 20% de margem; cada máquina soma então a reserva do sistema: 25% da memória unificada ou do sistema, de 2 a 8 GB, ou 2 GB por GPU em placas dedicadas. Não é VRAM medida nem tamanho do download do checkpoint.

Apenas estimativa de planejamento Q4. Verifique formato do checkpoint, suporte do runtime, cache KV, contexto, tamanho de lote e offload antes de escolher hardware.

Nível da evidência: Apenas estimativa genérica; nenhuma execução reproduzida por este site.

Amostragem padrão do publicador
— O generation_config.json não informa valores de amostragem para este checkpoint
Marcadores do template de chat
chamadas de ferramenta · raciocínio (thinking)marcadores encontrados no template, não um teste do recurso · lido em 2026-10-23fonte
Antes de baixar
  1. Confirme o checkpoint exato e a licença vinculada aqui.
  2. Confirme runtime e precisão ou quantização compatíveis com sua plataforma.
  3. Reserve memória para contexto, lote e eventuais componentes de mídia além dos pesos.

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Checkpoint / versão
thinkingmachines/Inkling
Tarefa e modalidade
linguagem e raciocínio · texto + imagem + áudio
Contagem e base
975B · especificação do fabricante · 41B ativos
Contexto
1.000.000 tokens publicados para este modelo
Arquitetura
MoE
Lançamento
Inkling Benchmarks, Cost and Capabilities (Vals AI) · consultado em 2026-10-09fonte secundária
Runtime e precisão
Nenhuma execução local verificada.
Idiomas
en Declaração do publicador · consultado em 2026-10-18fonte
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Todos os campos guardados10 campos
Revisão conferida
828496eeae4c243ff1a22f7f28ff83694f2f7bc9
Arquitetura
InklingForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Formatos
safetensors
Repositório criado
2026-07-14criação não é o lançamento do modelo
Repositório atualizado
2026-07-23um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
1.587.519 · 1.827só este repositório · lido em 2026-10-25
Lido na página do Hub
tarefa, classe transformers, tags de tarefa, formatos de arquivoVisão geral e lista de arquivos do Hub · lido em 2026-10-18
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Orientação do fabricante: pelo menos 2 TB VRAM em BF16 ou 600 GB em NVFP4. Essas configurações diferem da estimativa genérica Q4 desta ferramenta.

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Catálogo revisado: 2026-09-30. Versão do benchmark: 2026-06-25; snapshot coletado: 2026-10-18.