Ling 3.0 Flash
InclusionAI · inclusionAI/Ling-3.0-flash
Arquivo Q4 de 77,8 GB (Q4_K_M) · roda bem a partir de 128 GB · Licença dos pesos: MIT
Qualidade
Sem resultado em LiveBench 2026-06-25, LMArena 2026-10-22 Sem resultado no LiveBench 2026-06-25 nem no LMArena 2026-10-22
Informado pelo publicador
Rodar
Rodar
Arquivo Q4_K_M · 77,8 GB · 2 partes · bartowski/Ling-3.0-flash-GGUF · O que é Q4?
llama-server -hf bartowski/Ling-3.0-flash-GGUF:Q4_K_M- Instale o llama.cpp
- Rode o comando acima
- Pergunte em localhost:8080:
Explique o que é a janela de contexto, em duas frases.
Roda em
Cabe na memória rápida 14
A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.
Mostrar todos os 14
Falta um degrau de memória 1
As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.
Ling 3.0 Flash é um modelo de texto da InclusionAI com 124B de parâmetros, dos quais 5,1B ativos por token (mistura de especialistas). Lê até 262.144 tokens de contexto. Os pesos em Q4 com a margem de trabalho somam cerca de 93 GB antes da reserva da máquina; a menor máquina de referência cuja memória rápida comporta isso é Mac Studio M5 Max · 128 GB unificados (~101 GB com a reserva). Coletamos 28 arquivos GGUF para baixar de um publicador; a fonte GGUF mais baixada é a de bartowski (31,0 mil de downloads no Hub). Ele não tem resultado no LiveBench 2026-06-25, então nenhuma nota de qualidade aparece.
Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Cada cartão abre o perfil do hardware. Não é compatibilidade nem velocidade medida.
Nas máquinas de referência
| Onde fica o Q4 | ||||
|---|---|---|---|---|
| Mac mini M2 · 8 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~95 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M4 · 16 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~97 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M4 · 24 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~99 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M4 · 32 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~101 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac mini M5 Pro · 64 GB unificadosMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~101 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| Mac Studio M5 Max · 128 GB unificadosCabe na memória rápidaQ4_K_MFórmula do cache KV desta arquitetura não revisada | ~101 GB | Cabe na memória rápida | Q4_K_M | Fórmula do cache KV desta arquitetura não revisada |
| Mac Studio · M5 Ultra · CPU de 36 núcleos / GPU de 80 núcleos · 512 GB unificadosCabe na memória rápidaQ8_0Fórmula do cache KV desta arquitetura não revisada | ~101 GB | Cabe na memória rápida | Q8_0 | Fórmula do cache KV desta arquitetura não revisada |
| RTX 4060 · 8 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~95 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 3060 · 12 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~95 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 5080 · 16 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~95 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 4090 · 24 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~95 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| RTX 5090 · 32 GB de VRAMMaior que a memóriaNenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokensSem arquivo na coluna anterior | ~95 GB | Maior que a memória | Nenhum arquivo da escada de quantização do site cabe na memória rápida com 8.192 tokens | Sem arquivo na coluna anterior |
| DGX H100 · 8 × 80 GBCabe na memória rápidaQ8_0Fórmula do cache KV desta arquitetura não revisada | ~109 GB | Cabe na memória rápida | Q8_0 | Fórmula do cache KV desta arquitetura não revisada |
A coluna de arquivo usa a escada de quantização do site (Q8_0 a Q3_K_M; MLX de 8 a 4 bits no Mac): o maior arquivo coletado cujo tamanho × 1,2, mais o cache de contexto e a reserva da máquina, cabe na memória rápida. Estimativas de planejamento, não execuções medidas.
Compare Ling 3.0 Flash pela ficha do publicador. Não há nota geral no snapshot LiveBench 2026-06-25.
Os pesos em Q4 com a margem de trabalho somam cerca de 93 GB a partir de 124B parâmetros declarados, antes da reserva da máquina (Roda em soma a reserva de cada máquina). Não é um mínimo medido; contexto, lote, runtime e quantização mudam o uso real de memória.
Versões para baixar
Arquivos que você pode baixar deste checkpoint. A seção abre na fonte GGUF coletada mais baixada, bartowski (31,0 mil de downloads no Hub), no arquivo Q4_K_M. Os tamanhos são os bytes publicados no Hub. O que é Q4?
GGUF · o único formato coletado
bartowski · 31,0 mil downloads
bartowski/Ling-3.0-flash-GGUF · Ling-3.0-flash-Q4_K_M/Ling-3.0-flash-Q4_K_M-00001-of-00002.gguf · 77,8 GB
Rodar este arquivo
llama-server -hf bartowski/Ling-3.0-flash-GGUF:Q4_K_Mlms get https://huggingface.co/bartowski/Ling-3.0-flash-GGUF- Ollama: A forma hf.co documentada do Ollama cobre GGUFs de um arquivo só; este tem 2 partes
- mlx-lm: O mlx-lm roda repositórios MLX; escolha a versão MLX num Mac
As notas de qualidade desta página pertencem ao checkpoint original; estes arquivos não recebem nota nem ranking. Tamanhos lidos em 2026-10-23 · downloads lidos em 2026-10-17 · comandos: Documentação do Hugging Face Hub: Ollama com qualquer modelo GGUF · README do servidor do llama.cpp (-hf <user>/<model>[:quant]) · Documentação do LM Studio: lms get com uma URL do Hugging Face · README do mlx-lm (mlx_lm.generate --model)
Ajustes, adaptadores e outras versões
- Versões quantizadas
- 50
- Ajustes (fine-tunes)
- 6
- Adaptadores · misturas
- 0 · 0
Ver na árvore de modelos do Hugging Face · lido em 2026-10-23
Versões sem filtro (uncensored, abliterated)
Algumas versões da comunidade removem as recusas de segurança do modelo. A qualidade pode cair, o publicador original não dá suporte, as afirmações sobre elas são de quem as publicou e a licença original continua valendo. Este site nunca as recomenda nem as ranqueia.
2 repositórios derivados têm “uncensored” ou “abliterated” no nome (lido em 2026-10-23).
Velocidade medida
Nenhuma medição publicada para este checkpoint
Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.
Como rodar
A memória necessária acima é a carga Q4 antes da reserva da máquina. Fórmula: parâmetros × 0,625 byte, mais 20% de margem; cada máquina soma então a reserva do sistema: 25% da memória unificada ou do sistema, de 2 a 8 GB, ou 2 GB por GPU em placas dedicadas. Não é VRAM medida nem tamanho do download do checkpoint.
Apenas estimativa de planejamento Q4. Verifique formato do checkpoint, suporte do runtime, cache KV, contexto, tamanho de lote e offload antes de escolher hardware.
Nível da evidência: Apenas estimativa genérica; nenhuma execução reproduzida por este site.
- Amostragem padrão do publicador
- — O generation_config.json não informa valores de amostragem para este checkpoint
- Marcadores do template de chat
- chamadas de ferramenta · raciocínio (thinking)marcadores encontrados no template, não um teste do recurso · lido em 2026-10-23fonte
Antes de baixar
- Confirme o checkpoint exato e a licença vinculada aqui.
- Confirme runtime e precisão ou quantização compatíveis com sua plataforma.
- Reserve memória para contexto, lote e eventuais componentes de mídia além dos pesos.
Detalhes técnicos
O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.
- Checkpoint / versão
- inclusionAI/Ling-3.0-flash
- Tarefa e modalidade
- linguagem e raciocínio · texto
- Contagem e base
- 124B · especificação do fabricante · 5,1B ativos
- Contexto
- 262.144 tokens publicados para este modelo
- Arquitetura
- MoE
- Runtime e precisão
- Nenhuma execução local verificada.
- Uso comercial
- Permitido MIT license text (SPDX) · consultado em 2026-10-18texto da licença
Todos os campos guardados
- Revisão conferida
- ef06d91fe382109ae82647da88ff99b0f11745b0
- Arquitetura
- BailingMoeV3ForCausalLM
- Tag de tarefa no Hub
- text-generation
- Formatos
- safetensors
- Acesso
- Download aberto
- Tipo de publicador
- Oficial
- Repositório criado
- 2026-08-02criação não é o lançamento do modelo
- Repositório atualizado
- 2026-09-24um commit não é data de lançamento
- Downloads no Hub (30 dias) · curtidas
- 9.687 · 436só este repositório · lido em 2026-10-25
- Estado no catálogo
- Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário
Fontes
Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.
- Checkpoint e ficha do publicador
- Licença dos pesos e termos de uso
- Fonte do benchmark de qualidade · LiveBench 2026-06-25 geral
Catálogo revisado: 2026-09-30. Versão do benchmark: 2026-06-25; snapshot coletado: 2026-10-18.










