Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

granite-guardian-4.1-8b

ibm-granite · ibm-granite/granite-guardian-4.1-8b

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

Informado pelo publicador55 resultadosFicha de ibm-granite · lida em 2026-10-25 · sem ranking · ver
Memória necessária~7 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros8,4 BTotal de safetensors no Hub
Repositório atualizado2026-08-27Um commit não é data de lançamento

Qualidade

Sem score comparável

Ainda não acompanhamos benchmark público e comparável que cubra este modelo. Nenhuma nota é inferida.

Informado pelo publicador

55 resultados · ficha de ibm-granite · lida em 2026-10-25
Aggregate F1
0,79granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
Aegis Safety Test
0,83granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
Beaver Tails
0,79granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
HarmBench Prompt
0,78granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
OAI hf
0,83granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
SafeRLHF test
0,79granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
Simple Safety Test
1,00granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
Toxic Chat
0,78granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
Todos os resultados informados55
xstest RH
0,90granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
xstest RR
0,44granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
xstest RR (h)
0,82granite-guardian-4.1-8b (non-think) · OOD Safety Benchmarks · modo de raciocínio
Aggregate F1
0,78granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
Aegis Safety Test
0,85granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
Beaver Tails
0,77granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
HarmBench Prompt
0,76granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
OAI hf
0,82granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
SafeRLHF test
0,77granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
Simple Safety Test
1,00granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
Toxic Chat
0,74granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
xstest RH
0,86granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
xstest RR
0,45granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
xstest RR (h)
0,81granite-guardian-4.1-8b (think) · OOD Safety Benchmarks · modo de raciocínio
AVG
0,760granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
AggreFact-CNN
0,598granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
AggreFact-XSum
0,763granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
ClaimVerify
0,757granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
ExpertQA
0,603granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
FactCheck-GPT
0,749granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
LFQA
0,883granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
RAGTruth
0,834granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
Reveal
0,889granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
TofuEval-MediaS
0,737granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
TofuEval-MeetB
0,767granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
Wice
0,783granite-guardian-4.1-8b (non-think) · RAG Hallucination Benchmarks · modo de raciocínio
AVG
0,764granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
AggreFact-CNN
0,606granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
AggreFact-XSum
0,765granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
ClaimVerify
0,773granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
ExpertQA
0,605granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
FactCheck-GPT
0,752granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
LFQA
0,885granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
RAGTruth
0,841granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
Reveal
0,888granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
TofuEval-MediaS
0,730granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
TofuEval-MeetB
0,795granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
Wice
0,767granite-guardian-4.1-8b (think) · RAG Hallucination Benchmarks · modo de raciocínio
fc_reward_bench
0,79granite-guardian-4.1-8b (non-think) · Function Calling Hallucination Benchmarks · modo de raciocínio
fc_reward_bench
0,78granite-guardian-4.1-8b (think) · Function Calling Hallucination Benchmarks · modo de raciocínio
GSM8k
93,71Granite Guardian 4.1 8B · Best-of-N Selection with Guardian as a Reward Model (JETTS)
MATH
50,79Granite Guardian 4.1 8B · Best-of-N Selection with Guardian as a Reward Model (JETTS)
HumanEval+
80,08Granite Guardian 4.1 8B · Best-of-N Selection with Guardian as a Reward Model (JETTS)
MBPP+
70,63Granite Guardian 4.1 8B · Best-of-N Selection with Guardian as a Reward Model (JETTS)
BigCodeBench
43,70Granite Guardian 4.1 8B · Best-of-N Selection with Guardian as a Reward Model (JETTS)
IFEval
82,81Granite Guardian 4.1 8B · Best-of-N Selection with Guardian as a Reward Model (JETTS)
Overall
70,29Granite Guardian 4.1 8B · Best-of-N Selection with Guardian as a Reward Model (JETTS)

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluations › OOD Safety Benchmarks; Evaluations › RAG Hallucination Benchmarks). Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Roda em

Cabe na memória rápida 90

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 90

Na memória, fora da parte rápida 26

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 26

Falta um degrau de memória 3

As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa
text-generation
Arquitetura
GraniteForCausalLM
Biblioteca na fonte
transformers
Licença dos pesos
Apache 2.0
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Todos os campos guardados14 campos
Revisão conferida
ab01ccca5dcfb80246369a086a4a87a29198f5af
Arquitetura
GraniteForCausalLM
Biblioteca
transformers
Tag de tarefa no Hub
text-generation
Modelos base declarados
ibm-granite/granite-4.1-8b
Distribuições neste grupo
ibm-granite/granite-guardian-4.1-8b-GGUF
Formatos
safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Evidência de tensores
floating-tensor-elements · 8,38B · BF16conferido em 2026-09-26
Repositório criado
2026-04-16criação não é o lançamento do modelo
Repositório atualizado
2026-08-27um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
54.804 · 51só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Snapshot válido da fonte: 2026-09-26. Este registro da fonte ainda não recebeu revisão técnica completa. Dados ausentes permanecem desconhecidos; um commit do repositório não é a data de lançamento do modelo.