Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Apriel-1.6-15b-Thinker

ServiceNow · ServiceNow-AI/Apriel-1.6-15b-Thinker

Licença dos pesos: MIT · código e componentes podem ter outros termos

Informado pelo publicador39 resultadosFicha de ServiceNow · lida em 2026-10-25 · sem ranking · ver
Memória necessária~12 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros14,9 BTotal de safetensors no Hub
Repositório atualizado2025-12-22Um commit não é data de lançamento

Qualidade

Sem score comparável

Ainda não acompanhamos benchmark público e comparável que cubra este modelo. Nenhuma nota é inferida.

Informado pelo publicador

39 resultados · ficha de ServiceNow · lida em 2026-10-25
Average Score
53,62
BFCL v3 only
63,50Function Calling
Tau2 bench Telecom
69Function Calling
Tau2 bench Retail
66,67Function Calling
Tau2 bench Airline
58Function Calling
ComplexFuncBench
33,2Function Calling
Agent IF
57,2Instruction Following
Multi IF
83,34Instruction Following
Todos os resultados informados39
Multi-Challenge
46,15Instruction Following
IF Bench
69Instruction Following
AIME 25
88Math
Struct Eval
79Coding
LCB
81Coding
SciCode
37Coding
DeepresearchBench
36,47Agentic
GAIA
40Agentic
Work-Arena L1
59,1Agentic
OS World Small
16,70Agentic
SWE Bench Verified
23Agentic
Terminal Bench
14Agentic
Aider Polyglot
37,68Agentic
MMLU Pro
79Knowledge
Creative writing v3 / EQ Bench
59,73Creative Writing
GPQA Diamond
73Others
HLE
10Others
AA LCR
50Long Context
MMMU (validation)
72VLMEvalKit
MMMU-PRO (10 choice)
60,28VLMEvalKit
MMMU-PRO (Vision Only)
52,89VLMEvalKit
LogicVista
58,61VLMEvalKit
MathVision
60,85VLMEvalKit
MathVista
79,90VLMEvalKit
MathVerse (Vision Dominant)
66,75VLMEvalKit
MathVerse (Text Dominant)
79,06VLMEvalKit
MMStar
70,66VLMEvalKit
CharXiv (descriptive)
89,85VLMEvalKit
CharXiv (reasoning)
56,00VLMEvalKit
AI2D Test
86,04VLMEvalKit
BLINK
63,96VLMEvalKit

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluation); coluna “Apriel-1.6-15B-Thinker”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Roda em

Cabe na memória rápida 82

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 82

Na memória, fora da parte rápida 34

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 34

Falta um degrau de memória 3

As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Considere para

ServiceNow lançou Apriel-1.6-15b-Thinker em 2025-12-09: um modelo de visão e linguagem que responde sobre imagens, com 14,9B parâmetros pela contagem do Hugging Face e licença MIT.

Confira antes

Licença: uso comercial permitido. Em Q4 os pesos somam cerca de 11,1 GB antes da reserva de cada máquina; resolução da imagem, quadros de vídeo e contexto somam memória, e o encoder visual precisa de suporte no runtime escolhido.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Preparação indicada antes pela fonte · Transformers
pip install transformers
Transformers · ficha do modelo · Running the Reasoning model
# Tested with transformers==4.48

import re
import requests
import torch
from PIL import Image
from transformers import AutoProcessor, AutoModelForImageTextToText

# Load model
model_id = "ServiceNow-AI/Apriel-1.6-15b-Thinker"
model = AutoModelForImageTextToText.from_pretrained(
    model_id, 
    torch_dtype=torch.bfloat16, 
    device_map="auto"
)
processor = AutoProcessor.from_pretrained(model_id)

# Example 1: Text-only prompt
chat = [
    {
        "role": "user",
        "content": [
            {"type": "text", "text": "What is the capital for France?"},
        ],
    }
]

inputs = processor.apply_chat_template(chat, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt")
inputs = {k: v.to(model.device) if isinstance(v, torch.Tensor) else v for k, v in inputs.items()}
inputs.pop("token_type_ids", None)

with torch.no_grad():
    output_ids = model.generate(**inputs, max_new_tokens=1024, do_sample=True, temperature=0.6)

generated_ids = output_ids[:, inputs['input_ids'].shape[1]:]
output = processor.decode(generated_ids[0], skip_special_tokens=True)
response = re.findall(r"\[BEGIN FINAL RESPONSE\](.*?)(?:<\|end\|>)", output, re.DOTALL)[0].strip()

print("Text-only Response:", response)

# Example 2: Image understanding
url = "https://picsum.photos/id/237/200/300"
image = Image.open(requests.get(url, stream=True).raw).convert("RGB")

chat = [
    {
        "role": "user",
        "content": [
            {"type": "text", "text": "Which animal is this?"},
            {"type": "image"},
        ],
    }
]

prompt = processor.apply_chat_template(chat, add_generation_prompt=True, tokenize=False)
inputs = processor(text=prompt, images=[image], return_tensors="pt").to(model.device)

with torch.no_grad():
    output_ids = model.generate(**inputs, max_new_tokens=1024, do_sample=True, temperature=0.6)

generated_ids = output_ids[:, inputs['input_ids'].shape[1]:]
output = processor.decode(generated_ids[0], skip_special_tokens=True)
response = re.findall(r"\[BEGIN FINAL RESPONSE\](.*?)(?:<\|end\|>)", output, re.DOTALL)[0].strip()

print("Image Response:", response)

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa
image-text-to-text
Arquitetura
LlavaForConditionalGeneration
Biblioteca na fonte
transformers
Licença dos pesos
MITServiceNow-AI/Apriel-1.6-15b-Thinker model card (Hugging Face front matter: license mit) · consultado em 2026-10-19fonte
Uso comercial
Permitido MIT license text (SPDX) · consultado em 2026-10-18texto da licença
Lançamento
Apriel-1.6-15b-Thinker: Cost-efficient Frontier Multimodal Performance (Hugging Face blog post by the publisher; JSON-LD datePublished) · consultado em 2026-10-19fonte secundária
Todos os campos guardados12 campos
Revisão conferida
5810d5f1723032300131e677450d7f95a15a05e7
Arquitetura
LlavaForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Formatos
transformers, safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Parâmetros no Hub
14.863.859.712safetensors.total
Repositório criado
2025-11-28criação não é o lançamento do modelo
Repositório atualizado
2025-12-22um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
1.335 · 308só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-19. A licença e a data de lançamento citam as fontes do publicador; parâmetros, arquivos e tarefa vêm do registro do Hugging Face, e a memória é uma estimativa rotulada a partir da contagem de parâmetros. Um valor que nenhuma fonte informa fica vazio; um commit do repositório não é a data de lançamento do modelo.