Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

granite-vision-3.3-2b

IBM · ibm-granite/granite-vision-3.3-2b

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

Informado pelo publicador19 resultadosFicha de IBM · lida em 2026-10-25 · sem ranking · ver
Memória necessária~3 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros3 BTotal de safetensors no Hub
Repositório atualizado2026-04-02Um commit não é data de lançamento

Qualidade

Sem score comparável

Ainda não acompanhamos benchmark público e comparável que cubra este modelo. Nenhuma nota é inferida.

Informado pelo publicador

19 resultados · ficha de IBM · lida em 2026-10-25
ChartQA
0,87Document benchmarks
DocVQA
0,91Document benchmarks
TextVQA
0,80Document benchmarks
AI2D
0,77Document benchmarks
InfoVQA
0,68Document benchmarks
OCRBench
0,79Document benchmarks
LiveXiv VQA v2
0,61Document benchmarks
LiveXiv TQA v2
0,52Document benchmarks
Todos os resultados informados19
MMMU
0,37Other benchmarks
VQAv2
0,79Other benchmarks
RealWorldQA
0,63Other benchmarks
VizWiz VQA
0,62Other benchmarks
OK VQA
0,55Other benchmarks
Politics
8,0Safety Evaluation
Racial
8,1Safety Evaluation
Jailbreak
7,5Safety Evaluation
Mislead
8,0Safety Evaluation
Unsafe Images (Unsafe)
8,4Safety Evaluation
Safe Images with Unsafe Instructions
9,3Safety Evaluation

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Generation: › Safety Evaluation); coluna “Granite-vision-3.3-2b”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Roda em

Cabe na memória rápida 118

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 118

Na memória, fora da parte rápida 1

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Considere para

IBM lançou granite-vision-3.3-2b em 2025-06-11: um modelo de imagem para texto, com 3B parâmetros pela contagem do Hugging Face e licença Apache 2.0. Idiomas declarados pelo publicador: en.

Confira antes

Licença: uso comercial permitido. Em Q4 os pesos somam cerca de 2,3 GB antes da reserva de cada máquina; resolução da imagem, quadros de vídeo e contexto somam memória, e o encoder visual precisa de suporte no runtime escolhido.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Preparação indicada antes pela fonte · Transformers
pip install transformers>=4.49
Transformers · ficha do modelo · Usage with `transformers`
from transformers import AutoProcessor, AutoModelForVision2Seq
from huggingface_hub import hf_hub_download
import torch

device = "cuda" if torch.cuda.is_available() else "cpu"

model_path = "ibm-granite/granite-vision-3.3-2b"
processor = AutoProcessor.from_pretrained(model_path)
model = AutoModelForVision2Seq.from_pretrained(model_path).to(device)

# prepare image and text prompt, using the appropriate prompt template

img_path = hf_hub_download(repo_id=model_path, filename='example.png')

conversation = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": img_path},
            {"type": "text", "text": "What is the highest scoring model on ChartQA and what is its score?"},
        ],
    },
]
inputs = processor.apply_chat_template(
    conversation,
    add_generation_prompt=True,
    tokenize=True,
    return_dict=True,
    return_tensors="pt"
).to(device)


# autoregressively complete prompt
output = model.generate(**inputs, max_new_tokens=100)
print(processor.decode(output[0], skip_special_tokens=True))
Preparação indicada antes pela fonte · vLLM
pip install torch torchvision torchaudio
pip install vllm==0.6.6
vLLM · ficha do modelo · Usage with vLLM
from vllm import LLM, SamplingParams
from vllm.assets.image import ImageAsset
from huggingface_hub import hf_hub_download
from PIL import Image

model_path = "ibm-granite/granite-vision-3.3-2b"

model = LLM(
    model=model_path,
)

sampling_params = SamplingParams(
    temperature=0.2,
    max_tokens=64,
)

# Define the question we want to answer and format the prompt
image_token = "<image>"
system_prompt = "<|system|>\nA chat between a curious user and an artificial intelligence assistant. The assistant gives helpful, detailed, and polite answers to the user's questions.\n"

question = "What is the highest scoring model on ChartQA and what is its score?"
prompt = f"{system_prompt}<|user|>\n{image_token}\n{question}\n<|assistant|>\n"
img_path = hf_hub_download(repo_id=model_path, filename='example.png')
image = Image.open(img_path).convert("RGB")
print(image)

# Build the inputs to vLLM; the image is passed as `multi_modal_data`.
inputs = {
    "prompt": prompt,
    "multi_modal_data": {
        "image": image,
    }
}

outputs = model.generate(inputs, sampling_params=sampling_params)
print(f"Generated text: {outputs[0].outputs[0].text}")

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa
image-to-text
Arquitetura
LlavaNextForConditionalGeneration
Licença dos pesos
Apache 2.0ibm-granite/granite-vision-3.3-2b model card (Hugging Face) · consultado em 2026-10-18fonte
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Idiomas
en Declaração do publicador · consultado em 2026-10-18fonte
Lançamento
granite-vision-3.3-2b model card (Hugging Face, IBM) · consultado em 2026-10-18fonte
Todos os campos guardados10 campos
Revisão conferida
bf66a8244401a8e26d2ff429aa82df8550a289e5
Arquitetura
LlavaNextForConditionalGeneration
Tag de tarefa no Hub
image-to-text
Formatos
safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Repositório criado
2025-06-03criação não é o lançamento do modelo
Repositório atualizado
2026-04-02um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
195.462 · 88só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-18. A licença e a data de lançamento citam as fontes do publicador; parâmetros, arquivos e tarefa vêm do registro do Hugging Face, e a memória é uma estimativa rotulada a partir da contagem de parâmetros. Um valor que nenhuma fonte informa fica vazio; um commit do repositório não é a data de lançamento do modelo.