Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

LLaVA-OneVision-1.5-8B-Instruct

LMMs-Lab · lmms-lab/LLaVA-OneVision-1.5-8B-Instruct

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

Informado pelo publicador27 resultadosFicha de LMMs-Lab · lida em 2026-10-25 · sem ranking · ver
Memória necessária~7 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros8,5 BTotal de safetensors no Hub
Repositório atualizado2026-07-16Um commit não é data de lançamento

Qualidade

Sem score comparável

Ainda não acompanhamos benchmark público e comparável que cubra este modelo. Nenhuma nota é inferida.

Informado pelo publicador

27 resultados · ficha de LMMs-Lab · lida em 2026-10-25
MMMU (Validation)
55,44lmms_eval
MMMU-Pro (Standard)
37,40lmms_eval
MMMU-Pro (Vision)
25,15lmms_eval
MMBench (English; Test)
84,14lmms_eval
MMBench (Chinese; Test)
81,00lmms_eval
MME-RealWorld (English)
62,31lmms_eval
MME-RealWorld (Chinese)
56,11lmms_eval
AI2D (With Mask)
84,16lmms_eval
Todos os resultados informados27
AI2D (Without Mask)
94,11lmms_eval
CV-Bench
80,82lmms_eval
VL-RewardBench
45,90lmms_eval
V
78,01lmms_eval
PixmoCount
62,19lmms_eval
CountBench
88,19lmms_eval
ChartQA
86,48lmms_eval
CharXiv (Direct Questions)
74,10lmms_eval
DocVQA (Test)
95,00lmms_eval
InfoVQA (Test)
78,42lmms_eval
WeMath
33,62lmms_eval
MathVista (Mini)
69,57lmms_eval
MathVision
25,56lmms_eval
MMStar
67,72lmms_eval
SEED-Bench (Image)
77,32lmms_eval
ScienceQA
94,98lmms_eval
SEED-Bench 2-Plus
69,21lmms_eval
OCRBench
82,90lmms_eval
RealWorldQA
68,10lmms_eval

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluation Results); coluna “LLaVA-OV-1.5-8B”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Roda em

Cabe na memória rápida 90

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 90

Na memória, fora da parte rápida 26

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 26

Falta um degrau de memória 3

As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Considere para

LMMs-Lab lançou LLaVA-OneVision-1.5-8B-Instruct em 2025-09-28: um modelo de visão e linguagem que responde sobre imagens, com 8,53B parâmetros pela contagem do Hugging Face e licença Apache 2.0.

Confira antes

Licença: uso comercial permitido. Em Q4 os pesos somam cerca de 6,4 GB antes da reserva de cada máquina; resolução da imagem, quadros de vídeo e contexto somam memória, e o encoder visual precisa de suporte no runtime escolhido.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Transformers · ficha do modelo · Using 🤗 Transformers to Chat
from transformers import AutoTokenizer, AutoProcessor, AutoModelForCausalLM
from qwen_vl_utils import process_vision_info
model_path = "lmms-lab/LLaVA-OneVision-1.5-8B-Instruct"

# default: Load the model on the available device(s)
model = AutoModelForCausalLM.from_pretrained(
    model_path, torch_dtype="auto", device_map="auto", trust_remote_code=True
)

# default processer
processor = AutoProcessor.from_pretrained(model_path, trust_remote_code=True)

messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image",
                "image": "https://qianwen-res.oss-cn-beijing.aliyuncs.com/Qwen-VL/assets/demo.jpeg",
            },
            {"type": "text", "text": "Describe this image."},
        ],
    }
]

# Preparation for inference
text = processor.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)
image_inputs, video_inputs = process_vision_info(messages)
inputs = processor(
    text=[text],
    images=image_inputs,
    videos=video_inputs,
    padding=True,
    return_tensors="pt",
)
inputs = inputs.to("cuda")

# Inference: Generation of the output
generated_ids = model.generate(**inputs, max_new_tokens=1024)
generated_ids_trimmed = [
    out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
]
output_text = processor.batch_decode(
    generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
)
print(output_text)

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa
image-text-to-text
Arquitetura
LLaVAOneVision1_5_ForConditionalGeneration
Biblioteca na fonte
transformers
Licença dos pesos
Apache 2.0lmms-lab/LLaVA-OneVision-1.5-8B-Instruct model card (Hugging Face) · consultado em 2026-10-18fonte
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Lançamento
LLaVA-OneVision-1.5: Fully Open Framework for Democratized Multimodal Training (arXiv 2509.23661, LMMs-Lab) · consultado em 2026-10-18fonte
Todos os campos guardados13 campos
Revisão conferida
e137910552d616eb0f7305147ca054311a90c542
Arquitetura
LLaVAOneVision1_5_ForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Modelos base declarados
Qwen/Qwen3-8B-Base · DeepGlint-AI/rice-vit-large-patch14-560
Formatos
transformers, safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Parâmetros no Hub
8.527.214.624safetensors.total
Repositório criado
2025-09-16criação não é o lançamento do modelo
Repositório atualizado
2026-07-16um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
6.372 · 68só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-18. A licença e a data de lançamento citam as fontes do publicador; parâmetros, arquivos e tarefa vêm do registro do Hugging Face, e a memória é uma estimativa rotulada a partir da contagem de parâmetros. Um valor que nenhuma fonte informa fica vazio; um commit do repositório não é a data de lançamento do modelo.