Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Aquila-VL-2B-llava-qwen

BAAI · BAAI/Aquila-VL-2B-llava-qwen

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

Informado pelo publicador25 resultadosFicha de BAAI · lida em 2026-10-25 · sem ranking · ver
Memória necessária~2 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros2,2 BTotal de safetensors no Hub
Repositório atualizado2026-07-13Um commit não é data de lançamento

Qualidade

Sem score comparável

Ainda não acompanhamos benchmark público e comparável que cubra este modelo. Nenhuma nota é inferida.

Informado pelo publicador

25 resultados · ficha de BAAI · lida em 2026-10-25
MMBench-EN test
78,8VLMEvalKit
MMBench-CN test
76,4VLMEvalKit
MMBench_V1.1 test
75,2VLMEvalKit
MMT-Bench test
58,2VLMEvalKit
RealWorldQA
63,9VLMEvalKit
HallusionBench
43,0VLMEvalKit
SEEDBench2 plus
63,0VLMEvalKit
LLaVABench
68,4VLMEvalKit
Todos os resultados informados25
MMStar
54,9VLMEvalKit
POPE
83,6VLMEvalKit
MMVet
44,3VLMEvalKit
MMMU val
47,4VLMEvalKit
ScienceQA test
95,2VLMEvalKit
AI2D test
75,0VLMEvalKit
MathVista testmini
59,0VLMEvalKit
MathVerse testmini
26,2VLMEvalKit
MathVision
18,4VLMEvalKit
DocVQA test
85,0VLMEvalKit
InfoVQA test
58,3VLMEvalKit
ChartQA test
76,5VLMEvalKit
TextVQA val
76,4VLMEvalKit
OCRVQA testcore
64,0VLMEvalKit
VCR en easy
70,0VLMEvalKit
OCRBench
772VLMEvalKit
Average
64,1VLMEvalKit

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluation); coluna “Aquila-VL-2B”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Roda em

Cabe na memória rápida 119

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 119

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Considere para

BAAI lançou Aquila-VL-2B-llava-qwen em 2024-10-25: um modelo de perguntas e respostas sobre imagens, com 2,2B parâmetros pela contagem do Hugging Face e licença Apache 2.0. Idiomas declarados pelo publicador: en, zh.

Confira antes

Licença: uso comercial permitido. Em Q4 os pesos somam cerca de 1,7 GB antes da reserva de cada máquina; resolução da imagem, quadros de vídeo e contexto somam memória, e o encoder visual precisa de suporte no runtime escolhido.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

LLaVA · ficha do modelo · How to use
# pip install git+https://github.com/LLaVA-VL/LLaVA-NeXT.git
from llava.model.builder import load_pretrained_model
from llava.mm_utils import process_images, tokenizer_image_token
from llava.constants import IMAGE_TOKEN_INDEX, DEFAULT_IMAGE_TOKEN
from llava.conversation import conv_templates
from PIL import Image
import requests
import copy
import torch
import warnings

warnings.filterwarnings("ignore")

pretrained = "BAAI/Aquila-VL-2B-llava-qwen"

model_name = "llava_qwen"
device = "cuda"
device_map = "auto"
tokenizer, model, image_processor, max_length = load_pretrained_model(pretrained, None, model_name, device_map=device_map)  # Add any other thing you want to pass in llava_model_args

model.eval()

# load image from url
url = "https://github.com/haotian-liu/LLaVA/blob/1a91fc274d7c35a9b50b3cb29c4247ae5837ce39/images/llava_v1_5_radar.jpg?raw=true"
image = Image.open(requests.get(url, stream=True).raw)

# load image from local environment
# url = "./local_image.jpg"
# image = Image.open(url)

image_tensor = process_images([image], image_processor, model.config)
image_tensor = [_image.to(dtype=torch.float16, device=device) for _image in image_tensor]

conv_template = "qwen_1_5"  # Make sure you use correct chat template for different models
question = DEFAULT_IMAGE_TOKEN + "\nWhat is shown in this image?"
conv = copy.deepcopy(conv_templates[conv_template])
conv.append_message(conv.roles[0], question)
conv.append_message(conv.roles[1], None)
prompt_question = conv.get_prompt()

input_ids = tokenizer_image_token(prompt_question, tokenizer, IMAGE_TOKEN_INDEX, return_tensors="pt").unsqueeze(0).to(device)
image_sizes = [image.size]

cont = model.generate(
    input_ids,
    images=image_tensor,
    image_sizes=image_sizes,
    do_sample=False,
    temperature=0,
    max_new_tokens=4096,
)

text_outputs = tokenizer.batch_decode(cont, skip_special_tokens=True)

print(text_outputs)

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa
visual-question-answering
Arquitetura
LlavaQwenForCausalLM
Biblioteca na fonte
transformers
Licença dos pesos
Apache 2.0BAAI/Aquila-VL-2B-llava-qwen model card (Hugging Face) · consultado em 2026-10-18fonte
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Idiomas
en, zhMetadados do model card · consultado em 2026-10-25fonte
Lançamento
Aquila-VL-2B model card News (Hugging Face, BAAI) · consultado em 2026-10-18fonte
Todos os campos guardados12 campos
Revisão conferida
32a63cf22d73a5f253d994987fa96e0bf5515e15
Arquitetura
LlavaQwenForCausalLM
Biblioteca
transformers
Tag de tarefa no Hub
visual-question-answering
Modelos base declarados
Qwen/Qwen2.5-1.5B-Instruct · google/siglip-so400m-patch14-384
Formatos
safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Repositório criado
2024-10-17criação não é o lançamento do modelo
Repositório atualizado
2026-07-13um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
256 · 62só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-18. A licença e a data de lançamento citam as fontes do publicador; parâmetros, arquivos e tarefa vêm do registro do Hugging Face, e a memória é uma estimativa rotulada a partir da contagem de parâmetros. Um valor que nenhuma fonte informa fica vazio; um commit do repositório não é a data de lançamento do modelo.