Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Qwen2-VL-7B-Instruct

Alibaba · Qwen/Qwen2-VL-7B-Instruct

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

LMArena · visão1.031 ± 11#18 de 22 com pontuação aqui · 2026-10-19
Memória necessária~7 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros8,3 BTotal de safetensors no Hub
Repositório atualizado2025-02-06Um commit não é data de lançamento

Qualidade

Informado pelo publicador

23 resultados · ficha de Alibaba · lida em 2026-10-25
MMMU val
54,1Image Benchmarks
DocVQA test
94,5Image Benchmarks
InfoVQA test
76,5Image Benchmarks
ChartQA test
83,0Image Benchmarks
TextVQA val
84,3Image Benchmarks
OCRBench
845Image Benchmarks
MTVQA
26,3Image Benchmarks
VCR en easy
89,70Image Benchmarks
Todos os resultados informados23
VCR zh easy
59,94Image Benchmarks
RealWorldQA
70,1Image Benchmarks
MME sum
2.326,8Image Benchmarks
MMBench-EN test
83,0Image Benchmarks
MMBench-CN test
80,5Image Benchmarks
MMBench-V1.1 test
80,7Image Benchmarks
MMT-Bench test
63,7Image Benchmarks
MMStar
60,7Image Benchmarks
MMVet GPT-4-Turbo
62,0Image Benchmarks
HallBench avg
50,6Image Benchmarks
MathVista testmini
58,2Image Benchmarks
MathVision
16,3Image Benchmarks
MVBench
67,0Video Benchmarks
PerceptionTest test
62,3Video Benchmarks
EgoSchema test
66,7Video Benchmarks

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluation › Image Benchmarks; Evaluation › Video Benchmarks); coluna “Qwen2-VL-7B”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Qualidade × memória

Sem par qualidade × memória comparável

Este registro não tem nota em um benchmark comparado com memória de planejamento.

Considere para

Alibaba lançou Qwen2-VL-7B-Instruct em 2024-08-30: um modelo de visão e linguagem que responde sobre imagens, com 8,29B parâmetros pela contagem do Hugging Face e licença Apache 2.0. Idiomas declarados pelo publicador: en.

Confira antes

Licença: uso comercial permitido. Em Q4 os pesos somam cerca de 6,2 GB antes da reserva de cada máquina; resolução da imagem, quadros de vídeo e contexto somam memória, e o encoder visual precisa de suporte no runtime escolhido.

Roda em

Cabe na memória rápida 90

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 90

Na memória, fora da parte rápida 26

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 26

Falta um degrau de memória 3

As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Preparação indicada antes pela fonte · Transformers
pip install qwen-vl-utils
Transformers · ficha do modelo · Quickstart
from transformers import Qwen2VLForConditionalGeneration, AutoTokenizer, AutoProcessor
from qwen_vl_utils import process_vision_info

# default: Load the model on the available device(s)
model = Qwen2VLForConditionalGeneration.from_pretrained(
    "Qwen/Qwen2-VL-7B-Instruct", torch_dtype="auto", device_map="auto"
)

# We recommend enabling flash_attention_2 for better acceleration and memory saving, especially in multi-image and video scenarios.
# model = Qwen2VLForConditionalGeneration.from_pretrained(
#     "Qwen/Qwen2-VL-7B-Instruct",
#     torch_dtype=torch.bfloat16,
#     attn_implementation="flash_attention_2",
#     device_map="auto",
# )

# default processer
processor = AutoProcessor.from_pretrained("Qwen/Qwen2-VL-7B-Instruct")

# The default range for the number of visual tokens per image in the model is 4-16384. You can set min_pixels and max_pixels according to your needs, such as a token count range of 256-1280, to balance speed and memory usage.
# min_pixels = 256*28*28
# max_pixels = 1280*28*28
# processor = AutoProcessor.from_pretrained("Qwen/Qwen2-VL-7B-Instruct", min_pixels=min_pixels, max_pixels=max_pixels)

messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image",
                "image": "https://qianwen-res.oss-cn-beijing.aliyuncs.com/Qwen-VL/assets/demo.jpeg",
            },
            {"type": "text", "text": "Describe this image."},
        ],
    }
]

# Preparation for inference
text = processor.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)
image_inputs, video_inputs = process_vision_info(messages)
inputs = processor(
    text=[text],
    images=image_inputs,
    videos=video_inputs,
    padding=True,
    return_tensors="pt",
)
inputs = inputs.to("cuda")

# Inference: Generation of the output
generated_ids = model.generate(**inputs, max_new_tokens=128)
generated_ids_trimmed = [
    out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
]
output_text = processor.batch_decode(
    generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
)
print(output_text)

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Checkpoint / fonte
Qwen/Qwen2-VL-7B-Instruct
Tarefa
image-text-to-text
Arquitetura
Qwen2VLForConditionalGeneration
Biblioteca na fonte
transformers
Licença dos pesos
Apache 2.0Qwen/Qwen2-VL-7B-Instruct model card (Hugging Face) · consultado em 2026-10-18fonte
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Idiomas
enMetadados do model card · consultado em 2026-10-25fonte
Lançamento
Qwen3-VL README news (GitHub) · consultado em 2026-10-18fonte
Todos os campos guardados13 campos
Revisão conferida
eed13092ef92e448dd6875b2a00151bd3f7db0ac
Arquitetura
Qwen2VLForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Modelos base declarados
Qwen/Qwen2-VL-7B
Formatos
transformers, safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Parâmetros no Hub
8.291.375.616safetensors.total
Repositório criado
2024-08-28criação não é o lançamento do modelo
Repositório atualizado
2025-02-06um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
601.271 · 1.295só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-18. A licença e a data de lançamento citam as fontes do publicador; parâmetros, arquivos e tarefa vêm do registro do Hugging Face, e a memória é uma estimativa rotulada a partir da contagem de parâmetros. Um valor que nenhuma fonte informa fica vazio; um commit do repositório não é a data de lançamento do modelo.