Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Qwen2.5-VL-32B-Instruct

Alibaba · Qwen/Qwen2.5-VL-32B-Instruct

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

LMArena · visão1.119 ± 15#14 de 22 com pontuação aqui · 2026-10-19
Memória necessária~26 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros33,5 BTotal de safetensors no Hub
Repositório atualizado2025-04-14Um commit não é data de lançamento

Qualidade

Informado pelo publicador

22 resultados · ficha de Alibaba · lida em 2026-10-25
MMMU
70Qwen2.5-VL-32B (🤗🤖) · Vision
MMMU Pro
49,5Qwen2.5-VL-32B (🤗🤖) · Vision
MMStar
69,5Qwen2.5-VL-32B (🤗🤖) · Vision
MathVista
74,7Qwen2.5-VL-32B (🤗🤖) · Vision
MathVision
40,0Qwen2.5-VL-32B (🤗🤖) · Vision
CC-OCR
77,1Qwen2.5-VL-32B (🤗🤖) · Vision
DocVQA
94,8Qwen2.5-VL-32B (🤗🤖) · Vision
InfoVQA
83,4Qwen2.5-VL-32B (🤗🤖) · Vision
Todos os resultados informados22
LVBench
49,00Qwen2.5-VL-32B (🤗🤖) · Vision
CharadesSTA
54,2Qwen2.5-VL-32B (🤗🤖) · Vision
MMBench-Video
1,93Qwen2.5-VL-32B (🤗🤖) · Vision
AITZ
83,1Qwen2.5-VL-32B (🤗🤖) · Vision
ScreenSpot
88,5Qwen2.5-VL-32B (🤗🤖) · Vision
ScreenSpot Pro
39,4Qwen2.5-VL-32B (🤗🤖) · Vision
AndroidWorld
22,0Qwen2.5-VL-32B (🤗🤖) · Vision
OSWorld
5,92Qwen2.5-VL-32B (🤗🤖) · Vision
MMLU
78,4Qwen2.5-VL-32B · Text
MMLU-PRO
68,8Qwen2.5-VL-32B · Text
MATH
82,2Qwen2.5-VL-32B · Text
GPQA-diamond
46,0Qwen2.5-VL-32B · Text
MBPP
84,0Qwen2.5-VL-32B · Text
Human Eval
91,5Qwen2.5-VL-32B · Text

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluation › Vision; Evaluation › Text). Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Qualidade × memória

Sem par qualidade × memória comparável

Este registro não tem nota em um benchmark comparado com memória de planejamento.

Considere para

Alibaba lançou Qwen2.5-VL-32B-Instruct em 2025-03-25: um modelo de visão e linguagem que responde sobre imagens, com 33,5B parâmetros pela contagem do Hugging Face e licença Apache 2.0. Idiomas declarados pelo publicador: en.

Confira antes

Licença: uso comercial permitido. Em Q4 os pesos somam cerca de 25,1 GB antes da reserva de cada máquina; resolução da imagem, quadros de vídeo e contexto somam memória, e o encoder visual precisa de suporte no runtime escolhido.

Roda em

Cabe na memória rápida 33

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 33

Na memória, fora da parte rápida 51

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 51

Falta um degrau de memória 9

As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.

Mostrar todos os 9

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Preparação indicada antes pela fonte · Transformers
# It's highly recommanded to use `[decord]` feature for faster video loading.
pip install qwen-vl-utils[decord]==0.0.8
Transformers · ficha do modelo · Using 🤗 Transformers to Chat
from transformers import Qwen2_5_VLForConditionalGeneration, AutoTokenizer, AutoProcessor
from qwen_vl_utils import process_vision_info

# default: Load the model on the available device(s)
model = Qwen2_5_VLForConditionalGeneration.from_pretrained(
    "Qwen/Qwen2.5-VL-32B-Instruct", torch_dtype="auto", device_map="auto"
)

# We recommend enabling flash_attention_2 for better acceleration and memory saving, especially in multi-image and video scenarios.
# model = Qwen2_5_VLForConditionalGeneration.from_pretrained(
#     "Qwen/Qwen2.5-VL-32B-Instruct",
#     torch_dtype=torch.bfloat16,
#     attn_implementation="flash_attention_2",
#     device_map="auto",
# )

# default processer
processor = AutoProcessor.from_pretrained("Qwen/Qwen2.5-VL-32B-Instruct")

# The default range for the number of visual tokens per image in the model is 4-16384.
# You can set min_pixels and max_pixels according to your needs, such as a token range of 256-1280, to balance performance and cost.
# min_pixels = 256*28*28
# max_pixels = 1280*28*28
# processor = AutoProcessor.from_pretrained("Qwen/Qwen2.5-VL-32B-Instruct", min_pixels=min_pixels, max_pixels=max_pixels)

messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image",
                "image": "https://qianwen-res.oss-cn-beijing.aliyuncs.com/Qwen-VL/assets/demo.jpeg",
            },
            {"type": "text", "text": "Describe this image."},
        ],
    }
]

# Preparation for inference
text = processor.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)
image_inputs, video_inputs = process_vision_info(messages)
inputs = processor(
    text=[text],
    images=image_inputs,
    videos=video_inputs,
    padding=True,
    return_tensors="pt",
)
inputs = inputs.to("cuda")

# Inference: Generation of the output
generated_ids = model.generate(**inputs, max_new_tokens=128)
generated_ids_trimmed = [
    out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
]
output_text = processor.batch_decode(
    generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
)
print(output_text)

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa
image-text-to-text
Arquitetura
Qwen2_5_VLForConditionalGeneration
Biblioteca na fonte
transformers
Licença dos pesos
Apache 2.0Qwen/Qwen2.5-VL-32B-Instruct model card (Hugging Face) · consultado em 2026-10-18fonte
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Idiomas
enMetadados do model card · consultado em 2026-10-25fonte
Lançamento
Qwen2.5-VL README news (GitHub) · consultado em 2026-10-18fonte
Todos os campos guardados12 campos
Revisão conferida
7cfb30d71a1f4f49a57592323337a4a4727301da
Arquitetura
Qwen2_5_VLForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Formatos
transformers, safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Parâmetros no Hub
33.452.718.336safetensors.total
Repositório criado
2025-03-21criação não é o lançamento do modelo
Repositório atualizado
2025-04-14um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
836.945 · 507só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-18. A licença e a data de lançamento citam as fontes do publicador; parâmetros, arquivos e tarefa vêm do registro do Hugging Face, e a memória é uma estimativa rotulada a partir da contagem de parâmetros. Um valor que nenhuma fonte informa fica vazio; um commit do repositório não é a data de lançamento do modelo.