Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Molmo 7B vs MiniCPM-V 4.5 para imagens

Dois modelos de visão pequenos que descrevem e leem imagens numa máquina de 8 a 16 GB

Fatos do catálogo revisado

Fatos do catálogo revisado
EspecificaçãoMolmo-7B-D-0924MiniCPM-V-4_5
TarefaVisãoVisão
Parâmetros8B8,7B
LicençaApache 2.0Apache 2.0
Uso comercialPermitidotexto da licençaPermitidotexto da licença
Qualidade · LMArena 2026-10-19 · visão994 ± 14980–1.008 · 2.815 votos · posição 158 · fonteFora do ranking de visão do LMArena de 2026-10-19 · fonte
Memóriaestimativa de planejamento Q4 (~6 GB de pesos antes da reserva da máquina)estimativa de planejamento Q4 (~7 GB de pesos antes da reserva da máquina)
Checkpointficha oficialficha oficial

Só o Molmo-7B-D-0924 tem resultado em LMArena 2026-10-19 · visão (994 ± 14); o MiniCPM-V-4_5 não tem, então os dois não são ordenados por esta fonte e nenhuma nota é inferida para ele. Votos cegos de pessoas em pares, sobre resultados hospedados, CC BY 4.0. A pontuação é relativa; intervalos que se sobrepõem significam que a ordem não está definida. Escala: pontuação Arena ± metade do intervalo de confiança.

Memória em três máquinas

A reserva de cada máquina é somada (placas de vídeo 2 GB; memória unificada e do sistema 25%, de 2 a 8 GB). Estimativas de planejamento, não execuções medidas.

Molmo 7B vs MiniCPM-V 4.5 para imagens: memória em três máquinas
MáquinaMolmo-7B-D-0924MiniCPM-V-4_5
RTX 4060 · 8 GB de VRAM~8 GBCabe na memória rápida~9 GBNa memória, fora da parte rápida · offload para a RAM do PC (32 GB presumidos)
RTX 3060 · 12 GB de VRAM~8 GBCabe na memória rápida~9 GBCabe na memória rápida
MacBook Air 13 polegadas M4 · 16 GB unificados~10 GBCabe na memória rápida~11 GBCabe na memória rápida

Molmo-7B-D-0924: estimativa de planejamento Q4 (~6 GB de pesos antes da reserva da máquina). MiniCPM-V-4_5: estimativa de planejamento Q4 (~7 GB de pesos antes da reserva da máquina). Fórmulas

Tudo o que roda em cada máquina: RTX 4060 · 8 GB de VRAM · RTX 3060 · 12 GB de VRAM · MacBook Air 13 polegadas M4 · 16 GB unificados

Qual escolher

Os dois têm cerca de 8 bilhões de parâmetros e são Apache 2.0, então pedem cerca de 6 e 7 GB de pesos Q4 antes dos tokens da imagem; numa placa de 8 GB a tabela mantém o Molmo na memória rápida e o MiniCPM-V logo fora. O Molmo 7B-D é o lançamento da Ai2 de setembro de 2024; o MiniCPM-V 4.5 é o modelo mais novo da OpenBMB. O Molmo tem nota na rodada de visão do LMArena; o MiniCPM-V 4.5 não está nela, então esta fonte não permite ordenar os dois. Confira como cada runtime trata imagens antes de escolher: o suporte a modelos de visão varia mais que o de texto.

Arquivos e comandos para rodar

O arquivo padrão da fonte coletada mais baixada, ou os comandos que cada ficha documenta. Não executados por este site.

Molmo-7B-D-0924

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Preparação indicada antes pela fonte · Transformers
pip install einops torchvision
Transformers · ficha do modelo · Quick Start
from transformers import AutoModelForCausalLM, AutoProcessor, GenerationConfig
from PIL import Image
import requests

# load the processor
processor = AutoProcessor.from_pretrained(
    'allenai/Molmo-7B-D-0924',
    trust_remote_code=True,
    torch_dtype='auto',
    device_map='auto'
)

# load the model
model = AutoModelForCausalLM.from_pretrained(
    'allenai/Molmo-7B-D-0924',
    trust_remote_code=True,
    torch_dtype='auto',
    device_map='auto'
)

# process the image and text
inputs = processor.process(
    images=[Image.open(requests.get("https://picsum.photos/id/237/536/354", stream=True).raw)],
    text="Describe this image."
)

# move inputs to the correct device and make a batch of size 1
inputs = {k: v.to(model.device).unsqueeze(0) for k, v in inputs.items()}

# generate output; maximum 200 new tokens; stop generation when <|endoftext|> is generated
output = model.generate_from_batch(
    inputs,
    GenerationConfig(max_new_tokens=200, stop_strings="<|endoftext|>"),
    tokenizer=processor.tokenizer
)

# only get generated tokens; decode them to text
generated_tokens = output[0,inputs['input_ids'].size(1):]
generated_text = processor.tokenizer.decode(generated_tokens, skip_special_tokens=True)

# print the generated text
print(generated_text)

# >>>  This image features an adorable black Labrador puppy, captured from a top-down
#      perspective. The puppy is sitting on a wooden deck, which is composed ...

MiniCPM-V-4_5

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Transformers · ficha do modelo · Chat with Image
import torch
from PIL import Image
from transformers import AutoModel, AutoTokenizer

torch.manual_seed(100)

model = AutoModel.from_pretrained('openbmb/MiniCPM-V-4_5', trust_remote_code=True, # or openbmb/MiniCPM-o-2_6
    attn_implementation='sdpa', torch_dtype=torch.bfloat16) # sdpa or flash_attention_2, no eager
model = model.eval().cuda()
tokenizer = AutoTokenizer.from_pretrained('openbmb/MiniCPM-V-4_5', trust_remote_code=True) # or openbmb/MiniCPM-o-2_6

image = Image.open('./assets/minicpmo2_6/show_demo.jpg').convert('RGB')

enable_thinking=False # If `enable_thinking=True`, the thinking mode is enabled.
stream=True # If `stream=True`, the answer is string

# First round chat 
question = "What is the landform in the picture?"
msgs = [{'role': 'user', 'content': [image, question]}]

answer = model.chat(
    msgs=msgs,
    tokenizer=tokenizer,
    enable_thinking=enable_thinking,
    stream=True
)

generated_text = ""
for new_text in answer:
    generated_text += new_text
    print(new_text, flush=True, end='')

# Second round chat, pass history context of multi-turn conversation
msgs.append({"role": "assistant", "content": [generated_text]})
msgs.append({"role": "user", "content": ["What should I pay attention to when traveling here?"]})

answer = model.chat(
    msgs=msgs,
    tokenizer=tokenizer,
    stream=True
)

generated_text = ""
for new_text in answer:
    generated_text += new_text
    print(new_text, flush=True, end='')

Números que cada publicador informa

Os resultados de cada ficha, com a configuração de cada uma. Publicadores escolhem testes e configurações diferentes, então estes valores nunca são comparados entre publicadores aqui.

Molmo-7B-D-0924 · informado por Ai2

A ficha tem 1 tabela de avaliação, mas nenhuma coluna foi associada a este checkpoint ainda (lida em 2026-10-25); nenhum valor é copiado de outra coluna. Isto continua uma lacuna aberta. tabelas na ficha, coluna ainda não associada · lida em 2026-10-25

MiniCPM-V-4_5 · informado por OpenBMB

A ficha do publicador não informa resultado de benchmark para este checkpoint (lida em 2026-10-25). não publicado na ficha · lida em 2026-10-25

Limites e datas

O benchmark de qualidade publicado não testa uma versão local quantizada. Estimativas de memória não medem velocidade nem garantem compatibilidade. Tamanho de repositório, quando disponível, não é VRAM. Fórmulas

Página atualizada em · Catálogo revisado em · LMArena 2026-10-19 · visão