Molmo 7B vs MiniCPM-V 4.5 para imagens
Dois modelos de visão pequenos que descrevem e leem imagens numa máquina de 8 a 16 GB
Fatos do catálogo revisado
| Especificação | Molmo-7B-D-0924 | MiniCPM-V-4_5 |
|---|---|---|
| Tarefa | Visão | Visão |
| Parâmetros | 8B | 8,7B |
| Licença | Apache 2.0 | Apache 2.0 |
| Uso comercial | Permitidotexto da licença | Permitidotexto da licença |
| Qualidade · LMArena 2026-10-19 · visão | 994 ± 14980–1.008 · 2.815 votos · posição 158 · fonte | Fora do ranking de visão do LMArena de 2026-10-19 · fonte |
| Memória | estimativa de planejamento Q4 (~6 GB de pesos antes da reserva da máquina) | estimativa de planejamento Q4 (~7 GB de pesos antes da reserva da máquina) |
| Checkpoint | ficha oficial | ficha oficial |
Só o Molmo-7B-D-0924 tem resultado em LMArena 2026-10-19 · visão (994 ± 14); o MiniCPM-V-4_5 não tem, então os dois não são ordenados por esta fonte e nenhuma nota é inferida para ele. Votos cegos de pessoas em pares, sobre resultados hospedados, CC BY 4.0. A pontuação é relativa; intervalos que se sobrepõem significam que a ordem não está definida. Escala: pontuação Arena ± metade do intervalo de confiança.
Memória em três máquinas
A reserva de cada máquina é somada (placas de vídeo 2 GB; memória unificada e do sistema 25%, de 2 a 8 GB). Estimativas de planejamento, não execuções medidas.
| Máquina | Molmo-7B-D-0924 | MiniCPM-V-4_5 |
|---|---|---|
| RTX 4060 · 8 GB de VRAM | ~8 GBCabe na memória rápida | ~9 GBNa memória, fora da parte rápida · offload para a RAM do PC (32 GB presumidos) |
| RTX 3060 · 12 GB de VRAM | ~8 GBCabe na memória rápida | ~9 GBCabe na memória rápida |
| MacBook Air 13 polegadas M4 · 16 GB unificados | ~10 GBCabe na memória rápida | ~11 GBCabe na memória rápida |
Molmo-7B-D-0924: estimativa de planejamento Q4 (~6 GB de pesos antes da reserva da máquina). MiniCPM-V-4_5: estimativa de planejamento Q4 (~7 GB de pesos antes da reserva da máquina). Fórmulas
Tudo o que roda em cada máquina: RTX 4060 · 8 GB de VRAM · RTX 3060 · 12 GB de VRAM · MacBook Air 13 polegadas M4 · 16 GB unificados
Qual escolher
Os dois têm cerca de 8 bilhões de parâmetros e são Apache 2.0, então pedem cerca de 6 e 7 GB de pesos Q4 antes dos tokens da imagem; numa placa de 8 GB a tabela mantém o Molmo na memória rápida e o MiniCPM-V logo fora. O Molmo 7B-D é o lançamento da Ai2 de setembro de 2024; o MiniCPM-V 4.5 é o modelo mais novo da OpenBMB. O Molmo tem nota na rodada de visão do LMArena; o MiniCPM-V 4.5 não está nela, então esta fonte não permite ordenar os dois. Confira como cada runtime trata imagens antes de escolher: o suporte a modelos de visão varia mais que o de texto.
Arquivos e comandos para rodar
O arquivo padrão da fonte coletada mais baixada, ou os comandos que cada ficha documenta. Não executados por este site.
Molmo-7B-D-0924
Formas documentadas de rodar
Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.
pip install einops torchvisionfrom transformers import AutoModelForCausalLM, AutoProcessor, GenerationConfig
from PIL import Image
import requests
# load the processor
processor = AutoProcessor.from_pretrained(
'allenai/Molmo-7B-D-0924',
trust_remote_code=True,
torch_dtype='auto',
device_map='auto'
)
# load the model
model = AutoModelForCausalLM.from_pretrained(
'allenai/Molmo-7B-D-0924',
trust_remote_code=True,
torch_dtype='auto',
device_map='auto'
)
# process the image and text
inputs = processor.process(
images=[Image.open(requests.get("https://picsum.photos/id/237/536/354", stream=True).raw)],
text="Describe this image."
)
# move inputs to the correct device and make a batch of size 1
inputs = {k: v.to(model.device).unsqueeze(0) for k, v in inputs.items()}
# generate output; maximum 200 new tokens; stop generation when <|endoftext|> is generated
output = model.generate_from_batch(
inputs,
GenerationConfig(max_new_tokens=200, stop_strings="<|endoftext|>"),
tokenizer=processor.tokenizer
)
# only get generated tokens; decode them to text
generated_tokens = output[0,inputs['input_ids'].size(1):]
generated_text = processor.tokenizer.decode(generated_tokens, skip_special_tokens=True)
# print the generated text
print(generated_text)
# >>> This image features an adorable black Labrador puppy, captured from a top-down
# perspective. The puppy is sitting on a wooden deck, which is composed ...MiniCPM-V-4_5
Formas documentadas de rodar
Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.
import torch
from PIL import Image
from transformers import AutoModel, AutoTokenizer
torch.manual_seed(100)
model = AutoModel.from_pretrained('openbmb/MiniCPM-V-4_5', trust_remote_code=True, # or openbmb/MiniCPM-o-2_6
attn_implementation='sdpa', torch_dtype=torch.bfloat16) # sdpa or flash_attention_2, no eager
model = model.eval().cuda()
tokenizer = AutoTokenizer.from_pretrained('openbmb/MiniCPM-V-4_5', trust_remote_code=True) # or openbmb/MiniCPM-o-2_6
image = Image.open('./assets/minicpmo2_6/show_demo.jpg').convert('RGB')
enable_thinking=False # If `enable_thinking=True`, the thinking mode is enabled.
stream=True # If `stream=True`, the answer is string
# First round chat
question = "What is the landform in the picture?"
msgs = [{'role': 'user', 'content': [image, question]}]
answer = model.chat(
msgs=msgs,
tokenizer=tokenizer,
enable_thinking=enable_thinking,
stream=True
)
generated_text = ""
for new_text in answer:
generated_text += new_text
print(new_text, flush=True, end='')
# Second round chat, pass history context of multi-turn conversation
msgs.append({"role": "assistant", "content": [generated_text]})
msgs.append({"role": "user", "content": ["What should I pay attention to when traveling here?"]})
answer = model.chat(
msgs=msgs,
tokenizer=tokenizer,
stream=True
)
generated_text = ""
for new_text in answer:
generated_text += new_text
print(new_text, flush=True, end='')Números que cada publicador informa
Os resultados de cada ficha, com a configuração de cada uma. Publicadores escolhem testes e configurações diferentes, então estes valores nunca são comparados entre publicadores aqui.
Molmo-7B-D-0924 · informado por Ai2
MiniCPM-V-4_5 · informado por OpenBMB
Limites e datas
O benchmark de qualidade publicado não testa uma versão local quantizada. Estimativas de memória não medem velocidade nem garantem compatibilidade. Tamanho de repositório, quando disponível, não é VRAM. Fórmulas
Página atualizada em · Catálogo revisado em · LMArena 2026-10-19 · visão