Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Molmo2-8B

allenai · allenai/Molmo2-8B

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

LMArena · visão1.112 ± 20#15 de 22 com pontuação aqui · 2026-10-19
Memória necessária~7 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros8,7 BTotal de safetensors no Hub
Repositório atualizado2026-01-23Um commit não é data de lançamento

Qualidade

Informado pelo publicador

1 resultado · ficha de allenai · lida em 2026-10-25
Average Score on 15 Academic Benchmarks
63,1

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluations); coluna “Molmo2-8B (this model)”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Qualidade × memória

Sem par qualidade × memória comparável

Este registro não tem nota em um benchmark comparado com memória de planejamento.

Roda em

Cabe na memória rápida 90

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 90

Na memória, fora da parte rápida 26

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 26

Falta um degrau de memória 3

As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Preparação indicada antes pela fonte · Transformers
conda create --name transformers4571 python=3.11
conda activate transformers4571
pip install transformers==4.57.1
pip install torch pillow einops torchvision accelerate decord2 molmo_utils
Transformers · ficha do modelo · General Video QA
from transformers import AutoProcessor, AutoModelForImageTextToText
import torch

model_id="allenai/Molmo2-8B"

# load the processor
processor = AutoProcessor.from_pretrained(
    model_id,
    trust_remote_code=True,
    dtype="auto",
    device_map="auto"
)

# load the model
model = AutoModelForImageTextToText.from_pretrained(
     model_id,
     trust_remote_code=True,
     dtype="auto",
     device_map="auto"
)

# process the video and text
messages = [
    {
        "role": "user",
        "content": [
            dict(type="text", text="Which animal appears in the video?"),
            dict(type="video", video="https://storage.googleapis.com/oe-training-public/demo_videos/many_penguins.mp4"),
        ],
    }
]

inputs = processor.apply_chat_template(
    messages,
    tokenize=True,
    add_generation_prompt=True,
    return_tensors="pt",
    return_dict=True,
)

inputs = {k: v.to(model.device) for k, v in inputs.items()}

# generate output
with torch.inference_mode():
    generated_ids = model.generate(**inputs, max_new_tokens=2048)

# only get generated tokens; decode them to text
generated_tokens = generated_ids[0, inputs['input_ids'].size(1):]
generated_text = processor.tokenizer.decode(generated_tokens, skip_special_tokens=True)

# print the generated text
print(generated_text)

# >>>  Penguins appear in the video.

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Checkpoint / fonte
allenai/Molmo2-8B
Tarefa
image-text-to-text
Arquitetura
Molmo2ForConditionalGeneration
Biblioteca na fonte
transformers
Licença dos pesos
Apache 2.0
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Idiomas
enMetadados do model card · consultado em 2026-10-25fonte
Todos os campos guardados12 campos
Revisão conferida
e28fa28597e5ec5e0cca2201dd8ab33d48bc4a1b
Arquitetura
Molmo2ForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Modelos base declarados
Qwen/Qwen3-8B · google/siglip-so400m-patch14-384
Formatos
transformers, safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Repositório criado
2025-12-14criação não é o lançamento do modelo
Repositório atualizado
2026-01-23um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
37.492 · 198só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Snapshot válido da fonte: 2026-09-26. Este registro da fonte ainda não recebeu revisão técnica completa. Dados ausentes permanecem desconhecidos; um commit do repositório não é a data de lançamento do modelo.