Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Molmo-72B-0924

Ai2 · allenai/Molmo-72B-0924

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

LMArena · visão1.045 ± 13#16 de 22 com pontuação aqui · 2026-10-19
Memória necessária~55 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros73,3 BTotal de safetensors no Hub
Repositório atualizado2025-10-09Um commit não é data de lançamento

Qualidade

Informado pelo publicador

A ficha tem 1 tabela de avaliação, mas nenhuma coluna foi associada a este checkpoint ainda (lida em 2026-10-25); nenhum valor é copiado de outra coluna. Isto continua uma lacuna aberta. tabelas na ficha, coluna ainda não associada · lida em 2026-10-25

Qualidade × memória

Sem par qualidade × memória comparável

Este registro não tem nota em um benchmark comparado com memória de planejamento.

Considere para

Ai2 lançou Molmo-72B-0924 em 2024-09-24: um modelo de visão e linguagem que responde sobre imagens, com 73,3B parâmetros pela contagem do Hugging Face e licença Apache 2.0. Idiomas declarados pelo publicador: en.

Confira antes

Licença: uso comercial permitido. Em Q4 os pesos somam cerca de 55 GB antes da reserva de cada máquina; resolução da imagem, quadros de vídeo e contexto somam memória, e o encoder visual precisa de suporte no runtime escolhido.

Roda em

Cabe na memória rápida 17

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 17

Na memória, fora da parte rápida 6

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 6

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Preparação indicada antes pela fonte · Transformers
pip install einops torchvision
Transformers · ficha do modelo · Quick Start
from transformers import AutoModelForCausalLM, AutoProcessor, GenerationConfig
from PIL import Image
import requests
import torch

# load the processor
processor = AutoProcessor.from_pretrained(
    'allenai/Molmo-72B-0924',
    trust_remote_code=True,
    torch_dtype='auto',
    device_map='auto'
)

# load the model
model = AutoModelForCausalLM.from_pretrained(
    'allenai/Molmo-72B-0924',
    trust_remote_code=True,
    torch_dtype='auto',
    device_map='auto'
)

# process the image and text
inputs = processor.process(
    images=[Image.open(requests.get("https://picsum.photos/id/237/536/354", stream=True).raw)],
    text="Describe this image."
)

# move inputs to the correct device and make a batch of size 1
inputs = {k: v.to(model.device).unsqueeze(0) for k, v in inputs.items()}

# generate output; maximum 200 new tokens; stop generation when <|endoftext|> is generated
output = model.generate_from_batch(
    inputs,
    GenerationConfig(max_new_tokens=200, stop_strings="<|endoftext|>"),
    tokenizer=processor.tokenizer
)

# only get generated tokens; decode them to text
generated_tokens = output[0,inputs['input_ids'].size(1):]
generated_text = processor.tokenizer.decode(generated_tokens, skip_special_tokens=True)

# print the generated text
print(generated_text)

# >>> This image features an adorable black Labrador puppy sitting on a wooden deck. 
#     The puppy is positioned in the center of the frame, looking up at the camera...

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Checkpoint / fonte
allenai/Molmo-72B-0924
Tarefa
image-text-to-text
Arquitetura
MolmoForCausalLM
Biblioteca na fonte
transformers
Licença dos pesos
Apache 2.0allenai/Molmo-72B-0924 model card (Hugging Face) · consultado em 2026-10-18fonte
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Idiomas
enMetadados do model card · consultado em 2026-10-25fonte
Lançamento
Molmo README news, '2024/09/24 ... Molmo ... has been released' (allenai/molmo GitHub) · consultado em 2026-10-18fonte
Todos os campos guardados13 campos
Revisão conferida
ab586dd9640de059566975b8e5bcd0c6fdc73956
Arquitetura
MolmoForCausalLM
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Modelos base declarados
openai/clip-vit-large-patch14-336 · Qwen/Qwen2-72B
Formatos
transformers, safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Parâmetros no Hub
73.308.285.952safetensors.total
Repositório criado
2024-09-25criação não é o lançamento do modelo
Repositório atualizado
2025-10-09um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
7.952 · 300só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-18. A licença e a data de lançamento citam as fontes do publicador; parâmetros, arquivos e tarefa vêm do registro do Hugging Face, e a memória é uma estimativa rotulada a partir da contagem de parâmetros. Um valor que nenhuma fonte informa fica vazio; um commit do repositório não é a data de lançamento do modelo.