olmOCR-2-7B-1025-FP8
allenai · allenai/olmOCR-2-7B-1025-FP8
Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos
Ainda sem benchmark nem estimativa
Sem score comparável, sem número de memória para comparar com hardware e sem medição de velocidade publicada para este checkpoint. Nada é adivinhado.
Como rodar
Compatibilidade de runtime e velocidade não foram medidas para este registro. Metadados publicados não comprovam uma execução local; confira antes os arquivos e os termos na fonte.
Formas documentadas de rodar
Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.
pip install olmocr>=0.4.0import torch
import base64
import urllib.request
from io import BytesIO
from PIL import Image
from transformers import AutoProcessor, Qwen2_5_VLForConditionalGeneration
from olmocr.data.renderpdf import render_pdf_to_base64png
from olmocr.prompts import build_no_anchoring_v4_yaml_prompt
# Initialize the model
model = Qwen2_5_VLForConditionalGeneration.from_pretrained("allenai/olmOCR-2-7B-1025-FP8", device_map="auto").eval()
processor = AutoProcessor.from_pretrained("Qwen/Qwen2.5-VL-7B-Instruct")
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model.to(device)
# Grab a sample PDF
urllib.request.urlretrieve("https://olmocr.allenai.org/papers/olmocr.pdf", "./paper.pdf")
# Render page 1 to an image
image_base64 = render_pdf_to_base64png("./paper.pdf", 1, target_longest_image_dim=1288)
# Build the full prompt
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": build_no_anchoring_v4_yaml_prompt()},
{"type": "image_url", "image_url": {"url": f"data:image/png;base64,{image_base64}"}},
],
}
]
# Apply the chat template and processor
text = processor.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
main_image = Image.open(BytesIO(base64.b64decode(image_base64)))
inputs = processor(
text=[text],
images=[main_image],
padding=True,
return_tensors="pt",
)
inputs = {key: value.to(device) for (key, value) in inputs.items()}
# Generate the output
output = model.generate(
**inputs,
temperature=0.1,
max_new_tokens=50,
num_return_sequences=1,
do_sample=True,
)
# Decode the output
prompt_length = inputs["input_ids"].shape[1]
new_tokens = output[:, prompt_length:]
text_output = processor.tokenizer.batch_decode(
new_tokens, skip_special_tokens=True
)
print(text_output)
# ['---\nprimary_language: en\nis_rotation_valid: True\nrotation_correction: 0\nis_table: False\nis_diagram: False\n---\nolmOCR: Unlocking Trillions of Tokens in PDFs with Vision Language Models\n\nJake Poz']Detalhes técnicos
O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.
- Checkpoint / fonte
- allenai/olmOCR-2-7B-1025-FP8
- Tarefa
- image-text-to-text
- Arquitetura
- Qwen2_5_VLForConditionalGeneration
- Biblioteca na fonte
- transformers
- Licença dos pesos
- Apache 2.0
- Uso comercial
- Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
- Idiomas
- enMetadados do model card · consultado em 2026-10-25fonte
Todos os campos guardados
- Revisão conferida
- 40bd7202494b8264ee17ada08b401b5aab7a9ce1
- Arquitetura
- Qwen2_5_VLForConditionalGeneration
- Biblioteca
- transformers
- Tag de tarefa no Hub
- image-text-to-text
- Modelos base declarados
- Qwen/Qwen2.5-VL-7B-Instruct
- Formatos
- transformers, safetensors
- Acesso
- Download aberto
- Tipo de publicador
- Oficial
- Repositório criado
- 2025-10-06criação não é o lançamento do modelo
- Repositório atualizado
- 2026-02-19um commit não é data de lançamento
- Downloads no Hub (30 dias) · curtidas
- 81.434 · 258só este repositório · lido em 2026-10-25
- Estado no catálogo
- Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário
Fontes
Snapshot válido da fonte: 2026-09-26. Este registro da fonte ainda não recebeu revisão técnica completa. Dados ausentes permanecem desconhecidos; um commit do repositório não é a data de lançamento do modelo.