SmolDocling-256M-preview
Docling · docling-project/SmolDocling-256M-preview
Licença dos pesos: Termos do publicador: CDLA-Permissive-2.0 · código e componentes podem ter outros termos
Qualidade
Sem score comparável
Ainda não acompanhamos benchmark público e comparável que cubra este modelo. Nenhuma nota é inferida.
Informado pelo publicador
Roda em
Cabe na memória rápida 119
A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.
Mostrar todos os 119
Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.
Docling lançou SmolDocling-256M-preview em 2025-03-14: um modelo de visão e linguagem que responde sobre imagens, com 256M parâmetros pela contagem do Hugging Face e licença Termos do publicador: CDLA-Permissive-2.0. Idiomas declarados pelo publicador: en.
Licença: uso comercial permitido. Em Q4 os pesos somam cerca de 0,2 GB antes da reserva de cada máquina; resolução da imagem, quadros de vídeo e contexto somam memória, e o encoder visual precisa de suporte no runtime escolhido.
Velocidade medida
Nenhuma medição publicada para este checkpoint
Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.
Como rodar
Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.
Biblioteca na fonte: transformers
Formas documentadas de rodar
Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.
# Prerequisites:
# pip install torch
# pip install docling_core
# pip install transformers
import torch
from docling_core.types.doc import DoclingDocument
from docling_core.types.doc.document import DocTagsDocument
from transformers import AutoProcessor, AutoModelForVision2Seq
from transformers.image_utils import load_image
from pathlib import Path
DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
# Load images
image = load_image("https://upload.wikimedia.org/wikipedia/commons/7/76/GazettedeFrance.jpg")
# Initialize processor and model
processor = AutoProcessor.from_pretrained("ds4sd/SmolDocling-256M-preview")
model = AutoModelForVision2Seq.from_pretrained(
"ds4sd/SmolDocling-256M-preview",
torch_dtype=torch.bfloat16,
_attn_implementation="flash_attention_2" if DEVICE == "cuda" else "eager",
).to(DEVICE)
# Create input messages
messages = [
{
"role": "user",
"content": [
{"type": "image"},
{"type": "text", "text": "Convert this page to docling."}
]
},
]
# Prepare inputs
prompt = processor.apply_chat_template(messages, add_generation_prompt=True)
inputs = processor(text=prompt, images=[image], return_tensors="pt")
inputs = inputs.to(DEVICE)
# Generate outputs
generated_ids = model.generate(**inputs, max_new_tokens=8192)
prompt_length = inputs.input_ids.shape[1]
trimmed_generated_ids = generated_ids[:, prompt_length:]
doctags = processor.batch_decode(
trimmed_generated_ids,
skip_special_tokens=False,
)[0].lstrip()
# Populate document
doctags_doc = DocTagsDocument.from_doctags_and_image_pairs([doctags], [image])
print(doctags)
# create a docling document
doc = DoclingDocument.load_from_doctags(doctags_doc, document_name="Document")
# export as any format
# HTML
# Path("Out/").mkdir(parents=True, exist_ok=True)
# output_path_html = Path("Out/") / "example.html"
# doc.save_as_html(output_path_html)
# MD
print(doc.export_to_markdown())# Prerequisites:
# pip install vllm
# pip install docling_core
# place page images you want to convert into "img/" dir
import time
import os
from vllm import LLM, SamplingParams
from PIL import Image
from docling_core.types.doc import DoclingDocument
from docling_core.types.doc.document import DocTagsDocument
from pathlib import Path
# Configuration
MODEL_PATH = "ds4sd/SmolDocling-256M-preview"
IMAGE_DIR = "img/" # Place your page images here
OUTPUT_DIR = "out/"
PROMPT_TEXT = "Convert page to Docling."
# Ensure output directory exists
os.makedirs(OUTPUT_DIR, exist_ok=True)
# Initialize LLM
llm = LLM(model=MODEL_PATH, limit_mm_per_prompt={"image": 1})
sampling_params = SamplingParams(
temperature=0.0,
max_tokens=8192)
chat_template = f"<|im_start|>User:<image>{PROMPT_TEXT}<end_of_utterance>
Assistant:"
image_files = sorted([f for f in os.listdir(IMAGE_DIR) if f.lower().endswith((".png", ".jpg", ".jpeg"))])
start_time = time.time()
total_tokens = 0
for idx, img_file in enumerate(image_files, 1):
img_path = os.path.join(IMAGE_DIR, img_file)
image = Image.open(img_path).convert("RGB")
llm_input = {"prompt": chat_template, "multi_modal_data": {"image": image}}
output = llm.generate([llm_input], sampling_params=sampling_params)[0]
doctags = output.outputs[0].text
img_fn = os.path.splitext(img_file)[0]
output_filename = img_fn + ".dt"
output_path = os.path.join(OUTPUT_DIR, output_filename)
with open(output_path, "w", encoding="utf-8") as f:
f.write(doctags)
# To convert to Docling Document, MD, HTML, etc.:
doctags_doc = DocTagsDocument.from_doctags_and_image_pairs([doctags], [image])
doc = DoclingDocument.load_from_doctags(doctags_doc, document_name="Document")
# export as any format
# HTML
# output_path_html = Path(OUTPUT_DIR) / f"{img_fn}.html"
# doc.save_as_html(output_path_html)
# MD
output_path_md = Path(OUTPUT_DIR) / f"{img_fn}.md"
doc.save_as_markdown(output_path_md)
print(f"Total time: {time.time() - start_time:.2f} sec")Detalhes técnicos
O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.
- Checkpoint / fonte
- docling-project/SmolDocling-256M-preview
- Tarefa
- image-text-to-text
- Arquitetura
- Idefics3ForConditionalGeneration
- Biblioteca na fonte
- transformers
- Licença dos pesos
- Termos do publicador: CDLA-Permissive-2.0docling-project/SmolDocling-256M-preview model card (Hugging Face) · consultado em 2026-10-18fonte
- Uso comercial
- Permitido CDLA-Permissive-2.0 text (SPDX) · consultado em 2026-10-18texto da licença
- Idiomas
- enMetadados do model card · consultado em 2026-10-25fonte
- Lançamento
- SmolDocling: An ultra-compact vision-language model for end-to-end multi-modal document conversion (IBM Research & Hugging Face, arXiv 2503.11576 v1) · consultado em 2026-10-18fonte
Todos os campos guardados
- Revisão conferida
- ce51f56c4ebe36e0b1c3a55f67b261ba22a50bf8
- Arquitetura
- Idefics3ForConditionalGeneration
- Biblioteca
- transformers
- Tag de tarefa no Hub
- image-text-to-text
- Modelos base declarados
- HuggingFaceTB/SmolVLM-256M-Instruct
- Formatos
- transformers, onnx, safetensors
- Acesso
- Download aberto
- Tipo de publicador
- Oficial
- Parâmetros no Hub
- 256.484.928safetensors.total
- Repositório criado
- 2025-02-12criação não é o lançamento do modelo
- Repositório atualizado
- 2025-09-17um commit não é data de lançamento
- Downloads no Hub (30 dias) · curtidas
- 29.309 · 1.636só este repositório · lido em 2026-10-25
- Estado no catálogo
- Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário
Fontes
Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.
- Ficha do publicador
- Licença: docling-project/SmolDocling-256M-preview model card (Hugging Face)
- Data de lançamento: SmolDocling: An ultra-compact vision-language model for end-to-end multi-modal document conversion (IBM Research & Hugging Face, arXiv 2503.11576 v1)
Fatos curados verificados: 2026-10-18. A licença e a data de lançamento citam as fontes do publicador; parâmetros, arquivos e tarefa vêm do registro do Hugging Face, e a memória é uma estimativa rotulada a partir da contagem de parâmetros. Um valor que nenhuma fonte informa fica vazio; um commit do repositório não é a data de lançamento do modelo.






























































