Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Nanonets-OCR2-3B

nanonets · nanonets/Nanonets-OCR2-3B

Licença dos pesos: Não declarada pela fonte

Informado pelo publicador5 resultadosFicha de nanonets · lida em 2026-10-25 · sem ranking · ver
Memória necessária~3 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros3,8 BTotal de safetensors no Hub
Repositório atualizado2025-10-16Um commit não é data de lançamento

Qualidade

Sem score comparável

Ainda não acompanhamos benchmark público e comparável que cubra este modelo. Nenhuma nota é inferida.

Informado pelo publicador

5 resultados · ficha de nanonets · lida em 2026-10-25
Win Rate vs Nanonets OCR2 Plus (%)
29,37%Nanonets OCR2 Plus
Lose Rate vs Nanonets OCR2 Plus (%)
54,58%Nanonets OCR2 Plus
Both Correct (%)
16,04%Nanonets OCR2 Plus
ChartQA (IDP-Leaderboard)
78,56Visual Question Answering (VQA) Evaluations
DocVQA (IDP-Leaderboard)
89,43Visual Question Answering (VQA) Evaluations

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluation › Markdown Evaluations › Nanonets OCR2 Plus; Evaluation › Visual Question Answering (VQA) Evaluations); coluna “Nanonets OCR2 3B”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Roda em

Cabe na memória rápida 118

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 118

Na memória, fora da parte rápida 1

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Transformers · ficha do modelo · Using transformers
from PIL import Image
from transformers import AutoTokenizer, AutoProcessor, AutoModelForImageTextToText

model_path = "nanonets/Nanonets-OCR2-3B"

model = AutoModelForImageTextToText.from_pretrained(
    model_path, 
    torch_dtype="auto", 
    device_map="auto", 
    attn_implementation="flash_attention_2"
)
model.eval()

tokenizer = AutoTokenizer.from_pretrained(model_path)
processor = AutoProcessor.from_pretrained(model_path)


def ocr_page_with_nanonets_s(image_path, model, processor, max_new_tokens=4096):
    prompt = """Extract the text from the above document as if you were reading it naturally. Return the tables in html format. Return the equations in LaTeX representation. If there is an image in the document and image caption is not present, add a small description of the image inside the <img></img> tag; otherwise, add the image caption inside <img></img>. Watermarks should be wrapped in brackets. Ex: <watermark>OFFICIAL COPY</watermark>. Page numbers should be wrapped in brackets. Ex: <page_number>14</page_number> or <page_number>9/22</page_number>. Prefer using ☐ and ☑ for check boxes."""
    image = Image.open(image_path)
    messages = [
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": [
            {"type": "image", "image": f"file://{image_path}"},
            {"type": "text", "text": prompt},
        ]},
    ]
    text = processor.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
    inputs = processor(text=[text], images=[image], padding=True, return_tensors="pt")
    inputs = inputs.to(model.device)
    
    output_ids = model.generate(**inputs, max_new_tokens=max_new_tokens, do_sample=False)
    generated_ids = [output_ids[len(input_ids):] for input_ids, output_ids in zip(inputs.input_ids, output_ids)]
    
    output_text = processor.batch_decode(generated_ids, skip_special_tokens=True, clean_up_tokenization_spaces=True)
    return output_text[0]

image_path = "/path/to/your/document.jpg"
result = ocr_page_with_nanonets_s(image_path, model, processor, max_new_tokens=15000)
print(result)
vLLM · ficha do modelo · Using vLLM
vllm serve nanonets/Nanonets-OCR2-3B

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Checkpoint / fonte
nanonets/Nanonets-OCR2-3B
Tarefa
image-text-to-text
Arquitetura
Qwen2_5_VLForConditionalGeneration
Biblioteca na fonte
transformers
Idiomas
MultilíngueMetadados do model card · consultado em 2026-10-25fonte
Todos os campos guardados14 campos
Revisão conferida
c3886ff00bb037ce7da24988c9eafaf1fe2bed72
Arquitetura
Qwen2_5_VLForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Modelos base declarados
Qwen/Qwen2.5-VL-3B-Instruct
Formatos
transformers, safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Parâmetros no Hub
3.754.622.976safetensors.total
Repositório criado
2025-10-13criação não é o lançamento do modelo
Repositório atualizado
2025-10-16um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
243.393 · 517só este repositório · lido em 2026-10-25
Lido na página do Hub
classe transformers, tags de tarefaVisão geral e lista de arquivos do Hub · lido em 2026-10-19
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Snapshot válido da fonte: 2026-11-19. Este registro da fonte ainda não recebeu revisão técnica completa. Dados ausentes permanecem desconhecidos; um commit do repositório não é a data de lançamento do modelo.