Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

North-Micro-Vision-Instruct

Cohere · CohereLabs/North-Micro-Vision-Instruct

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

Informado pelo publicador22 resultadosFicha de Cohere · lida em 2026-10-25 · sem ranking · ver
Memória necessária~2 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros2,5 BTotal de safetensors no Hub
Repositório atualizado2026-09-30Um commit não é data de lançamento

Qualidade

Sem score comparável

Ainda não acompanhamos benchmark público e comparável que cubra este modelo. Nenhuma nota é inferida.

Informado pelo publicador

22 resultados · ficha de Cohere · lida em 2026-10-25
MMBench DEV_EN_V11
0,687
MMStar
0,518
RealWorldQA
0,622
GQA TestDev_Balanced
0,574
MTL MMBench_DEV
0,636
MMMB
0,728
BLINK
0,527
ChartQA Test
0,808
Todos os resultados informados22
DocVQA VAL
0,921
InfoVQA VAL
0,652
OCRBench v2_en
0,367
OCRBench
0,792
AI2D_TEST
0,775
CharXiv DQ
0,600
MMMU DEV_VAL
0,329
RefCOCO avg †
0,732
CountBench
0,725
HallusionBench
0,615
MMLU test
0,504
MMLU-Pro test
0,307
Multi-If
0,373
IFEval
0,749

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Benchmark Results); coluna “North-Micro-Vision-Instruct”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Roda em

Cabe na memória rápida 119

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 119

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Considere para

Cohere lançou North-Micro-Vision-Instruct em 2026-08-12: um modelo de visão e linguagem que responde sobre imagens, com 2,48B parâmetros pela contagem do Hugging Face e licença Apache 2.0. Idiomas declarados pelo publicador: en, de, fr, es, it, pt, hi, ja, ko, zh, ar.

Confira antes

Licença: uso comercial permitido. Em Q4 os pesos somam cerca de 1,9 GB antes da reserva de cada máquina; resolução da imagem, quadros de vídeo e contexto somam memória, e o encoder visual precisa de suporte no runtime escolhido.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Preparação indicada antes pela fonte · Transformers
uv pip install accelerate pillow "transformers==5.16.0"
Transformers · ficha do modelo · Transformers
import torch
from transformers import AutoModelForImageTextToText, AutoProcessor

model_id = "CohereLabs/North-Micro-Vision-Instruct"

processor = AutoProcessor.from_pretrained(
    model_id,
)
model = AutoModelForImageTextToText.from_pretrained(
    model_id,
    dtype="auto",
    device_map="auto",
)

# To enable Flash Attention 2, load the model with the following settings:
# model = AutoModelForImageTextToText.from_pretrained(
#     model_id,
#     dtype=torch.bfloat16,
#     attn_implementation="flash_attention_2",
#     device_map="auto",
# )

image_url = "https://cdn-uploads.huggingface.co/production/uploads/66d732effe6684fc16b12c28/Io_5OCmftsmH-n158ZtPs.png"
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": image_url},
            {"type": "text", "text": "What do you see?"},
        ],
    }
]

inputs = processor.apply_chat_template(
    messages,
    tokenize=True,
    add_generation_prompt=True,
    return_tensors="pt",
    return_dict=True,
).to(model.device)

outputs = model.generate(
    **inputs,
    max_new_tokens=128,
    do_sample=True,
    temperature=0.7,
    top_p=0.8,
    top_k=20,
)

generated_ids = [
    output_ids[len(input_ids) :]
    for input_ids, output_ids in zip(inputs.input_ids, outputs)
]
response = processor.batch_decode(
    generated_ids,
    skip_special_tokens=True,
    clean_up_tokenization_spaces=False,
)[0]
print(response)

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa
image-text-to-text
Arquitetura
CohereCompassForConditionalGeneration
Biblioteca na fonte
transformers
Licença dos pesos
Apache 2.0CohereLabs/North-Micro-Vision-Instruct model card (Hugging Face: "released under the Apache 2.0 license") · consultado em 2026-10-19fonte
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Idiomas
en, de, fr, es, it, pt, hi, ja, ko, zh, arMetadados do model card · consultado em 2026-10-25fonte
Lançamento
Meet North Micro Vision: A 2.4B Native-Resolution Vision-Language Model (Hugging Face blog post by the publisher; JSON-LD datePublished) · consultado em 2026-10-19fonte secundária
Todos os campos guardados12 campos
Revisão conferida
fa548d9aa62c1220bfd21fc6cfc465f1bd2a1a40
Arquitetura
CohereCompassForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Formatos
transformers, safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Parâmetros no Hub
2.484.847.856safetensors.total
Repositório criado
2026-08-10criação não é o lançamento do modelo
Repositório atualizado
2026-09-30um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
35.947 · 154só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-19. A licença e a data de lançamento citam as fontes do publicador; parâmetros, arquivos e tarefa vêm do registro do Hugging Face, e a memória é uma estimativa rotulada a partir da contagem de parâmetros. Um valor que nenhuma fonte informa fica vazio; um commit do repositório não é a data de lançamento do modelo.