Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

llava-1.5-7b-hf

Llava Hugging Face · llava-hf/llava-1.5-7b-hf

Licença dos pesos: Termos do publicador: Llama 2 · código e componentes podem ter outros termos

Downloads no Hub · 30 dias827,4 milPopularidade, não qualidade · lido em 2026-10-25
Memória necessária~6 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros7,1 BTotal de safetensors no Hub
Repositório atualizado2025-06-06Um commit não é data de lançamento

Qualidade

Sem score comparável

Ainda não acompanhamos benchmark público e comparável que cubra este modelo. Nenhuma nota é inferida.

Informado pelo publicador

A ficha do publicador não informa resultado de benchmark para este checkpoint (lida em 2026-10-25). não publicado na ficha · lida em 2026-10-25

Roda em

Cabe na memória rápida 114

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 114

Na memória, fora da parte rápida 5

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 5

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Considere para

Llava Hugging Face lançou llava-1.5-7b-hf em 2023-10-05: um modelo de visão e linguagem que responde sobre imagens, com 7,06B parâmetros pela contagem do Hugging Face e licença Termos do publicador: Llama 2. Idiomas declarados pelo publicador: en.

Confira antes

Licença: uso comercial permitido com condições: Acima de 700 mi de usuários mensais exige licença da Meta. Em Q4 os pesos somam cerca de 5,3 GB antes da reserva de cada máquina; resolução da imagem, quadros de vídeo e contexto somam memória, e o encoder visual precisa de suporte no runtime escolhido.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Transformers · ficha do modelo · Using `pipeline`:
from transformers import pipeline

pipe = pipeline("image-text-to-text", model="llava-hf/llava-1.5-7b-hf")
messages = [
    {
      "role": "user",
      "content": [
          {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/transformers/tasks/ai2d-demo.jpg"},
          {"type": "text", "text": "What does the label 15 represent? (1) lava (2) core (3) tunnel (4) ash cloud"},
        ],
    },
]

out = pipe(text=messages, max_new_tokens=20)
print(out)
>>> [{'input_text': [{'role': 'user', 'content': [{'type': 'image', 'url': 'https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/transformers/tasks/ai2d-demo.jpg'}, {'type': 'text', 'text': 'What does the label 15 represent? (1) lava (2) core (3) tunnel (4) ash cloud'}]}], 'generated_text': 'Lava'}]
Transformers · ficha do modelo · Using pure `transformers`:
import requests
from PIL import Image

import torch
from transformers import AutoProcessor, LlavaForConditionalGeneration

model_id = "llava-hf/llava-1.5-7b-hf"
model = LlavaForConditionalGeneration.from_pretrained(
    model_id, 
    torch_dtype=torch.float16, 
    low_cpu_mem_usage=True, 
).to(0)

processor = AutoProcessor.from_pretrained(model_id)

# Define a chat history and use `apply_chat_template` to get correctly formatted prompt
# Each value in "content" has to be a list of dicts with types ("text", "image") 
conversation = [
    {

      "role": "user",
      "content": [
          {"type": "text", "text": "What are these?"},
          {"type": "image"},
        ],
    },
]
prompt = processor.apply_chat_template(conversation, add_generation_prompt=True)

image_file = "http://images.cocodataset.org/val2017/000000039769.jpg"
raw_image = Image.open(requests.get(image_file, stream=True).raw)
inputs = processor(images=raw_image, text=prompt, return_tensors='pt').to(0, torch.float16)

output = model.generate(**inputs, max_new_tokens=200, do_sample=False)
print(processor.decode(output[0][2:], skip_special_tokens=True))

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Checkpoint / fonte
llava-hf/llava-1.5-7b-hf
Tarefa
image-text-to-text
Arquitetura
LlavaForConditionalGeneration
Biblioteca na fonte
transformers
Licença dos pesos
Termos do publicador: Llama 2llava-hf/llava-1.5-7b-hf model card (Hugging Face) · consultado em 2026-10-18fonte
Uso comercial
Permitido com condições Acima de 700 mi de usuários mensais exige licença da Meta · Llama 2 Community License (meta-llama/llama LICENSE) · consultado em 2026-10-18texto da licença
Idiomas
enMetadados do model card · consultado em 2026-10-25fonte
Lançamento
LLaVA README release notes (GitHub, haotian-liu/LLaVA) · consultado em 2026-10-18fonte
Todos os campos guardados12 campos
Revisão conferida
b234b804b114d9e37bb655e11cbbb5f5e971b7a9
Arquitetura
LlavaForConditionalGeneration
Biblioteca
transformers
Tag de tarefa no Hub
image-text-to-text
Formatos
transformers, safetensors
Acesso
Download aberto
Tipo de publicador
Oficial
Parâmetros no Hub
7.063.427.072safetensors.total
Repositório criado
2023-12-05criação não é o lançamento do modelo
Repositório atualizado
2025-06-06um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
827.428 · 383só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-18. A licença e a data de lançamento citam as fontes do publicador; parâmetros, arquivos e tarefa vêm do registro do Hugging Face, e a memória é uma estimativa rotulada a partir da contagem de parâmetros. Um valor que nenhuma fonte informa fica vazio; um commit do repositório não é a data de lançamento do modelo.