Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Granite Embedding Small English R2

IBM · ibm-granite/granite-embedding-small-english-r2

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

MTEB (Multilingual, v2)Sem resultado MTEB com fonteSem resultado MTEB com fonte
Memória necessária~3 GBEstimativa 8 bits · não medida
Parâmetros48 MBase nos detalhes técnicos
Dimensões · contexto3848.192 tokens

Qualidade

Fora do ranking MTEB

O dataset de resultados do MTEB cobre 25 de 131 tarefas do MTEB (Multilingual, v2); uma média sobre um conjunto parcial não é comparável, então nenhuma é calculada.

Benchmarks com fonte
MTEB (eng, v2)mean(task) · 384d61,07execução independente
2026-10-25

Informado pelo publicador

A ficha tem 1 tabela de avaliação, mas nenhuma coluna foi associada a este checkpoint ainda (lida em 2026-10-25); nenhum valor é copiado de outra coluna. Isto continua uma lacuna aberta. tabelas na ficha, coluna ainda não associada · lida em 2026-10-25

Qualidade × memória

Sem par qualidade × memória comparável

As estimativas de memória de embeddings ficam em poucos GB, então um gráfico qualidade × memória não separaria estes modelos; o MTEB aparece acima.

Roda em

Cabe na memória rápida 119

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 119

Perfis de hardware agrupados pela estimativa de planejamento de embeddings (pesos de 8 bits, 20% de margem, 2 GB de reserva). Não é compatibilidade medida.

Considere para

Considere Granite Embedding Small English R2 para busca semântica e recuperação: gera vetores de 384 dimensões a partir de texto.

Confira antes

O publicador não informa memória; a lista de hardware usa a estimativa de ~3 GB, um teto e não uma medição. PT-BR não está confirmado por uma fonte.

Velocidade medida

Nenhuma medição publicada para este checkpoint

A vazão (textos por segundo) só aparece quando uma fonte a publica com hardware, build e configuração. Nunca é estimada.

Como rodar

A estimativa de planejamento usa pesos de 8 bits, 20% de margem e 2 GB de reserva; é um teto, não uma medição.

Roda em
Sentence Transformersfonte
Idiomas · PT-BR
InglêsPT-BR não confirmado

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Preparação indicada antes pela fonte · Sentence Transformers
pip install sentence_transformers
Sentence Transformers · ficha do modelo · Usage
from sentence_transformers import SentenceTransformer, util

model_path = "ibm-granite/granite-embedding-small-english-r2"
# Load the Sentence Transformer model
model = SentenceTransformer(model_path)

input_queries = [
    ' Who made the song My achy breaky heart? ',
    'summit define'
    ]

input_passages = [
    "Achy Breaky Heart is a country song written by Don Von Tress. Originally titled Don't Tell My Heart and performed by The Marcy Brothers in 1991. ",
    "Definition of summit for English Language Learners. : 1 the highest point of a mountain : the top of a mountain. : 2 the highest level. : 3 a meeting or series of meetings between the leaders of two or more governments."
    ]

# encode queries and passages. The model produces unnormalized vectors. If your task requires normalized embeddings pass normalize_embeddings=True to encode as below.
query_embeddings = model.encode(input_queries)
passage_embeddings = model.encode(input_passages)

# calculate cosine similarity
print(util.cos_sim(query_embeddings, passage_embeddings))
Preparação indicada antes pela fonte · Transformers
pip install transformers torch
Transformers · ficha do modelo · Usage
import torch
from transformers import AutoModel, AutoTokenizer

model_path = "ibm-granite/granite-embedding-small-english-r2"

# Load the model and tokenizer
model = AutoModel.from_pretrained(model_path)
tokenizer = AutoTokenizer.from_pretrained(model_path)
model.eval()

input_queries = [
    ' Who made the song My achy breaky heart? ',
    'summit define'
    ]

# tokenize inputs
tokenized_queries = tokenizer(input_queries, padding=True, truncation=True, return_tensors='pt')

# encode queries
with torch.no_grad():
    # Queries
    model_output = model(**tokenized_queries)
    # Perform pooling. granite-embedding-278m-multilingual uses CLS Pooling
    query_embeddings = model_output[0][:, 0]

# normalize the embeddings
query_embeddings = torch.nn.functional.normalize(query_embeddings, dim=1)

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa
embeddings para busca (extração de características)
Biblioteca na fonte
Sentence Transformers
Licença dos pesos
Apache 2.0
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Base dos parâmetros
Total de parâmetros dos safetensors no Hub (47.662.464, lido em 2026-10-09 na API do Hub).
Anunciado
2025-08-15

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-09. Cada valor cita sua fonte (a ficha do publicador ou o dataset de resultados do MTEB); estimativas vêm rotuladas como estimativas, e um valor que nenhuma fonte informa fica vazio. Um commit do repositório não é a data de lançamento do modelo.