Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Granite Embedding 311M Multilingual R2

IBM · ibm-granite/granite-embedding-311m-multilingual-r2

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

MTEB (Multilingual, v2)56,0 / 100mean(task) · execução independente
Memória necessária~3 GBEstimativa 8 bits · não medida
Parâmetros0,31 BBase nos detalhes técnicos
Dimensões · contexto76832.768 tokens · Matryoshka 512/384/256/128

Qualidade

Informado pelo publicador

3 resultados · ficha de IBM · lida em 2026-10-25
MTEB (eng, v2)
52,6
MTEB (Code, v1)
63,9
ML MTEB Retrieval
63,9

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluation Results › Matryoshka Embeddings Performance); coluna “granite-embedding-311m-multilingual-r2”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Qualidade × memória

Sem par qualidade × memória comparável

As estimativas de memória de embeddings ficam em poucos GB, então um gráfico qualidade × memória não separaria estes modelos; o MTEB aparece acima.

Considere para

Considere Granite Embedding 311M Multilingual R2 para busca semântica e recuperação: gera vetores de 768 dimensões a partir de texto.

Confira antes

O publicador não informa memória; a lista de hardware usa a estimativa de ~3 GB, um teto e não uma medição. PT-BR confirmado por uma fonte.

Roda em

Cabe na memória rápida 119

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 119

Perfis de hardware agrupados pela estimativa de planejamento de embeddings (pesos de 8 bits, 20% de margem, 2 GB de reserva). Não é compatibilidade medida.

Velocidade medida

Nenhuma medição publicada para este checkpoint

A vazão (textos por segundo) só aparece quando uma fonte a publica com hardware, build e configuração. Nunca é estimada.

Como rodar

A estimativa de planejamento usa pesos de 8 bits, 20% de margem e 2 GB de reserva; é um teto, não uma medição.

Roda em
Sentence Transformers, Transformersfonte
Idiomas · PT-BR
Mais de 200 idiomas no pré-treino, suporte reforçado a 52 idiomas e código, português incluído (model card)PT-BR confirmado por uma fonte

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Preparação indicada antes pela fonte · Sentence Transformers
pip install sentence_transformers
Sentence Transformers · ficha do modelo · Usage
from sentence_transformers import SentenceTransformer, util

model_path = "ibm-granite/granite-embedding-311m-multilingual-r2"
# Load the Sentence Transformer model
model = SentenceTransformer(model_path)

input_queries = [
    'What is the tallest mountain in Japan?',          # English query
    'Wer hat das Lied Achy Breaky Heart geschrieben?', # German query
    'ドイツの首都はどこですか?',                            # Japanese query
    ]

input_passages = [
    "富士山は、静岡県と山梨県にまたがる活火山で、標高3776.12 mで日本最高峰の独立峰である。",  # Japanese passage
    "Achy Breaky Heart is a country song written by Don Von Tress. Originally titled Don't Tell My Heart and performed by The Marcy Brothers in 1991.",  # English passage
    "Berlin ist die Hauptstadt und ein Land der Bundesrepublik Deutschland. Die Stadt ist mit rund 3,7 Millionen Einwohnern die bevölkerungsreichste Kommune Deutschlands.",  # German passage
    ]

# Cross-lingual retrieval: each query should score highest with its matching passage in a different language
query_embeddings = model.encode(input_queries)
passage_embeddings = model.encode(input_passages)

# calculate cosine similarity — expect high scores on the diagonal (EN→JA, DE→EN, JA→DE)
print(util.cos_sim(query_embeddings, passage_embeddings))
# output: tensor([[0.9393, 0.6899, 0.7627],
#                 [0.6780, 0.9598, 0.7062],
#                 [0.7818, 0.7342, 0.9172]])
vLLM · ficha do modelo · Optimized Inference and Deployment
vllm serve ibm-granite/granite-embedding-311m-multilingual-r2 --task embed
llama.cpp · ficha do modelo · Optimized Inference and Deployment
# Convert to GGUF
python convert_hf_to_gguf.py ibm-granite/granite-embedding-311m-multilingual-r2 \
    --outfile granite-embedding-311m-multilingual-r2.gguf

# Generate embeddings
llama-embedding -m granite-embedding-311m-multilingual-r2.gguf -p "example text"

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa
embeddings para busca (extração de características)
Biblioteca na fonte
Sentence Transformers, Transformers
Licença dos pesos
Apache 2.0
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Base dos parâmetros
Total de parâmetros dos safetensors no Hub (311,664,384, lido em 2026-10-07 na API do Hub); os publicadores arredondam no nome.
Anunciado
2026-04-29

O card informa sequência de 32.768 tokens; os metadados do MTEB dizem 8.192. Vale o valor do card. Não encontrado na biblioteca do Ollama em 2026-10-07 (a página granite-embedding serve a primeira geração).

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-07. Cada valor cita sua fonte (a ficha do publicador ou o dataset de resultados do MTEB); estimativas vêm rotuladas como estimativas, e um valor que nenhuma fonte informa fica vazio. Um commit do repositório não é a data de lançamento do modelo.