Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Qwen3-Embedding 8B

Alibaba (Qwen) · Qwen/Qwen3-Embedding-8B

Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos

MTEB (Multilingual, v2)70,6 / 100mean(task) · execução independente
Memória necessária~12 GBEstimativa 8 bits · não medida
Parâmetros7,57 BBase nos detalhes técnicos
Dimensões · contexto4.09632.768 tokens · Matryoshka 32–4096

Qualidade

MTEB (Multilingual, v2)

Média por tarefa · 0 a 100 · maior é melhor · este modelo em destaque

  • Cor = publicador

Fonte: dataset de resultados do MTEB (execuções independentes, CC0) · informado pelo publicador quando o model card é a única fonte · outros benchmarks e versões não entram

Benchmarks com fonte
MTEB (Multilingual, v2)mean(task) · 4096d70,58execução independente
2026-10-25
MTEB (eng, v2)mean(task) · 4096d75,22execução independente
2026-10-25

Informado pelo publicador

28 resultados · ficha de Alibaba (Qwen) · lida em 2026-10-25
Mean (Task)
70,58MTEB (Multilingual) · MTEB
Mean (Type)
61,69MTEB (Multilingual) · MTEB
Bitxt Mining
80,89MTEB (Multilingual) · MTEB
Class.
74,00MTEB (Multilingual) · MTEB
Clust.
57,65MTEB (Multilingual) · MTEB
Inst. Retri.
10,06MTEB (Multilingual) · MTEB
Multi. Class.
28,66MTEB (Multilingual) · MTEB
Pair. Class.
86,40MTEB (Multilingual) · MTEB
Todos os resultados informados28
Rerank
65,63MTEB (Multilingual) · MTEB
Retri.
70,88MTEB (Multilingual) · MTEB
STS
81,08MTEB (Multilingual) · MTEB
Mean (Task)
75,22MTEB (Eng v2) · MTEB
Mean (Type)
68,71MTEB (Eng v2) · MTEB
Class.
90,43MTEB (Eng v2) · MTEB
Clust.
58,57MTEB (Eng v2) · MTEB
Pair Class.
87,52MTEB (Eng v2) · MTEB
Rerank.
51,56MTEB (Eng v2) · MTEB
Retri.
69,44MTEB (Eng v2) · MTEB
STS
88,58MTEB (Eng v2) · MTEB
Summ.
34,83MTEB (Eng v2) · MTEB
Mean (Task)
73,84C-MTEB (MTEB Chinese) · MTEB
Mean (Type)
75,00C-MTEB (MTEB Chinese) · MTEB
Class.
76,97C-MTEB (MTEB Chinese) · MTEB
Clust.
80,08C-MTEB (MTEB Chinese) · MTEB
Pair Class.
84,23C-MTEB (MTEB Chinese) · MTEB
Rerank.
66,99C-MTEB (MTEB Chinese) · MTEB
Retr.
78,21C-MTEB (MTEB Chinese) · MTEB
STS
63,53C-MTEB (MTEB Chinese) · MTEB

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluation › MTEB (Multilingual); Evaluation › MTEB (Eng v2)); coluna “Qwen3-Embedding-8B”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Qualidade × memória

Sem par qualidade × memória comparável

As estimativas de memória de embeddings ficam em poucos GB, então um gráfico qualidade × memória não separaria estes modelos; o MTEB aparece acima.

Considere para

Considere Qwen3-Embedding 8B para busca semântica e recuperação: gera vetores de 4.096 dimensões a partir de texto.

Confira antes

O publicador não informa memória; a lista de hardware usa a estimativa de ~12 GB, um teto e não uma medição. Veja o formato de prompts em Como rodar. PT-BR confirmado por uma fonte.

Roda em

Cabe na memória rápida 90

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 90

Falta um degrau de memória 24

As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.

Mostrar todos os 24

Perfis de hardware agrupados pela estimativa de planejamento de embeddings (pesos de 8 bits, 20% de margem, 2 GB de reserva). Não é compatibilidade medida.

Velocidade medida

Nenhuma medição publicada para este checkpoint

A vazão (textos por segundo) só aparece quando uma fonte a publica com hardware, build e configuração. Nunca é estimada.

Como rodar

A estimativa de planejamento usa pesos de 8 bits, 20% de margem e 2 GB de reserva; é um teto, não uma medição.

Roda em
Ollama, Sentence Transformers, Transformersfonte
Prompts de consulta/documento
Consultas: anteceda uma instrução de uma frase no formato “Instruct: {tarefa} Query: {consulta}”. Documentos: sem prefixo.
Idiomas · PT-BR
Mais de 100 idiomas, incluindo linguagens de programação (model card)PT-BR confirmado por uma fonte

Formas documentadas de rodar

Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.

Sentence Transformers · ficha do modelo · Sentence Transformers Usage
# Requires transformers>=4.51.0
# Requires sentence-transformers>=2.7.0

from sentence_transformers import SentenceTransformer

# Load the model
model = SentenceTransformer("Qwen/Qwen3-Embedding-8B")

# We recommend enabling flash_attention_2 for better acceleration and memory saving,
# together with setting `padding_side` to "left":
# model = SentenceTransformer(
#     "Qwen/Qwen3-Embedding-8B",
#     model_kwargs={"attn_implementation": "flash_attention_2", "device_map": "auto"},
#     tokenizer_kwargs={"padding_side": "left"},
# )

# The queries and documents to embed
queries = [
    "What is the capital of China?",
    "Explain gravity",
]
documents = [
    "The capital of China is Beijing.",
    "Gravity is a force that attracts two bodies towards each other. It gives weight to physical objects and is responsible for the movement of planets around the sun.",
]

# Encode the queries and documents. Note that queries benefit from using a prompt
# Here we use the prompt called "query" stored under `model.prompts`, but you can
# also pass your own prompt via the `prompt` argument
query_embeddings = model.encode(queries, prompt_name="query")
document_embeddings = model.encode(documents)

# Compute the (cosine) similarity between the query and document embeddings
similarity = model.similarity(query_embeddings, document_embeddings)
print(similarity)
# tensor([[0.7493, 0.0751],
#         [0.0880, 0.6318]])
Transformers · ficha do modelo · Transformers Usage
# Requires transformers>=4.51.0

import torch
import torch.nn.functional as F

from torch import Tensor
from transformers import AutoTokenizer, AutoModel


def last_token_pool(last_hidden_states: Tensor,
                 attention_mask: Tensor) -> Tensor:
    left_padding = (attention_mask[:, -1].sum() == attention_mask.shape[0])
    if left_padding:
        return last_hidden_states[:, -1]
    else:
        sequence_lengths = attention_mask.sum(dim=1) - 1
        batch_size = last_hidden_states.shape[0]
        return last_hidden_states[torch.arange(batch_size, device=last_hidden_states.device), sequence_lengths]


def get_detailed_instruct(task_description: str, query: str) -> str:
    return f'Instruct: {task_description}\nQuery:{query}'

# Each query must come with a one-sentence instruction that describes the task
task = 'Given a web search query, retrieve relevant passages that answer the query'

queries = [
    get_detailed_instruct(task, 'What is the capital of China?'),
    get_detailed_instruct(task, 'Explain gravity')
]
# No need to add instruction for retrieval documents
documents = [
    "The capital of China is Beijing.",
    "Gravity is a force that attracts two bodies towards each other. It gives weight to physical objects and is responsible for the movement of planets around the sun."
]
input_texts = queries + documents

tokenizer = AutoTokenizer.from_pretrained('Qwen/Qwen3-Embedding-8B', padding_side='left')
model = AutoModel.from_pretrained('Qwen/Qwen3-Embedding-8B')

# We recommend enabling flash_attention_2 for better acceleration and memory saving.
# model = AutoModel.from_pretrained('Qwen/Qwen3-Embedding-8B', attn_implementation="flash_attention_2", torch_dtype=torch.float16).cuda()

max_length = 8192

# Tokenize the input texts
batch_dict = tokenizer(
    input_texts,
    padding=True,
    truncation=True,
    max_length=max_length,
    return_tensors="pt",
)
batch_dict.to(model.device)
outputs = model(**batch_dict)
embeddings = last_token_pool(outputs.last_hidden_state, batch_dict['attention_mask'])

# normalize embeddings
embeddings = F.normalize(embeddings, p=2, dim=1)
scores = (embeddings[:2] @ embeddings[2:].T)
print(scores.tolist())
# [[0.7493016123771667, 0.0750647559762001], [0.08795969933271408, 0.6318399906158447]]
vLLM · ficha do modelo · vLLM Usage
# Requires vllm>=0.8.5
import torch
import vllm
from vllm import LLM
def get_detailed_instruct(task_description: str, query: str) -> str:
    return f'Instruct: {task_description}\nQuery:{query}'
# Each query must come with a one-sentence instruction that describes the task
task = 'Given a web search query, retrieve relevant passages that answer the query'
queries = [
    get_detailed_instruct(task, 'What is the capital of China?'),
    get_detailed_instruct(task, 'Explain gravity')
]
# No need to add instruction for retrieval documents
documents = [
    "The capital of China is Beijing.",
    "Gravity is a force that attracts two bodies towards each other. It gives weight to physical objects and is responsible for the movement of planets around the sun."
]
input_texts = queries + documents
model = LLM(model="Qwen/Qwen3-Embedding-8B", task="embed")
outputs = model.embed(input_texts)
embeddings = torch.tensor([o.outputs.embedding for o in outputs])
scores = (embeddings[:2] @ embeddings[2:].T)
print(scores.tolist())
# [[0.7482624650001526, 0.07556197047233582], [0.08875375241041183, 0.6300010681152344]]

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Checkpoint / fonte
Qwen/Qwen3-Embedding-8B
Tarefa
embeddings para busca (extração de características)
Biblioteca na fonte
Ollama, Sentence Transformers, Transformers
Licença dos pesos
Apache 2.0
Uso comercial
Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
Base dos parâmetros
Total de parâmetros dos safetensors no Hub (7,567,295,488, lido em 2026-10-07 na API do Hub); os publicadores arredondam no nome.
Anunciado
2025-06-05

O card informa sequência de 32K e tamanhos de saída de 32 a 4096 (“definidos pelo usuário”), então não há lista fixa de tamanhos Matryoshka; o model card não cita o português pelo nome, só “mais de 100 idiomas”. As instruções são recomendadas em inglês.

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Fatos curados verificados: 2026-10-07. Cada valor cita sua fonte (a ficha do publicador ou o dataset de resultados do MTEB); estimativas vêm rotuladas como estimativas, e um valor que nenhuma fonte informa fica vazio. Um commit do repositório não é a data de lançamento do modelo.