Qwen3-Embedding 4B
Alibaba (Qwen) · Qwen/Qwen3-Embedding-4B
Licença dos pesos: Apache 2.0 · código e componentes podem ter outros termos
Qualidade
MTEB (Multilingual, v2)
Média por tarefa · 0 a 100 · maior é melhor · este modelo em destaque
- Cor = publicador
Fonte: dataset de resultados do MTEB (execuções independentes, CC0) · informado pelo publicador quando o model card é a única fonte · outros benchmarks e versões não entram
| MTEB (Multilingual, v2) | mean(task) · 2560d | 69,45 | execução independente |
|---|---|---|---|
| MTEB (eng, v2) | mean(task) · 2560d | 74,60 | execução independente |
Informado pelo publicador
- Mean (Task)
- 69,45MTEB (Multilingual) · MTEB
- Mean (Type)
- 60,86MTEB (Multilingual) · MTEB
- Bitxt Mining
- 79,36MTEB (Multilingual) · MTEB
- Class.
- 72,33MTEB (Multilingual) · MTEB
- Clust.
- 57,15MTEB (Multilingual) · MTEB
- Inst. Retri.
- 11,56MTEB (Multilingual) · MTEB
- Multi. Class.
- 26,77MTEB (Multilingual) · MTEB
- Pair. Class.
- 85,05MTEB (Multilingual) · MTEB
Todos os resultados informados
- Rerank
- 65,08MTEB (Multilingual) · MTEB
- Retri.
- 69,60MTEB (Multilingual) · MTEB
- STS
- 80,86MTEB (Multilingual) · MTEB
- Mean (Task)
- 74,60MTEB (Eng v2) · MTEB
- Mean (Type)
- 68,10MTEB (Eng v2) · MTEB
- Class.
- 89,84MTEB (Eng v2) · MTEB
- Clust.
- 57,51MTEB (Eng v2) · MTEB
- Pair Class.
- 87,01MTEB (Eng v2) · MTEB
- Rerank.
- 50,76MTEB (Eng v2) · MTEB
- Retri.
- 68,46MTEB (Eng v2) · MTEB
- STS
- 88,72MTEB (Eng v2) · MTEB
- Summ.
- 34,39MTEB (Eng v2) · MTEB
- Mean (Task)
- 72,27C-MTEB (MTEB Chinese) · MTEB
- Mean (Type)
- 73,51C-MTEB (MTEB Chinese) · MTEB
- Class.
- 75,46C-MTEB (MTEB Chinese) · MTEB
- Clust.
- 77,89C-MTEB (MTEB Chinese) · MTEB
- Pair Class.
- 83,34C-MTEB (MTEB Chinese) · MTEB
- Rerank.
- 66,05C-MTEB (MTEB Chinese) · MTEB
- Retr.
- 77,03C-MTEB (MTEB Chinese) · MTEB
- STS
- 61,26C-MTEB (MTEB Chinese) · MTEB
Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Evaluation › MTEB (Multilingual); Evaluation › MTEB (Eng v2)); coluna “Qwen3-Embedding-4B”. Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo
Qualidade × memória
Sem par qualidade × memória comparável
As estimativas de memória de embeddings ficam em poucos GB, então um gráfico qualidade × memória não separaria estes modelos; o MTEB aparece acima.
Considere Qwen3-Embedding 4B para busca semântica e recuperação: gera vetores de 2.560 dimensões a partir de texto.
O publicador não informa memória; a lista de hardware usa a estimativa de ~7 GB, um teto e não uma medição. Veja o formato de prompts em Como rodar. PT-BR confirmado por uma fonte.
Roda em
Cabe na memória rápida 114
A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.
Mostrar todos os 114
Falta um degrau de memória 4
As mesmas máquinas com o próximo tamanho de memória o comportariam na memória rápida.
Perfis de hardware agrupados pela estimativa de planejamento de embeddings (pesos de 8 bits, 20% de margem, 2 GB de reserva). Não é compatibilidade medida.
Velocidade medida
Nenhuma medição publicada para este checkpoint
A vazão (textos por segundo) só aparece quando uma fonte a publica com hardware, build e configuração. Nunca é estimada.
Como rodar
A estimativa de planejamento usa pesos de 8 bits, 20% de margem e 2 GB de reserva; é um teto, não uma medição.
- Roda em
- Ollama, Sentence Transformers, Transformersfonte
- Prompts de consulta/documento
- Consultas: anteceda uma instrução de uma frase no formato “Instruct: {tarefa} Query: {consulta}”. Documentos: sem prefixo.
- Idiomas · PT-BR
- Mais de 100 idiomas, incluindo linguagens de programação (model card)PT-BR confirmado por uma fonte
Formas documentadas de rodar
Copiado como aparece na fonte vinculada (lida em 2026-10-18); não executado por este site.
# Requires transformers>=4.51.0
# Requires sentence-transformers>=2.7.0
from sentence_transformers import SentenceTransformer
# Load the model
model = SentenceTransformer("Qwen/Qwen3-Embedding-4B")
# We recommend enabling flash_attention_2 for better acceleration and memory saving,
# together with setting `padding_side` to "left":
# model = SentenceTransformer(
# "Qwen/Qwen3-Embedding-4B",
# model_kwargs={"attn_implementation": "flash_attention_2", "device_map": "auto"},
# tokenizer_kwargs={"padding_side": "left"},
# )
# The queries and documents to embed
queries = [
"What is the capital of China?",
"Explain gravity",
]
documents = [
"The capital of China is Beijing.",
"Gravity is a force that attracts two bodies towards each other. It gives weight to physical objects and is responsible for the movement of planets around the sun.",
]
# Encode the queries and documents. Note that queries benefit from using a prompt
# Here we use the prompt called "query" stored under `model.prompts`, but you can
# also pass your own prompt via the `prompt` argument
query_embeddings = model.encode(queries, prompt_name="query")
document_embeddings = model.encode(documents)
# Compute the (cosine) similarity between the query and document embeddings
similarity = model.similarity(query_embeddings, document_embeddings)
print(similarity)
# tensor([[0.7534, 0.1147],
# [0.0320, 0.6258]])# Requires transformers>=4.51.0
import torch
import torch.nn.functional as F
from torch import Tensor
from transformers import AutoTokenizer, AutoModel
def last_token_pool(last_hidden_states: Tensor,
attention_mask: Tensor) -> Tensor:
left_padding = (attention_mask[:, -1].sum() == attention_mask.shape[0])
if left_padding:
return last_hidden_states[:, -1]
else:
sequence_lengths = attention_mask.sum(dim=1) - 1
batch_size = last_hidden_states.shape[0]
return last_hidden_states[torch.arange(batch_size, device=last_hidden_states.device), sequence_lengths]
def get_detailed_instruct(task_description: str, query: str) -> str:
return f'Instruct: {task_description}\nQuery:{query}'
# Each query must come with a one-sentence instruction that describes the task
task = 'Given a web search query, retrieve relevant passages that answer the query'
queries = [
get_detailed_instruct(task, 'What is the capital of China?'),
get_detailed_instruct(task, 'Explain gravity')
]
# No need to add instruction for retrieval documents
documents = [
"The capital of China is Beijing.",
"Gravity is a force that attracts two bodies towards each other. It gives weight to physical objects and is responsible for the movement of planets around the sun."
]
input_texts = queries + documents
tokenizer = AutoTokenizer.from_pretrained('Qwen/Qwen3-Embedding-4B', padding_side='left')
model = AutoModel.from_pretrained('Qwen/Qwen3-Embedding-4B')
# We recommend enabling flash_attention_2 for better acceleration and memory saving.
# model = AutoModel.from_pretrained('Qwen/Qwen3-Embedding-4B', attn_implementation="flash_attention_2", torch_dtype=torch.float16).cuda()
max_length = 8192
# Tokenize the input texts
batch_dict = tokenizer(
input_texts,
padding=True,
truncation=True,
max_length=max_length,
return_tensors="pt",
)
batch_dict.to(model.device)
outputs = model(**batch_dict)
embeddings = last_token_pool(outputs.last_hidden_state, batch_dict['attention_mask'])
# normalize embeddings
embeddings = F.normalize(embeddings, p=2, dim=1)
scores = (embeddings[:2] @ embeddings[2:].T)
print(scores.tolist())
# [[0.7534257769584656, 0.1146894246339798], [0.03198453038930893, 0.6258305311203003]]# Requires vllm>=0.8.5
import torch
import vllm
from vllm import LLM
def get_detailed_instruct(task_description: str, query: str) -> str:
return f'Instruct: {task_description}\nQuery:{query}'
# Each query must come with a one-sentence instruction that describes the task
task = 'Given a web search query, retrieve relevant passages that answer the query'
queries = [
get_detailed_instruct(task, 'What is the capital of China?'),
get_detailed_instruct(task, 'Explain gravity')
]
# No need to add instruction for retrieval documents
documents = [
"The capital of China is Beijing.",
"Gravity is a force that attracts two bodies towards each other. It gives weight to physical objects and is responsible for the movement of planets around the sun."
]
input_texts = queries + documents
model = LLM(model="Qwen/Qwen3-Embedding-4B", task="embed")
outputs = model.embed(input_texts)
embeddings = torch.tensor([o.outputs.embedding for o in outputs])
scores = (embeddings[:2] @ embeddings[2:].T)
print(scores.tolist())
# [[0.7525103688240051, 0.1143278032541275], [0.030893627554178238, 0.6239761114120483]]Detalhes técnicos
O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.
- Checkpoint / fonte
- Qwen/Qwen3-Embedding-4B
- Tarefa
- embeddings para busca (extração de características)
- Biblioteca na fonte
- Ollama, Sentence Transformers, Transformers
- Licença dos pesos
- Apache 2.0
- Uso comercial
- Permitido Apache License 2.0 text (SPDX) · consultado em 2026-10-18texto da licença
- Base dos parâmetros
- Total de parâmetros dos safetensors no Hub (4,021,774,336, lido em 2026-10-07 na API do Hub); os publicadores arredondam no nome.
- Anunciado
- 2025-06-05
O card informa sequência de 32K e tamanhos de saída de 32 a 2560 (“definidos pelo usuário”), então não há lista fixa de tamanhos Matryoshka; o model card não cita o português pelo nome, só “mais de 100 idiomas”. As instruções são recomendadas em inglês.
Fontes
Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.
- Ficha do publicador
- Hugging Face model page / card · 2026-10-07
- Hugging Face API (parameters, licence, library) · 2026-10-07
- Ollama library (availability only) · 2026-10-07
- MTEB results dataset (CC0), scores computed by scripts/ingest-mteb-results.mjs · 2026-10-25
- Qwen3 Embedding: Advancing Text Embedding and Reranking Through Foundation Models | Qwen · 2026-10-09
Fatos curados verificados: 2026-10-07. Cada valor cita sua fonte (a ficha do publicador ou o dataset de resultados do MTEB); estimativas vêm rotuladas como estimativas, e um valor que nenhuma fonte informa fica vazio. Um commit do repositório não é a data de lançamento do modelo.





























































