Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

O que é um modelo de embeddings e qual roda localmente?

Os modelos pequenos por trás da busca e do RAG, como recebem nota e quão pouca memória pedem.

Modelos e famílias · atualizado em

Resposta curta

Um modelo pequeno que transforma texto em números, para um programa achar trechos de sentido parecido. Quase qualquer computador roda um.

  • Para que serve: Busca e RAG: responder perguntas a partir dos seus próprios documentos.
  • Memória: O Qwen3-Embedding 0.6B pede cerca de 3 GB pela estimativa de 8 bits do site.
  • Como escolher: Prefira um modelo multilíngue se seus textos não forem em inglês.

Estimativa: pesos de 8 bits, 20% de margem, 2 GB de reserva. Fórmulas

O que faz

Um modelo de chat escreve texto. Um modelo de embeddings não escreve nada: ele lê uma frase ou um documento e devolve um vetor de tamanho fixo, uma lista de números. Textos de sentido parecido recebem vetores que apontam para o mesmo lado, então um programa compara uma pergunta com milhares de trechos guardados e devolve os mais próximos. É assim que funciona a busca semântica, e é a metade de recuperação do RAG, em que os trechos encontrados vão para um modelo de chat responder a partir deles.

Como o modelo só lê, ele pode ser pequeno. A maioria dos embeddings curados neste site tem menos de um bilhão de parâmetros; mesmo o maior, Qwen3-Embedding 8B, pede cerca de 12 GB pela estimativa do site. O tamanho do vetor (dimensões) define quanto espaço cada trecho ocupa no seu índice.

Notas e tamanhos

MTEB (Multilingual, v2), média das tarefas, só execuções independentes (notas informadas pelo publicador ficam de fora para manter a mesma escala). Memória é a estimativa de planejamento de 8 bits.

Modelos de embeddings curados por nota no MTEB (Multilingual, v2), com parâmetros, dimensões, contexto e estimativa de memória.
Modelo · parâmetros · dimensões · contextoNota MTEB (0 a 100)Memória (GB)
Qwen3-Embedding 8B
Alibaba (Qwen) · 7,57B · 4.096d · 32.768 tokens
70,5812
Qwen3-Embedding 4B
Alibaba (Qwen) · 4,02B · 2.560d · 32.768 tokens
69,457
Harrier OSS v1 (0.6B)
Microsoft · 0,6B · 1.024d · 32.768 tokens
69,013
Qwen3-Embedding 0.6B
Alibaba (Qwen) · 0,6B · 1.024d · 32.768 tokens
64,343
Multilingual E5 Large Instruct
intfloat · 0,56B · 1.024d · 512 tokens
63,223
EmbeddingGemma (300M)
Google · 0,3B · 768d · 2.048 tokens
61,143
BGE-M3
BAAI · 0,57B · 1.024d · 8.192 tokens
59,563
Nomic Embed Text v2 (MoE)
Nomic AI · 0,48B · 768d · 512 tokens
57,643
Multilingual E5 Base
intfloat · 0,28B · 768d · 512 tokens
57,033
Snowflake Arctic Embed L v2.0
Snowflake · 0,57B · 1.024d · 8.192 tokens
57,033

Notas: (Conjunto de resultados do MTEB, lido em 25 de out. de 2026)

Como escolher

Seu idioma
Prefira um modelo multilíngueModelos só em inglês têm nota bem menor no benchmark multilíngue; confira os idiomas e a evidência de PT-BR em cada página.
Documentos longos
Olhe o contextoUm contexto curto obriga a dividir documentos em mais trechos, menores.
Tamanho do índice
Menos dimensões ocupam menosAlguns modelos encurtam os vetores (Matryoshka); a página diz quando o publicador permite.
Sempre o mesmo modelo
Indexe e consulte com um só modeloVetores de dois modelos diferentes não se comparam; trocar de modelo exige reindexar.

Lado a lado: BGE-M3 vs Qwen3-Embedding 0.6B para busca local · EmbeddingGemma vs multilingual-e5-large para embeddings