Pular para o conteúdo
Local AI Wizard
Sua máquina
Tema

Llama-3.1-70B-Instruct

meta-llama · meta-llama/Llama-3.1-70B-Instruct

Licença dos pesos: Termos do publicador: Llama 3.1 · código e componentes podem ter outros termos

Informado pelo publicador24 resultadosFicha de meta-llama · lida em 2026-10-25 · sem ranking · ver
Memória necessária~53 GBPesos Q4 + margem, antes da reserva da máquina
Parâmetros70,6 BTotal de safetensors no Hub
Repositório atualizado2024-12-15Um commit não é data de lançamento

Qualidade

Sem score comparável

Ainda não acompanhamos benchmark público e comparável que cubra este modelo. Nenhuma nota é inferida.

Informado pelo publicador

24 resultados · ficha de meta-llama · lida em 2026-10-25
MMLU
83,6Llama 3.1 70B Instruct · Instruction tuned models · General
MMLU (CoT)
86,0Llama 3.1 70B Instruct · Instruction tuned models · General
MMLU-Pro (CoT)
66,4Llama 3.1 70B Instruct · Instruction tuned models · General
IFEval
87,5Llama 3.1 70B Instruct · Instruction tuned models · General
ARC-C
94,8Llama 3.1 70B Instruct · Instruction tuned models · Reasoning
GPQA
46,7Llama 3.1 70B Instruct · Instruction tuned models · Reasoning
HumanEval
80,5Llama 3.1 70B Instruct · Instruction tuned models · Code
MBPP ++ base version
86,0Llama 3.1 70B Instruct · Instruction tuned models · Code
Todos os resultados informados24
Multipl-E HumanEval
65,5Llama 3.1 70B Instruct · Instruction tuned models · Code
Multipl-E MBPP
62,0Llama 3.1 70B Instruct · Instruction tuned models · Code
GSM-8K (CoT)
95,1Llama 3.1 70B Instruct · Instruction tuned models · Math
MATH (CoT)
68,0Llama 3.1 70B Instruct · Instruction tuned models · Math
API-Bank
90,0Llama 3.1 70B Instruct · Instruction tuned models · Tool Use
BFCL
84,8Llama 3.1 70B Instruct · Instruction tuned models · Tool Use
Gorilla Benchmark API Bench
29,7Llama 3.1 70B Instruct · Instruction tuned models · Tool Use
Nexus (0-shot)
56,7Llama 3.1 70B Instruct · Instruction tuned models · Tool Use · 0-shot
Multilingual MGSM (CoT)
86,9Llama 3.1 70B Instruct · Instruction tuned models · Multilingual
MMLU · Portuguese (5-shot, macro_avg/acc)
80,13Llama 3.1 70B · Multilingual benchmarks · General · 5-shot
MMLU · Spanish (5-shot, macro_avg/acc)
80,05Llama 3.1 70B · Multilingual benchmarks · General · 5-shot
MMLU · Italian (5-shot, macro_avg/acc)
80,4Llama 3.1 70B · Multilingual benchmarks · General · 5-shot
MMLU · German (5-shot, macro_avg/acc)
79,27Llama 3.1 70B · Multilingual benchmarks · General · 5-shot
MMLU · French (5-shot, macro_avg/acc)
79,82Llama 3.1 70B · Multilingual benchmarks · General · 5-shot
MMLU · Hindi (5-shot, macro_avg/acc)
74,52Llama 3.1 70B · Multilingual benchmarks · General · 5-shot
MMLU · Thai (5-shot, macro_avg/acc)
72,95Llama 3.1 70B · Multilingual benchmarks · General · 5-shot

Valores como impressos na ficha, com a configuração do próprio publicador (seção da ficha: Benchmark scores › Instruction tuned models; Benchmark scores › Instruction tuned models › Multilingual benchmarks). Não comparáveis entre publicadores e fora de qualquer ranking. Ficha do modelo

Roda em

Cabe na memória rápida 17

A estimativa de planejamento cabe na memória que o modelo usa rápido: a VRAM da placa de vídeo, ou a memória unificada dentro da fatia de GPU do macOS.

Mostrar todos os 17

Na memória, fora da parte rápida 8

Dentro da memória da máquina, fora da parte rápida: na placa de vídeo, as camadas que não cabem rodam na CPU a partir da RAM do PC (a RAM informada, ou 32 GB presumidos); no Mac, acima da fatia de GPU padrão do macOS. Não é um número de velocidade.

Mostrar todos os 8

Perfis de hardware agrupados pela estimativa de planejamento Q4 em cada máquina (GPUs dedicadas reservam 2 GB; memória unificada e do sistema, 25%, de 2 a 8 GB): cabe na memória rápida, fica na memória mas fora da parte rápida (camadas na RAM do PC, ou acima da fatia de GPU do macOS), ou falta um degrau de memória. Não é compatibilidade nem velocidade medida.

Velocidade medida

Nenhuma medição publicada para este checkpoint

Tokens por segundo só aparecem quando uma fonte os publica com hardware, build e configuração. Nunca são estimados.

Como rodar

Compatibilidade de runtime e tokens por segundo não foram medidos para este registro. Metadados publicados e estimativa de memória não comprovam uma execução local.

Biblioteca na fonte: transformers

Escolher meu computador

Detalhes técnicos

O que a fonte e o catálogo guardam deste checkpoint. Campos ausentes ficam de fora, nunca como zero.

Tarefa
text-generation
Arquitetura
LlamaForCausalLM
Biblioteca na fonte
transformers
Licença dos pesos
Termos do publicador: Llama 3.1
Uso comercial
Permitido com condições Acima de 700 mi de usuários mensais exige licença da Meta; exibir "Built with Llama" · Llama 3.1 Community License (meta-llama/llama-models) · consultado em 2026-10-18texto da licença
Todos os campos guardados13 campos
Revisão conferida
1605565b47bb9346c5515c34102e054115b4f98b
Arquitetura
LlamaForCausalLM
Biblioteca
transformers
Tag de tarefa no Hub
text-generation
Modelos base declarados
meta-llama/Meta-Llama-3.1-70B
Formatos
safetensors, pt
Acesso
Restrito (manual)
Tipo de publicador
Oficial
Evidência de tensores
floating-tensor-elements · 70,55B · BF16conferido em 2026-09-26
Repositório criado
2024-07-16criação não é o lançamento do modelo
Repositório atualizado
2024-12-15um commit não é data de lançamento
Downloads no Hub (30 dias) · curtidas
89.815 · 1.013só este repositório · lido em 2026-10-25
Estado no catálogo
Config ou pesos encontrados no Hub; sem vínculo de benchmark no inventário

Fontes

Identidade e especificações publicadas vêm da página do checkpoint. As notas pertencem à rodada indicada e não medem velocidade no seu computador.

Snapshot válido da fonte: 2026-09-26. Este registro da fonte ainda não recebeu revisão técnica completa. Dados ausentes permanecem desconhecidos; um commit do repositório não é a data de lançamento do modelo.