Início › AI Benchmark › Claude 3 Haiku
Anthropic lançado em 07/03/2024 API access

Claude 3 Haiku

Claude 3 Haiku (Anthropic) foi lançado em 07/03/2024. No ranking de capacidade da Epoch AI (ECI), está em 201º lugar entre 267 modelos, com 118,39. Na Arena, que mede preferência humana em comparações às cegas, tem 1.206 pontos de ELO (327º lugar). Comparado aos modelos da mesma geração, o melhor resultado dele é em MMLU: 73,8%, 12º de 52.

201º de 267 no ranking por ECI
118,39 ECI, índice de capacidade da Epoch AI
1.206 ELO na Arena, preferência humana · 327º
não medido LiveBench, média geral de 0 a 100
Ainda sem votos. Dê a sua nota.
O que as provas dizem

Onde o Claude 3 Haiku se destaca e onde fica atrás, pelos números

O Claude 3 Haiku tem resultado publicado em 11 provas compiladas pela Epoch AI. A régua aqui é a geração: a posição dele entre os modelos lançados entre 11/06/2023 e 05/06/2024 que fizeram a mesma prova. Contra o acervo inteiro, que tem modelos de 2023, um lançamento recente fica no topo de quase tudo, e isso não diz nada.

Onde se destaca

Provas em que fica no terço de cima da própria geração.

MMLU73,8%
12º de 52 na geração · 32º de 92 no geral
GPQA Diamond36,3%
7º de 19 na geração · 153º de 173 no geral

Onde fica atrás

Provas em que fica na metade de baixo da própria geração.

ForecastBench53,20
9º de 11 na geração · recorde: 62,50 (o3)
AIME 2024 e 2025 (OTIS)1,8%
11º de 15 na geração · recorde: 100,0% (GPT-5.5)
WeirdML9,8%
5º de 8 na geração · recorde: 93,6% (GPT-6 Astra)
Dtbench50,1%
10º de 18 na geração · recorde: 98,9% (Claude Opus 5.5)
MATH nível 514,9%
10º de 18 na geração · recorde: 98,1% (GPT-5)
Ver as 11 provas, uma a uma
ProvaNotaNa geraçãoNo geralRecorde da prova
GPQA Diamond 36,3% 7º / 19 153º / 173 96,4% Gemini 4 Argon
AIME 2024 e 2025 (OTIS) 1,8% 11º / 15 159º / 168 100,0% GPT-5.5
Dtbench 50,1% 10º / 18 136º / 148 98,9% Claude Opus 5.5
Lmca 8,84 5º / 5 111º / 121 68,23 Claude Opus 5.5
WeirdML 9,8% 5º / 8 107º / 112 93,6% GPT-6 Astra
MMLU 73,8% 12º / 52 32º / 92 88,1% GPT-4o (May 2024)
MATH nível 5 14,9% 10º / 18 63º / 73 98,1% GPT-5
ForecastBench 53,20 9º / 11 60º / 62 62,50 o3
WinoGrande 74,2% 17º / 34 29º / 61 89,2% Llama 3.1-405B
CAD-Eval 12,0% 2º / 2 14º / 14 74,0% o3
ScienceQA 72,0% 2º / 4 2º / 6 88,5% GPT-4o (May 2024)

Em cada prova vale o melhor nível de esforço que o modelo fez, como no ranking. Fonte das notas: Epoch AI, sob CC BY 4.0.

Comparação

Com quem comparar o Claude 3 Haiku

Os modelos de outros laboratórios mais próximos em capacidade e lançados na mesma época, no máximo dois por laboratório. Clique em qualquer um para ver a página dele.

ModeloLaboratórioECIELOLiveBenchLançamento
Command R+ Cohere 119,37 1.174 n/d 30/08/2024
GPT-3.5 Turbo (Nov 2023) OpenAI 118,58 n/d n/d 06/11/2023
Qwen2.5-7B Alibaba 118,53 n/d n/d 19/09/2024
Mixtral 8x7B Mistral AI 118,50 n/d n/d 11/12/2023
Claude 3 Haiku Anthropic 118,39 1.206 n/d 07/03/2024
Ministral 3B Mistral AI 118,12 n/d n/d 16/10/2024
Yi-34B 01.AI 117,43 n/d n/d 02/11/2023
Frente a frente

Claude 3 Haiku ou Mixtral 8x7B?

O Mixtral 8x7B é o modelo de outro laboratório mais próximo do Claude 3 Haiku em capacidade. Nas 6 provas que os dois fizeram, o placar é este:

Claude 3 Haiku à frente em 4 Mixtral 8x7B à frente em 2
As maiores diferenças primeiro
ProvaClaude 3 HaikuMixtral 8x7B
MATH nível 5 14,9% 10,0%
GPQA Diamond 36,3% 30,6%
ForecastBench 53,20 56,30
MMLU 73,8% 70,6%
WinoGrande 74,2% 77,2%
Dtbench 50,1% 49,6%

Placar sem peso: cada prova conta um ponto, seja de matemática, seja de programação. O ponto marca quem foi melhor em cada linha.

Família

Os outros modelos da Anthropic

Os modelos do mesmo laboratório mais próximos no tempo, do mais novo para o mais antigo.

ModeloLançamentoECIELOLiveBenchAcesso
Claude 3.7 Sonnet 24/02/2025 141,14 1.360 n/d API access
Claude 3.5 Sonnet (October 2024) 22/10/2024 133,53 1.342 n/d API access
Claude 3.5 Haiku 22/10/2024 127,17 1.286 n/d API access
Claude 3 Haiku 07/03/2024 118,39 1.206 n/d API access
Claude 3 Opus 29/02/2024 126,91 1.264 n/d API access
Claude 3 Sonnet 29/02/2024 120,72 1.226 n/d API access
Claude 2.1 21/11/2023 119,30 n/d n/d API access
Claude Instant 09/08/2023 120,31 n/d n/d API access
Claude 2 11/07/2023 120,15 n/d n/d API access
Sua avaliação

Já usou o Claude 3 Haiku? Dê sua nota

n/d de 5
ainda sem votos

Opinião de quem usa, não medição: a nota fica separada do ranking e não mexe na posição de ninguém. Um voto por navegador, sem cadastro, e dá para trocar a nota depois.

Toque numa estrela para votar.
Perguntas frequentes

O que as pessoas perguntam sobre o Claude 3 Haiku

Qual a posição do Claude 3 Haiku no ranking de IA?

No AI Benchmark da ROO3, ordenado pelo ECI da Epoch AI, o Claude 3 Haiku está em 201º lugar entre 267 modelos, com ECI de 118,39. O ECI é um índice composto que junta vários benchmarks difíceis numa escala só. A posição muda quando sai modelo novo, e a página é apurada seis vezes por dia.

O Claude 3 Haiku é melhor que o Mixtral 8x7B?

Nas 6 provas que os dois fizeram e que a Epoch AI compilou, o Claude 3 Haiku fica à frente em 4, atrás em 2 e empata em 0. É uma comparação prova a prova, sem peso: uma vitória em matemática conta igual a uma em programação. Para escolher entre os dois, vale olhar as provas que se parecem com o seu uso.

Em que o Claude 3 Haiku vai melhor?

Comparado aos modelos da mesma geração (lançados até 9 meses antes e até 3 meses depois dele), os melhores resultados relativos do Claude 3 Haiku são: MMLU (12º de 52); GPQA Diamond (7º de 19). A régua é a posição entre os modelos daquela época que fizeram a mesma prova.

De onde vêm os números desta página?

Das mesmas três fontes do ranking, todas com licença aberta: Epoch AI (ECI e provas individuais, CC BY 4.0), Arena (ELO de preferência humana, CC BY 4.0) e LiveBench (média geral, CC BY-SA 4.0). A ROO3 não mede modelo nenhum. Quando a página traz número publicado pelo próprio fabricante, ele aparece na análise escrita, dito como sendo do fabricante, e nunca entra no ranking.

Fontes

De onde vem cada número

Epoch AI, "AI Benchmarking Hub". Publicado em epoch.ai. Dados sob licença CC BY 4.0, reordenados por roo3.co.

Leaderboard da Arena (LMArena), do dataset público lmarena-ai/leaderboard-dataset no Hugging Face, sob licença CC BY 4.0. Não somos afiliados à Arena.

LiveBench, da equipe do LiveBench, publicado em livebench.ai sob licença CC BY-SA 4.0. A média geral é recalculada por roo3.co com a mesma conta do site (média das categorias), e esses números seguem sob CC BY-SA 4.0. Não somos afiliados ao LiveBench.

← Ver o ranking completo