Mistral 7B v0.1
Mistral 7B v0.1 (Mistral AI) foi lançado em 27/09/2023. No ranking de capacidade da Epoch AI (ECI), está em 215º lugar entre 267 modelos, com 112,27. Comparado aos modelos da mesma geração, o melhor resultado dele é em OpenBookQA: 79,8%, 3º de 27.
Onde o Mistral 7B v0.1 se destaca e onde fica atrás, pelos números
O Mistral 7B v0.1 tem resultado publicado em 11 provas compiladas pela Epoch AI. A régua aqui é a geração: a posição dele entre os modelos lançados entre 31/12/2022 e 26/12/2023 que fizeram a mesma prova. Contra o acervo inteiro, que tem modelos de 2023, um lançamento recente fica no topo de quase tudo, e isso não diz nada.
Onde se destaca
Provas em que fica no terço de cima da própria geração.
Onde fica atrás
Provas em que fica na metade de baixo da própria geração.
Ver as 11 provas, uma a uma
| Prova | Nota | Na geração | No geral | Recorde da prova |
|---|---|---|---|---|
| MMLU | 62,5% | 16º / 42 | 55º / 92 | 88,1% GPT-4o (May 2024) |
| ARC (AI2) | 78,6% | 7º / 42 | 15º / 65 | 95,3% DeepSeek-V3 (Mar 2025) |
| WinoGrande | 75,3% | 13º / 33 | 27º / 61 | 89,2% Llama 3.1-405B |
| GSM8K | 54,4% | 10º / 34 (empatado com 2) | 21º / 54 | 92,0% GPT-4 (Mar 2023) |
| HellaSwag | 81,0% | 12º / 33 | 21º / 51 | 95,3% GPT-4 (Mar 2023) |
| PIQA | 83,0% | 4º / 31 (empatado com 1) | 11º / 43 | 88,7% GPT-4o mini |
| BoolQ | 87,4% | 8º / 35 | 9º / 42 | 90,9% PaLM 2-L |
| BIG-Bench Hard | 56,1% | 9º / 29 | 18º / 41 | 89,2% Gemini 1.5 Pro (Sept 2024) |
| OpenBookQA | 79,8% | 3º / 27 | 7º / 32 | 88,0% phi-3-mini 3.8B |
| TriviaQA | 75,2% | 15º / 22 (empatado com 1) | 18º / 32 | 87,6% Llama 2-70B |
| Adversarial Nli | 47,1% | 3º / 4 | 8º / 9 | 58,1% GPT-3.5 Turbo (Nov 2023) |
Em cada prova vale o melhor nível de esforço que o modelo fez, como no ranking. Fonte das notas: Epoch AI, sob CC BY 4.0.
Com quem comparar o Mistral 7B v0.1
Os modelos de outros laboratórios mais próximos em capacidade e lançados na mesma época, no máximo dois por laboratório. Clique em qualquer um para ver a página dele.
| Modelo | Laboratório | ECI | ELO | LiveBench | Lançamento |
|---|---|---|---|---|---|
| Llama 2-70B | Meta AI | 113,84 | n/d | n/d | 18/07/2023 |
| Qwen-14B | Alibaba | 113,09 | n/d | n/d | 24/09/2023 |
| Mistral 7B v0.1 | Mistral AI | 112,27 | n/d | n/d | 27/09/2023 |
| Falcon-180B | Technology Innovation Institute | 112,19 | n/d | n/d | 06/09/2023 |
| internlm-20b | 112,15 | n/d | n/d | 18/09/2023 | |
| Gemma 7B | Google DeepMind | 112,05 | n/d | n/d | 21/02/2024 |
| DeepSeek LLM 67B | DeepSeek | 110,47 | n/d | n/d | 29/11/2023 |
Mistral 7B v0.1 ou Falcon-180B?
O Falcon-180B é o modelo de outro laboratório mais próximo do Mistral 7B v0.1 em capacidade. Nas 8 provas que os dois fizeram, o placar é este:
| Prova | Mistral 7B v0.1 | Falcon-180B |
|---|---|---|
| OpenBookQA | 79,8% | 64,2% |
| ARC (AI2) | 78,6% | 67,8% |
| WinoGrande | 75,3% | 87,1% |
| MMLU | 62,5% | 70,6% |
| HellaSwag | 81,0% | 89,0% |
| PIQA | 83,0% | 84,9% |
| BoolQ | 87,4% | 89,0% |
| GSM8K | 54,4% | 54,4% |
Placar sem peso: cada prova conta um ponto, seja de matemática, seja de programação. O ponto marca quem foi melhor em cada linha.
Os outros modelos da Mistral AI
Os modelos do mesmo laboratório mais próximos no tempo, do mais novo para o mais antigo.
| Modelo | Lançamento | ECI | ELO | LiveBench | Acesso |
|---|---|---|---|---|---|
| Mistral Large 2 (Nov 2024) | 18/11/2024 | 128,53 | n/d | n/d | Open weights (non-commercial) |
| Ministral 3B | 16/10/2024 | 118,12 | n/d | n/d | API access |
| Mistral NeMo | 18/07/2024 | 118,71 | n/d | n/d | Open weights (unrestricted) |
| Mistral 7B v0.3 | 27/05/2024 | 109,06 | n/d | n/d | Open weights (unrestricted) |
| Mixtral 8x22B | 17/04/2024 | 122,05 | n/d | n/d | Open weights (unrestricted) |
| Mistral Large | 26/02/2024 | 122,03 | n/d | n/d | API access |
| Mixtral 8x7B | 11/12/2023 | 118,50 | n/d | n/d | Open weights (unrestricted) |
| Mistral 7B v0.1 | 27/09/2023 | 112,27 | n/d | n/d | Open weights (unrestricted) |
| Mistral 7B | 27/09/2023 | 111,99 | n/d | n/d | Open weights (unrestricted) |
Já usou o Mistral 7B v0.1? Dê sua nota
Opinião de quem usa, não medição: a nota fica separada do ranking e não mexe na posição de ninguém. Um voto por navegador, sem cadastro, e dá para trocar a nota depois.
O que as pessoas perguntam sobre o Mistral 7B v0.1
Qual a posição do Mistral 7B v0.1 no ranking de IA?
No AI Benchmark da ROO3, ordenado pelo ECI da Epoch AI, o Mistral 7B v0.1 está em 215º lugar entre 267 modelos, com ECI de 112,27. O ECI é um índice composto que junta vários benchmarks difíceis numa escala só. A posição muda quando sai modelo novo, e a página é apurada seis vezes por dia.
O Mistral 7B v0.1 é melhor que o Falcon-180B?
Nas 8 provas que os dois fizeram e que a Epoch AI compilou, o Mistral 7B v0.1 fica à frente em 2, atrás em 5 e empata em 1. É uma comparação prova a prova, sem peso: uma vitória em matemática conta igual a uma em programação. Para escolher entre os dois, vale olhar as provas que se parecem com o seu uso.
Em que o Mistral 7B v0.1 vai melhor?
Comparado aos modelos da mesma geração (lançados até 9 meses antes e até 3 meses depois dele), os melhores resultados relativos do Mistral 7B v0.1 são: OpenBookQA (3º de 27); PIQA (4º de 31); ARC (AI2) (7º de 42). A régua é a posição entre os modelos daquela época que fizeram a mesma prova.
De onde vêm os números desta página?
Das mesmas três fontes do ranking, todas com licença aberta: Epoch AI (ECI e provas individuais, CC BY 4.0), Arena (ELO de preferência humana, CC BY 4.0) e LiveBench (média geral, CC BY-SA 4.0). A ROO3 não mede modelo nenhum. Quando a página traz número publicado pelo próprio fabricante, ele aparece na análise escrita, dito como sendo do fabricante, e nunca entra no ranking.
De onde vem cada número
Epoch AI, "AI Benchmarking Hub". Publicado em epoch.ai. Dados sob licença CC BY 4.0, reordenados por roo3.co.
Leaderboard da Arena (LMArena), do dataset público lmarena-ai/leaderboard-dataset no Hugging Face, sob licença CC BY 4.0. Não somos afiliados à Arena.
LiveBench, da equipe do LiveBench, publicado em livebench.ai sob licença CC BY-SA 4.0. A média geral é recalculada por roo3.co com a mesma conta do site (média das categorias), e esses números seguem sob CC BY-SA 4.0. Não somos afiliados ao LiveBench.
← Ver o ranking completo