Microsoft lançado em 12/12/2023 Open weights (unrestricted)

Phi-2

Phi-2 (Microsoft) foi lançado em 12/12/2023. No ranking de capacidade da Epoch AI (ECI), está em 226º lugar entre 267 modelos, com 108,02. Comparado aos modelos da mesma geração, o melhor resultado dele é em BIG-Bench Hard: 59,4%, 5º de 27.

226º de 267 no ranking por ECI

108,02 ECI, índice de capacidade da Epoch AI

sem par ELO na Arena, preferência humana

não medido LiveBench, média geral de 0 a 100

Ainda sem votos. Dê a sua nota.

O que as provas dizem

Onde o Phi-2 se destaca e onde fica atrás, pelos números

O Phi-2 tem resultado publicado em 8 provas compiladas pela Epoch AI. A régua aqui é a geração: a posição dele entre os modelos lançados entre 17/03/2023 e 11/03/2024 que fizeram a mesma prova. Contra o acervo inteiro, que tem modelos de 2023, um lançamento recente fica no topo de quase tudo, e isso não diz nada.

Onde se destaca

Provas em que fica no terço de cima da própria geração.

BIG-Bench Hard59,4%

5º de 27 na geração · 14º de 41 no geral

OpenBookQA73,6%

5º de 24 na geração · 9º de 32 no geral

ARC (AI2)75,9%

10º de 45 na geração · 18º de 65 no geral

Onde fica atrás

Provas em que fica na metade de baixo da própria geração.

TriviaQA45,2%

19º de 19 na geração · recorde: 87,6% (Llama 2-70B)

WinoGrande54,7%

36º de 38 na geração · recorde: 89,2% (Llama 3.1-405B)

HellaSwag53,6%

30º de 32 na geração · recorde: 95,3% (GPT-4 (Mar 2023))

Ver as 8 provas, uma a uma

Prova	Nota	Na geração	No geral	Recorde da prova
MMLU	58,4%	24º / 48	61º / 92	88,1% GPT-4o (May 2024)
ARC (AI2)	75,9%	10º / 45	18º / 65	95,3% DeepSeek-V3 (Mar 2025)
WinoGrande	54,7%	36º / 38	59º / 61	89,2% Llama 3.1-405B
HellaSwag	53,6%	30º / 32	48º / 51	95,3% GPT-4 (Mar 2023)
BIG-Bench Hard	59,4%	5º / 27	14º / 41	89,2% Gemini 1.5 Pro (Sept 2024)
OpenBookQA	73,6%	5º / 24	9º / 32	88,0% phi-3-mini 3.8B
TriviaQA	45,2%	19º / 19	32º / 32	87,6% Llama 2-70B
Adversarial Nli	42,5%	5º / 5	9º / 9	58,1% GPT-3.5 Turbo (Nov 2023)

Em cada prova vale o melhor nível de esforço que o modelo fez, como no ranking. Fonte das notas: Epoch AI, sob CC BY 4.0.

Comparação

Com quem comparar o Phi-2

Os modelos de outros laboratórios mais próximos em capacidade e lançados na mesma época, no máximo dois por laboratório. Clique em qualquer um para ver a página dele.

Modelo	Laboratório	ECI	ELO	LiveBench	Lançamento
Falcon 2 11B	Technology Innovation Institute	109,63	n/d	n/d	09/05/2024
Mistral 7B v0.3	Mistral AI	109,06	n/d	n/d	27/05/2024
PaLM 2-M		108,37	n/d	n/d	17/05/2023
Phi-2	Microsoft	108,02	n/d	n/d	12/12/2023
Nemotron-4 15B	Nvidia	107,80	n/d	n/d	26/02/2024
Yi-9B		107,69	n/d	n/d	01/03/2024
Qwen-7B	Alibaba	106,91	n/d	n/d	28/09/2023

Frente a frente

Phi-2 ou Nemotron-4 15B?

O Nemotron-4 15B é o modelo de outro laboratório mais próximo do Phi-2 em capacidade. Nas 5 provas que os dois fizeram, o placar é este:

Phi-2 à frente em 2 Nemotron-4 15B à frente em 3

As maiores diferenças primeiro
Prova	Phi-2	Nemotron-4 15B
HellaSwag	53,6%	82,4%
WinoGrande	54,7%	78,0%
ARC (AI2)	75,9%	55,5%
BIG-Bench Hard	59,4%	58,7%
MMLU	58,4%	58,7%

Placar sem peso: cada prova conta um ponto, seja de matemática, seja de programação. O ponto marca quem foi melhor em cada linha.

Família

Os outros modelos da Microsoft

Os modelos do mesmo laboratório mais próximos no tempo, do mais novo para o mais antigo.

Modelo	Lançamento	ECI	ELO	LiveBench	Acesso
phi-3-small 7.4B	23/04/2024	121,85	n/d	n/d	Open weights (unrestricted)
phi-3-medium 14B	23/04/2024	121,25	n/d	n/d	Open weights (unrestricted)
phi-3-mini 3.8B	23/04/2024	117,40	n/d	n/d	Open weights (unrestricted)
Phi-2	12/12/2023	108,02	n/d	n/d	Open weights (unrestricted)
Phi-1.5	11/09/2023	91,68	n/d	n/d	Open weights (unrestricted)

Sua avaliação

Já usou o Phi-2? Dê sua nota

n/d de 5

ainda sem votos

Opinião de quem usa, não medição: a nota fica separada do ranking e não mexe na posição de ninguém. Um voto por navegador, sem cadastro, e dá para trocar a nota depois.

Perguntas frequentes

O que as pessoas perguntam sobre o Phi-2

Qual a posição do Phi-2 no ranking de IA?

No AI Benchmark da ROO3, ordenado pelo ECI da Epoch AI, o Phi-2 está em 226º lugar entre 267 modelos, com ECI de 108,02. O ECI é um índice composto que junta vários benchmarks difíceis numa escala só. A posição muda quando sai modelo novo, e a página é apurada seis vezes por dia.

O Phi-2 é melhor que o Nemotron-4 15B?

Nas 5 provas que os dois fizeram e que a Epoch AI compilou, o Phi-2 fica à frente em 2, atrás em 3 e empata em 0. É uma comparação prova a prova, sem peso: uma vitória em matemática conta igual a uma em programação. Para escolher entre os dois, vale olhar as provas que se parecem com o seu uso.

Em que o Phi-2 vai melhor?

Comparado aos modelos da mesma geração (lançados até 9 meses antes e até 3 meses depois dele), os melhores resultados relativos do Phi-2 são: BIG-Bench Hard (5º de 27); OpenBookQA (5º de 24); ARC (AI2) (10º de 45). A régua é a posição entre os modelos daquela época que fizeram a mesma prova.

De onde vêm os números desta página?

Das mesmas três fontes do ranking, todas com licença aberta: Epoch AI (ECI e provas individuais, CC BY 4.0), Arena (ELO de preferência humana, CC BY 4.0) e LiveBench (média geral, CC BY-SA 4.0). A ROO3 não mede modelo nenhum. Quando a página traz número publicado pelo próprio fabricante, ele aparece na análise escrita, dito como sendo do fabricante, e nunca entra no ranking.

Fontes

De onde vem cada número

Epoch AI, "AI Benchmarking Hub". Publicado em epoch.ai. Dados sob licença CC BY 4.0, reordenados por roo3.co.

Leaderboard da Arena (LMArena), do dataset público lmarena-ai/leaderboard-dataset no Hugging Face, sob licença CC BY 4.0. Não somos afiliados à Arena.

LiveBench, da equipe do LiveBench, publicado em livebench.ai sob licença CC BY-SA 4.0. A média geral é recalculada por roo3.co com a mesma conta do site (média das categorias), e esses números seguem sob CC BY-SA 4.0. Não somos afiliados ao LiveBench.

← Ver o ranking completo