Hugging Face lançado em 20/02/2024 Open weights (restricted use)

StarCoder 2 15B

StarCoder 2 15B (Hugging Face) foi lançado em 20/02/2024. No ranking de capacidade da Epoch AI (ECI), está em 235º lugar entre 267 modelos, com 105,09. Comparado aos modelos da mesma geração, o melhor resultado dele é em GSM8K: 57,7%, 9º de 33.

235º de 267 no ranking por ECI

105,09 ECI, índice de capacidade da Epoch AI

sem par ELO na Arena, preferência humana

não medido LiveBench, média geral de 0 a 100

Ainda sem votos. Dê a sua nota.

O que as provas dizem

Onde o StarCoder 2 15B se destaca e onde fica atrás, pelos números

O StarCoder 2 15B tem resultado publicado em 4 provas compiladas pela Epoch AI. A régua aqui é a geração: a posição dele entre os modelos lançados entre 26/05/2023 e 20/05/2024 que fizeram a mesma prova. Contra o acervo inteiro, que tem modelos de 2023, um lançamento recente fica no topo de quase tudo, e isso não diz nada.

Onde se destaca

Provas em que fica no terço de cima da própria geração.

GSM8K57,7%

9º de 33 na geração · 20º de 54 no geral

Onde fica atrás

Provas em que fica na metade de baixo da própria geração.

WinoGrande64,3%

28º de 35 na geração · recorde: 89,2% (Llama 3.1-405B)

ARC (AI2)47,2%

27º de 40 na geração · recorde: 95,3% (DeepSeek-V3 (Mar 2025))

MMLU64,1%

27º de 53 na geração · recorde: 88,1% (GPT-4o (May 2024))

Ver as 4 provas, uma a uma

Prova	Nota	Na geração	No geral	Recorde da prova
MMLU	64,1%	27º / 53	51º / 92	88,1% GPT-4o (May 2024)
ARC (AI2)	47,2%	27º / 40	45º / 65	95,3% DeepSeek-V3 (Mar 2025)
WinoGrande	64,3%	28º / 35	49º / 61	89,2% Llama 3.1-405B
GSM8K	57,7%	9º / 33	20º / 54	92,0% GPT-4 (Mar 2023)

Em cada prova vale o melhor nível de esforço que o modelo fez, como no ranking. Fonte das notas: Epoch AI, sob CC BY 4.0.

Comparação

Com quem comparar o StarCoder 2 15B

Os modelos de outros laboratórios mais próximos em capacidade e lançados na mesma época, no máximo dois por laboratório. Clique em qualquer um para ver a página dele.

Modelo	Laboratório	ECI	ELO	LiveBench	Lançamento
Qwen-7B	Alibaba	106,91	n/d	n/d	28/09/2023
Llama 2-13B	Meta AI	106,25	n/d	n/d	18/07/2023
Llama 2-34B	Meta AI	105,29	n/d	n/d	18/07/2023
StarCoder 2 15B	Hugging Face	105,09	n/d	n/d	20/02/2024
Yi 6B	01.AI	104,86	n/d	n/d	22/11/2023
Baichuan2-13B	Baichuan	103,29	n/d	n/d	06/09/2023
internlm-7b		102,97	n/d	n/d	05/07/2023

Família

Os outros modelos da Hugging Face

Os modelos do mesmo laboratório mais próximos no tempo, do mais novo para o mais antigo.

Modelo	Lançamento	ECI	ELO	LiveBench	Acesso
StarCoder 2 3B	22/02/2024	88,92	n/d	n/d	Open weights (restricted use)
StarCoder 2 15B	20/02/2024	105,09	n/d	n/d	Open weights (restricted use)
StarCoder 2 7B	20/02/2024	93,70	n/d	n/d	Open weights (restricted use)

Sua avaliação

Já usou o StarCoder 2 15B? Dê sua nota

n/d de 5

ainda sem votos

Opinião de quem usa, não medição: a nota fica separada do ranking e não mexe na posição de ninguém. Um voto por navegador, sem cadastro, e dá para trocar a nota depois.

Perguntas frequentes

O que as pessoas perguntam sobre o StarCoder 2 15B

Qual a posição do StarCoder 2 15B no ranking de IA?

No AI Benchmark da ROO3, ordenado pelo ECI da Epoch AI, o StarCoder 2 15B está em 235º lugar entre 267 modelos, com ECI de 105,09. O ECI é um índice composto que junta vários benchmarks difíceis numa escala só. A posição muda quando sai modelo novo, e a página é apurada seis vezes por dia.

Em que o StarCoder 2 15B vai melhor?

Comparado aos modelos da mesma geração (lançados até 9 meses antes e até 3 meses depois dele), os melhores resultados relativos do StarCoder 2 15B são: GSM8K (9º de 33). A régua é a posição entre os modelos daquela época que fizeram a mesma prova.

De onde vêm os números desta página?

Das mesmas três fontes do ranking, todas com licença aberta: Epoch AI (ECI e provas individuais, CC BY 4.0), Arena (ELO de preferência humana, CC BY 4.0) e LiveBench (média geral, CC BY-SA 4.0). A ROO3 não mede modelo nenhum. Quando a página traz número publicado pelo próprio fabricante, ele aparece na análise escrita, dito como sendo do fabricante, e nunca entra no ranking.

Fontes

De onde vem cada número

Epoch AI, "AI Benchmarking Hub". Publicado em epoch.ai. Dados sob licença CC BY 4.0, reordenados por roo3.co.

Leaderboard da Arena (LMArena), do dataset público lmarena-ai/leaderboard-dataset no Hugging Face, sob licença CC BY 4.0. Não somos afiliados à Arena.

LiveBench, da equipe do LiveBench, publicado em livebench.ai sob licença CC BY-SA 4.0. A média geral é recalculada por roo3.co com a mesma conta do site (média das categorias), e esses números seguem sob CC BY-SA 4.0. Não somos afiliados ao LiveBench.

← Ver o ranking completo