Gemma-2B-IT - SQAC_SQUAD_2024

ICM Norm
0.47
ICM Soft
0.47
system_description
Todas las tareas han sido convertidas a formato text-to-text. El prompt consiste en una descripción de la tarea y de 3 a 20 few-shot examples extraidos del train dependiendo de la tarea. El output de todas las tareas se ha convertido a formato JSON y se reprensenta mediante un objeto Pydantic. Usando la librería outlines forzamos al modelo a generar objetos JSON que complen la especificación Pydantic. El modelo ha sido finetuneado en formato multi-task (con todas las tareas al mismo tiempo).
Leaderboard Version
3
lang
es
metric
F1
error
No errors.
Sistema
Gemma-2B-IT
Partición resultados
All
Fuente
Publicación
F1
0.47
Accuracy
0.47
MacroF1
0.47
Pearson correlation
0.47
ICM
0.47