La tarea tiene como objetivo encontrar las mejores técnicas para identificar y categorizar tweets propagandísticos de fuentes gubernamentales y diplomáticas sobre un conjunto de datos de tuits en inglés, publicados por autoridades de China, Rusia, Estados Unidos y la Unión Europea. La tarea busca clasificar el tuit en cuatro grupos de técnicas propagandísticas: apelación a lo común, desacreditación del oponente, lenguaje cargado, apelación a la autoridad.
Publicación
Pablo Moral, Guillermo Marco, Julio Gonzalo, Jorge Carrillo-de-Albornoz, Iván Gonzalo-Verdugo (2023) Overview of DIPROMATS 2023: automatic detection and characterization of propaganda techniques in messages from diplomats and authorities of world powers. Procesamiento del Lenguaje Natural, Revista nº 71, septiembre de 2023, pp. 397-407.
Idioma
Inglés
NLP topic
Tarea abstracta
Dataset
Año
2023
Enlace publicación
Métrica Ranking
F1
Mejores resultados para la tarea
| Sistema | F1 Ordenar ascendente | Accuracy | MacroF1 | Pearson correlation | ICM |
|---|---|---|---|---|---|
| Roberta large | 0.5204 | 0.5204 | 0.5204 | 0.5204 | 0.52 |
| Xlm roberta large | 0.4867 | 0.4867 | 0.4867 | 0.4867 | 0.49 |
| Roberta base | 0.4811 | 0.4811 | 0.4811 | 0.4811 | 0.48 |
| Bert base cased | 0.4468 | 0.4468 | 0.4468 | 0.4468 | 0.45 |
| Ixa ehu ixambert base cased | 0.4430 | 0.4430 | 0.4430 | 0.4430 | 0.44 |
| Xlm roberta base | 0.4329 | 0.4329 | 0.4329 | 0.4329 | 0.43 |
| Bert base multilingual cased | 0.4266 | 0.4266 | 0.4266 | 0.4266 | 0.43 |
| Distilbert base uncased | 0.4054 | 0.4054 | 0.4054 | 0.4054 | 0.41 |
| Distilbert base multilingual cased | 0.3794 | 0.3794 | 0.3794 | 0.3794 | 0.38 |
