-
El proyecto premiado forma parte del grupo de investigación Intelia, especializado en procesamiento del lenguaje natural y grandes modelos de lenguaje.
Un estudiante de la UAH recibe el premio Impulsa Visión de RTVE por su TFM sobre cómo frenar los discursos de odio en redes sociales. Su herramienta, entrenada en Reddit, permite detectar mensajes ofensivos y concienciar a los usuarios. ¿Y si la IA no fuera el problema, sino parte de la solución?
¿Podría la IA ayudarnos a controlar la dispersión de los discursos de odio a través de las redes sociales? Cuando hagamos balance del impacto que ha tenido esta nueva tecnología, ¿pesarán más las ocasiones en que se haya usado para dar soporte a discursos homófobos, racistas… o prevalecerá su uso para detectar y denunciar a estos últimos?
Estas fueron las preguntas que le vinieron a la cabeza a Antonio Moreno Cediel cuando, el pasado mes de noviembre, vio por primera vez la VII Convocatoria de las Ayudas a la Investigación Impulsa Visión, lanzada por RTVE. Esta iniciativa del ente público otorga cada año tres ayudas de 10.000 euros a estudiantes de posgrado que vayan a hacer su trabajo de fin de máster sobre un tema relacionado con el sector audiovisual.
¿Puede una máquina enseñarnos a ser mejores personas? La pregunta puede sonar provocadora, pero Antonio Moreno Cediel, joven investigador formado en la Universidad de Alcalá, ha preferido responderla con hechos. Su Trabajo Fin de Máster, centrado en el uso de la inteligencia artificial para detectar discursos de odio en redes sociales, ha sido uno de los tres galardonados por RTVE en la VII edición de las Ayudas a la Investigación Impulsa Visión.
Moreno, integrante del grupo de investigación Intelia y alumno del Máster de Desarrollo Ágil para la Web, ha creado una herramienta basada en IA capaz de escanear publicaciones en Reddit y alertar sobre posibles mensajes racistas, machistas u homófobos. El objetivo no es solo detectar, sino concienciar: “Uno mismo puede ver cómo se categorizan sus publicaciones, y tomar conciencia de lo que está comunicando”, explica.
Tecnología para pensar, no solo para vigilar
Coordinado por el profesor Antonio García Cabot, el grupo Intelia de la UAH lleva años trabajando en procesamiento del lenguaje natural y grandes modelos de lenguaje. El TFM premiado se apoya en esta experiencia para abordar uno de los grandes desafíos de nuestra era: el odio desbocado que circula por redes sociales.
Moreno lo ilustra con un dato revelador: solo en un día de 2022, se publicaron 375 millones de tuits. “No hay forma humana de analizar semejante volumen de mensajes, pero sí podemos enseñar a las máquinas a ayudarnos”, afirma. Y eso es exactamente lo que ha hecho.
El trabajo fue presentado el pasado 9 de julio ante expertos, representantes institucionales y directivos de RTVE, entre ellos el presidente del ente público, José Pablo López, y el director de la Oficina Nacional de Lucha contra los Delitos de Odio, Tomás Fernández. Moreno compartió escenario con las otras dos ganadoras, Bruna Scaratti (Universidad de Huelva) e Irene Villarreal (UNED).
¿IA buena o IA mala? El dilema de nuestro tiempo
Mientras proliferan los titulares que vinculan la inteligencia artificial con el control masivo, la manipulación de opiniones o la destrucción de empleos, este joven alcalaíno propone una mirada diferente: una IA que nos ayude a construir una sociedad más justa, más ética y más consciente.
“Va a ser un reto para la sociedad, pero debemos intentar que prevalezca la parte buena”, afirma Moreno. Y esa parte buena existe, insiste su tutor, García Cabot: “El trabajo de Antonio demuestra que se puede poner la tecnología al servicio de valores humanos. Es un alumno sobresaliente y su aportación es valiosa para toda la comunidad”.
No es la primera vez que un talento forjado en la Universidad de Alcalá da que hablar más allá del ámbito académico. Pero sí es una muestra clara de que el conocimiento que se genera en nuestra ciudad puede influir directamente en debates globales. En este caso, uno tan urgente como el de los discursos del odio y su eco multiplicado por los algoritmos.
Desde ALCALÁ HOY celebramos este reconocimiento, no solo como un logro académico, sino como una señal de esperanza: que la tecnología también puede tener alma si la programamos con conciencia.
¡ Nuestro canal en Telegram! Si te ha interesado esta información, únete ahora a nuestro canal de telegram @alcalahoy para estar al tanto de nuestras noticias.
Loable la iniciativa de este alumno, pero soy escéptico en cuanto a la evolución del odio en internet y el uso de la IA para abordarlo, por dos motivos:
– Detectar mensajes de odio y categorizarlos no va a hacer que desparezcan, pues las plataformas donde se publican esos mensajes viven del odio (odio = “engagement” = dinero). Mientras sea ése el modelo de negocio de las plataformas, no hay nada que hacer.
– Si no se quieren cometer arbitrariedades (que generarían indirectamente más odio), sería necesaria una revisión humana en algún punto del proceso, mientras que para generar mensajes de odio la IA no necesita supervisión humana. Mientras esa “IA buena” detecta un mensaje de odio y lo trata, otras mil IAs operadas por particulares, organizaciones y Estados pueden lanzar mil mensajes de odio cada una de ellas.