En un intento por combatir la creciente amenaza de los discursos de odio en las redes sociales, la Universidad de Jaén ha desarrollado un sistema generativo del lenguaje similar a ChatGPT. Esta innovadora herramienta, que utiliza inteligencia artificial (IA) y procesamiento de lenguaje natural, se ha propuesto como un modelo pionero en español para contrarrestar la propagación de odio en línea.
El proyecto, denominado Real-Up, tiene como objetivo principal mejorar la capacidad de las autoridades para identificar y contrarrestar discursos de odio en línea. Este esfuerzo innovador será presentado ante la Comisión Europea, y es liderado por el Gobierno español.
La catedrática en Informática de la Universidad de Jaén, María Teresa Martín, una de las impulsoras de este sistema, expresó su confianza en el proyecto, señalando que «Ningún humano sería capaz de hacerlo mejor».
El proyecto Real-Up es una colaboración entre varias instituciones incluyendo el Observatorio Español del Racismo y la Xenofobia (Oberaxe), y las universidades de Barcelona y Valencia. Su objetivo es fortalecer las contranarrativas frente al racismo, xenofobia, islamofobia, antisemitismo y antigitanismo.
El grupo de investigación Sistemas Inteligentes de Acceso a la Información (SINAI) de la Universidad de Jaén ha sido el encargado de desarrollar esta herramienta de inteligencia artificial. Según Martín, la herramienta ofrece respuestas de mejor calidad que la simple censura, generando mensajes positivos, informativos y veraces que contrarrestan el discurso de odio.
Martín también sugiere que esta herramienta podría aliviar la carga de los voluntarios que actualmente enfrentan problemas mentales debido a la exposición continua a discursos de odio en las redes sociales. La automatización de respuestas podría resolver parte del problema y reduciría la fatiga emocional de quienes trabajan para contrarrestar el odio en línea.
En comparación con las respuestas humanas, Martín afirma que el sistema generado por la IA tiene una calidad superior en un 80% de los casos. Además, destaca que las contranarrativas generadas son más informativas, descriptivas y específicas.
Esta herramienta podría ser utilizada por las propias redes sociales o por autoridades y entidades sociales que buscan combatir el odio en línea de manera más efectiva. Al proporcionar una respuesta inmediata y precisa a los discursos de odio, este sistema podría mejorar la seguridad en línea y contribuir a crear un ambiente más saludable y respetuoso en las redes sociales.
El uso de la inteligencia artificial para combatir el odio en línea puede ser un gran paso adelante en la promoción de un entorno digital saludable y seguro. A medida que el mundo se vuelve cada vez más digital, es fundamental que se tomen medidas para garantizar que nuestras interacciones en línea sean seguras y respetuosas.
El proyecto Real-Up es un ejemplo de cómo la tecnología puede ser utilizada para el bienestar social. Al utilizar la inteligencia artificial y el procesamiento del lenguaje natural para combatir el odio en línea, este proyecto está ayudando a crear un espacio digital más seguro y saludable para todos.
El proyecto Real-Up y su uso de la inteligencia artificial para combatir el odio en línea es una señal de que estamos entrando en una nueva era de tecnología y bienestar social. Con el uso de herramientas innovadoras como esta, podemos esperar un futuro en el que las interacciones en línea estén libres de odio y discriminación.
Este sistema generativo del lenguaje es un paso positivo en la dirección correcta y proporciona esperanza para un futuro en línea más seguro y saludable. Aunque todavía hay mucho camino por recorrer, es alentador ver que se están tomando medidas para luchar contra el odio en línea y promover un ambiente digital seguro y saludable. En este sentido, la Universidad de Jaén está liderando el camino y demostrando cómo la tecnología puede ser utilizada para mejorar la sociedad y promover el bienestar.