IPN propone crear frente común contra ciberodio

Investigadores afirman que genera secuelas emocionales graves, como ansiedad, depresión y estrés en los usuarios; llaman a monitorearlos y combatirlos

Debido al crecimiento acelerado de mensajes de odio en redes sociales y plataformas digitales, Gina Gallegos García, investigadora del Instituto Politécnico Nacional, propuso la creación del primer Observatorio Digital contra el Ciberodio en México.

Gallegos García, jefa del laboratorio de ciberseguridad del Centro de Investigación en Computación (CIC), subrayó la urgencia de establecer un frente común que permita monitorear, analizar y combatir los discursos de odio que se generan en línea.

Explicó que países europeos ya cuentan con observatorios especializados que vigilan el comportamiento en redes, identifican causas estructurales y desarrollan estrategias para contener este fenómeno que afecta especialmente a los jóvenes y a las comunidades vulnerables.

Uno de los principales retos para este observatorio, indicó la especialista, será el desarrollo de aplicaciones que utilicen inteligencia artificial (IA) para detectar y filtrar los mensajes de odio.

Aunque algunas plataformas digitales han implementado mecanismos similares, los resultados aún son limitados pues datos del Observatorio Español del Racismo y la Xenofobia revelan que sólo se elimina poco más de 28% del contenido reportado por discriminación o incitación al odio.

Gallegos, doctora en Comunicaciones y Electrónica por la ESIME Culhuacán, advirtió que los discursos de odio no se quedan en el entorno digital, sino que generan secuelas emocionales graves, como ansiedad, depresión y estrés.

De ahí, dijo, la necesidad de una respuesta colectiva que incluya a instituciones, sociedad civil, academia y gobierno.

Finalmente, la investigadora reconoció los esfuerzos de las grandes empresas tecnológicas por incorporar herramientas de detección automática, aunque reiteró que es indispensable avanzar hacia mecanismos más efectivos y coordinados para enfrentar el ciberodio de forma estructural y sostenida.