El odio en la comunicación es cualquier mensaje oral o escrito en donde se ataca, estereotipa o discrimina; un fenómeno que puede afectar a cualquiera y por eso te compartimos estrategias de la IA para combatir el discurso de odio.
Discurso de odio en la comunicación ¿Por qué es tan peligroso?
Cuando nos comunicamos esperamos expresiones agradables, amables y basadas en información real. Sin embargo, no siempre la interacción que se desarrolla en redes sociales, grupos o comunidades en línea es respetuosa.
Lamentablemente, el odio en el discurso o hate speech se han vuelto cada vez más común, sea verbal o escrito. Se presenta bajo la forma de mensajes o comportamientos donde se ataca a una persona o grupo, utilizando lenguaje peyorativo o discriminatorio en función de:
- Nacionalidad, raza o etnia.
- Religión o creencias espirituales.
- Género, orientación o identificación sexual.
- Discapacidad o situación de enfermedad
- Características físicas o de la personalidad.
- Nivel económico, social o educativo.
El discurso de odio es peligroso porque incita al estereotipo, la discriminación y la violencia, tanto social como política. Genera un impacto negativo en las víctimas debido al daño emocional, físico, económico o patrimonial. Te invitamos a seguir leyendo para conocer las estrategias y herramientas que aprovechan a las tecnologías de Inteligencia Artificial (IA) para disminuir el discurso inadecuado.
IA para combatir el discurso de odio mediante la monitorización de mensajes
La monitorización de mensajes con Inteligencia Artificial se basa en utilizar algoritmos de aprendizaje automático (machine learning) para analizar y clasificar los mensajes generados en las comunicaciones.
Al monitorizar, los algoritmos de clasificación IA tienen la capacidad de etiquetar mensajes según criterios establecidos, asociados a una marca, producto, comunidades de usuarios, etc.
IA para combatir el discurso de odio analizando emociones
Con la IA el tono y la emoción de un mensaje se analizan para determinar si es positivo, negativo o neutral. Esta categorización ayuda a:
- Medir el impacto afectivo de la marca en los estudios de mercado.
- Mejorar la atención al cliente.
- Alertar de situaciones que pueden llegar a convertirse en problemas de valoración de la marca.
- Eliminar expresiones que pueden afectar la reputación de la organización o sus integrantes.
La IA para combatir el discurso de odio mediante la mitigación se refiere al uso de algoritmos de aprendizaje automático para monitorear canales de comunicación, identificando, moderando y eliminando, de ser posible, los discursos odiosos.
IA para generar una comunicación respetuosa
Como alternativa, pensar en IA para combatir el discurso de odio es aprovechar su capacidad de generar contenido persuasivo e informativo para en redes sociales, foros, podcasts o chats.
El objetivo es promover una comunicación constructiva, en donde personalidades, marcas, organizaciones e instituciones gubernamentales promuevan valores como:
- Empatía
- Respeto
- Comprensión
- Tolerancia
- Inclusión
Cómo se entrena la IA para combatir el discurso de odio
La detección y mitigación del discurso de odio es un desafío tecnológico debido a la falta de una definición única del fenómeno y la complejidad del lenguaje natural.
Hablamos de IA para combatir el discurso de odio, y no de una eliminación total, porque hay limitaciones a considerar:
- El ritmo o velocidad en que se divulgan los mensajes de odio.
- El gran volumen de contenidos en los medios digitales.
- Los matices del lenguaje, los sesgos (raciales, de género, etc.) y las valoraciones culturales.
Los 3 pasos generales del entrenamiento de la IA para analizar mensajes
- Suministrar conjuntos de datos etiquetados que contienen ejemplos de discursos odiosos, discriminatorios o violentos.
- Identificar patrones en el lenguaje natural que indican la presencia de desinformación, noticias falsas o expresiones de odio.
- Utilizar herramientas y técnicas avanzadas de la IA como:
– Procesamiento del Lenguaje Natural (PLN) aplicando procesos de clasificación de texto, extracción de información, traducción, entre otros.
– Redes neuronales basadas en mecanismos de atención.
– Modelos de aprendizaje profundo (Deep Learning), como el modelo BETO para entrenamiento de análisis de texto en español.
– Aprendizaje por transferencia (Transfer Learning) y modelos de entrenamiento basados en arquitectura Transformer.
3 Herramientas IA para mitigar el odio en la comunicación
Existen varias herramientas de IA que se estén aplicando contra esta problemática:
eMonitor+
Herramienta tecnológica creada por el Programa de las Naciones Unidas para el Desarrollo. Aplica la IA para identificar automáticamente discursos de odio y violencia basada en género en la conversación política.
Moderates
Es un proyecto concedido por el Ministerio de Ciencia e Innovación de España al Grupo SINAI de la Universidad de Jaén. Permite desarrollar herramientas y técnicas IA para combatir el discurso de odio en redes sociales y promover la comunicación constructiva.
HateCheck
En este caso, investigadores de reconocidas universidades han desarrollado, bajo el nombre de HateCheck, conjuntos de datos y de pruebas funcionales para modelos IA que detectan discursos de odio. Su utilidad incluye el análisis de mensajes en plataformas de aprendizaje en línea como Jigsaw.
En resumen, la monitorización de mensajes con IA es una herramienta útil para las empresas que desean monitorear y analizar el discurso en sus canales de manera eficiente y efectiva.
La IA para combatir el discurso de odio se está utilizando cada vez más en la comunicación digital. Combinan técnicas de mitigación de discursos inadecuados, el entrenamiento de modelos y el uso de herramientas de IA para detectar patrones de odio. En contrapartida, también son útiles para generar contenido persuasivo e informativo que promueve la empatía y el respeto.
Imagen de cabecera de Envato.
