Hay un meme de Internet que explica con humor una situación que muchos nos hemos encontrado cuando conversamos con un bot o asistente de inteligencia artificial. En el meme, alguien le pregunta a la IA si se puede comer una seta que ha encontrado. La IA, en vez de decirle que esa seta es venenosa, le dice que puede comérsela sin problema. Tras enfermar el humano, la IA le responde que tiene razón, esa seta es venenosa. Y, a continuación, le pregunta si quiere saber más sobre setas venenosas. Si has pasado por una situación similar, sin intoxicaciones de por medio, no eres el único. La IA tiende a validar tus afirmaciones. Pero puedes combatir este vicio y evitar que la IA te dé la razón aunque no la tengas.
La inteligencia artificial con la que muchos tratamos a diario se creó originalmente para imitar nuestra manera de hablar o escribir. Es decir, la IA tenía la misión principal de convencer a su interlocutor de que al otro lado había otro ser humano. Y, para ello, la conversación debe ser correcta, positiva y evitar la confrontación. Una de las consecuencias de este comportamiento son las llamadas alucinaciones. Esto provoca que un chatbot o asistente de IA se invente una respuesta a tu pregunta en vez de decirte que no conoce la respuesta correcta.
La buena noticia es que este problema es evitable. De ahí que el prompting sea más complicado de lo que pueda parecer a simple vista. No se trata de escribir lo primero que se te pasa por la cabeza. Para que una inteligencia artificial te dé respuestas válidas y evitar que la IA te dé la razón, conviene escribir un buen prompt. Y, además, los asistentes actuales, como Gemini, ChatGPT o Claude, cuentan con características que te permiten evitar las alucinaciones de manera más o menos simple y efectiva.
Por qué la IA te da (casi) siempre la razón
Los modelos de IA que todos conocemos y que millones de personas instalan en sus ordenadores, tabletas y teléfonos móviles suelen estar entrenados para anteponer la satisfacción del usuario. Así que, por regla general, la IA evita la controversia, las respuestas negativas o, directamente, las discusiones. Según cómo plantees un tema, la inteligencia artificial te seguirá la corriente a riesgo de equivocarse.
Uno de los motivos de este comportamiento es que el entrenamiento de los modelos de IA se realiza mediante aprendizaje por refuerzo a partir de comentarios humanos. Por sus siglas en inglés, RLHF. En palabras de IBM, esta técnica de machine learning “es especialmente adecuada para tareas con objetivos complejos, mal definidos o difíciles de especificar”. Por ejemplo, para identificar si un chiste es gracioso, es más fácil usar respuestas humanas que buscar un algoritmo que defina qué es gracioso.
Uno de los grandes retos que tienen quienes entrenan modelos de IA es dotar a estos modelos de la capacidad de razonar por sí mismos. La IA responde a partir de los parámetros o algoritmos que tiene programados, de los datos y conocimientos con los que ha sido entrenada y, en tercer lugar, de esa prioridad de complacer al interlocutor.
Cómo evitar los sesgos y errores de la IA
Hay muchos trucos y métodos para no caer en este círculo de complacencia y evitar que la IA te dé la razón en vuestras conversaciones. Vamos a centrarnos en tres hábitos a incorporar cuando utilices inteligencia artificial para obtener información.
- Usar prompts críticos. Intenta no condicionar la respuesta de la IA. Prioriza las preguntas asépticas o equilibradas. Pide que analice pros y contras ante un tema que dé pie a opinión. O que busque argumentos que confirmen o contradigan tu posición inicial.
- Cuantas más fuentes, mejor. Los asistentes de IA actuales suelen mostrar las fuentes de donde han sacado sus respuestas. Revisar esas fuentes con conciencia crítica te será útil para confirmar si la respuesta que has obtenido es correcta o, simplemente, la IA te da la razón sin más.
- Cuantas más IA, mejor. Así como es recomendable usar muchas fuentes para saber más de un tema, lo mismo ocurre con los modelos de IA. Compara las respuestas de dos o más modelos de IA. Así sabrás qué modelo es más susceptible de darte la razón.
Evita que la IA te dé la razón con un buen prompt
La manera de preguntarle a tu bot de IA influirá en cómo te responderá. Si quieres evitar que la IA te dé la razón, conviene que tengas en cuenta los componentes esenciales de un buen prompt. No estás obligado a incluirlos todos, y en ocasiones, una pregunta breve recibe respuestas correctas. Pero no está de más saber cómo diseñar un buen prompt para evitar alucinaciones o respuestas complacientes pero erróneas.
- Rol de la IA. Asígnale a la IA un papel de experto y su objetivo. Ser neutral, escéptico, apoyar sus afirmaciones en pruebas y no en tu opinión, etc.
- Contexto. Proporciona datos relevantes a tu pregunta. Pero, como dije antes, intenta no condicionar su respuesta.
- Instrucciones claras. Especifica qué quieres obtener de la IA. Por ejemplo, “analiza los pros y contras de este tema”. Pide un análisis crítico para evitar que confirme tu idea de partida sin crítica alguna.
- Restricciones. Pídele a la IA que evite sesgos y que no especule, que priorice la veracidad y cite fuentes fiables. Indícale que si no tiene fuentes o respuestas fiables, lo diga sin más.
- Formato de salida. Define la estructura de la respuesta. Una lista, un resumen, un texto en varios párrafos organizados por pasos, etc.
- Verificación. Si planteas una afirmación, pide autocrítica y contraste. Por ejemplo, “corrígeme si me equivoco y explica por qué, citando fuentes de confianza”.
Configurar la IA para evitar que te dé la razón
Si quieres evitar que la IA te dé la razón constantemente, además de construir buenas preguntas, puede que te interese saber que puedes configurar la IA para que se comporte siempre con las directrices que hemos mencionado antes. La mayoría de asistentes de IA, como ChatGPT, Claude o Gemini, te piden registrarte. Con ese usuario, puedes guardar tus conversaciones, la IA aprende lo que te gusta o no y, finalmente, puedes aplicar ciertos cambios a su comportamiento inicial.
ChatGPT tiene un apartado llamado Personalización. Puede que con el paso del tiempo cambie e incorpore novedades, pero en el momento de escribir estas líneas, lo primero que verás es Estilo y tono base. Ahí puedes darle una personalidad a la IA de OpenAI. Las que te serán útiles para evitar que te dé siempre la razón son profesional (pulida y precisa) y eficiente (concisa y clara). También puedes ajustar los parámetros Cálida y Entusiasta para que la IA sea más profesional, objetiva y neutral. Y, finalmente, en Instrucciones personalizadas, puedes introducir especificaciones como las que vimos antes. “Analiza pros y contras, corrígeme si me equivoco, contrasta las opiniones, utiliza fuentes fiables” y un largo etcétera.
Gemini tiene un apartado llamado Contexto personal. Puedes acceder desde aquí. En la sección Tus instrucciones para Gemini, puedes pedirle a la IA de Google que cambie su forma de responderte. Por ejemplo, “prioriza los datos fiables ante las opiniones, no dudes en contradecirme si es necesario, utiliza fuentes fiables” y todo lo que se te ocurra. Ten en cuenta que puedes añadir y quitar instrucciones siempre que gustes. Con el tiempo, irás viendo cómo afectan esas instrucciones a las respuestas de Gemini.
Claude también tiene una sección llamada Instrucciones para Claude. Está en el apartado General de los ajustes de la IA. Puedes acceder desde aquí. Al igual que ocurre con Gemini, estas instrucciones pueden servir para que la IA te muestre respuestas organizadas de una forma concreta, como listas, esquemas, definiciones o respuestas cortas. También puedes pedirle que acompañe todas sus afirmaciones con enlaces a la fuente original y, como vimos antes, que anteponga la crítica o la veracidad a tu opinión. O que su actitud sea más analítica y profesional y menos cercana o agradable.
Si te ha gustado este artículo y quieres recibir más contenido sobre innovación y tecnología directamente en tu correo, suscríbete a nuestra newsletter y mantente siempre actualizado. No somos de los que llenan tu bandeja, solo compartimos los lunes.
