La información que nos da nuestro chatbot favorito no es neutral ni objetiva

Un 10 % de la población obtiene su información principalmente de chatbots –agentes conversacionales que funcionan con inteligencia artificial (IA)–, según una encuesta a 93 000 personas de todo el mundo para el Reuters Digital News Report 2026. Por otro lado, cuando se les preguntó a los participantes por sus preferencias, un 46 % afirmó buscar fuentes sin “un punto de vista” (es decir, percibidas como objetivas). En esta misma línea, un estudio publicado en Nature apunta que la IA es valorada por sus usuarios como más neutral –de media un 10 % más– que los expertos humanos en sus correspondientes ámbitos.

La presunción de que las personas expertas son objetivas –el llamado sesgo de autoridad– no es nada nuevo. Sin embargo, con la inteligencia artificial, una diferencia notable es la escala, ya que cualquier contenido difundido a través de plataformas de chatbots tiene un alcance significativamente mayor que el que pudiera tener un solo experto humano.

Además, con algunas excepciones como pueden ser Apertus u Olmo, la mayoría de los sistemas de IA son cajas negras donde no sabemos qué decisiones han tomado los algoritmos, ni por qué. Por otro lado, al estar centralizadas, sus empresas matrices pueden añadir cambios sutiles a millones de usuarios simultáneamente. Existen múltiples falsas creencias que nos hacen infravalorar el riesgo que esto supone, empezando por la que expone el mencionado artículo de Nature.

FALSO: “La máquina sabe más que la persona”

El sesgo de automatización es la percepción de que las máquinas y los algoritmos son más neutrales y eficientes que sus contrapartidas humanas. Esto explica, por ejemplo, que algoritmos de indexación como Google tengan un monopolio del 90 % de las búsquedas en línea.

También, este sesgo es culpable del discurso tecnosolucionista que erige la IA como árbitro objetivo del presente y el futuro. Esto supone un peligro sociocultural, cuando los algoritmos de determinadas plataformas priorizan discursos supremacistas o polarizantes. Por ejemplo, tenemos a TikTok, que promueve contenido de odio por su alta carga emocional, con el único objetivo de mantener a sus usuarios en la plataforma, mientras X favorece los mensajes de su propietario Elon Musk, sus empresas y sus aliados políticos, y Deepseek oculta información contraria a la República de China, como la relacionada con las protestas de Tiananmen.

FALSO: “¿Ves? Yo tenía razón”

Este sesgo de automatización suele ir acompañado por múltiples otros, entre los cuales hay tres que pueden amplificar dinámicas de colonización del conocimiento por parte de la IA.

En primer lugar, el sesgo de confirmación nos predispone a buscar información que valide lo que ya creemos, en lugar de cuestionarlo. Este atajo mental fue evolutivamente útil para la supervivencia: por ejemplo, si creemos haber contraído una enfermedad, se nos puede poner en cuarentena y hacer pruebas para buscar una cura y evitar más contagios, en lugar de tildarnos de hipocondriacos (desconfirmación).

En este sentido, los modelos conversacionales con IA están diseñados para seguirnos la corriente. Así, generan contenido alineado con las creencias de los usuarios, por ejemplo, material antisemítico, invención de datos y estudios para desinformación o imágenes falsas de todo tipo, con tal de no llevarnos la contraria.

FALSO: “Es mejor no cuestionar”

En segundo lugar, el sesgo de sobreconfianza evita que estemos dudando continuamente y nos predispone a sentirnos seguros con la información que se nos ofrece sobre determinados sucesos, aunque no sepamos explicarlos. Ello nos permite construir conocimiento de manera gradual, haciendo posible las multiplicaciones y las potencias, después de haber aprendido el funcionamiento de las sumas, en lugar de cuestionar su funcionamiento en bucle.

Sin embargo, la sobreconfianza también nos lleva a caer en la trampa de bulos que se nos presentan con la apariencia de evidencia científica.

Por otro lado, vuelve directamente invisibles cuestiones que ya creemos conocer y, por lo tanto, simplemente no se las preguntamos a la IA. Eso sí, aunque lo hiciéramos, no tendríamos garantizada la verdad, ya que los chatbots son propensos a caer en alucinaciones.

FALSO: “Solo el presente y el pasado cercano existen”

Por último, el sesgo de sucesos recientes nos predispone a dar prioridad a eventos que hace poco que han sucedido, por encima de eventos pasados o futuros. Este sesgo ayuda a que nos centremos en nuestras necesidades más inmediatas, como comer o entregar un trabajo.

En la otra cara de la moneda, favorece anécdotas recientes, en lugar de tendencias longitudinales –este es el truco que se usa para negar el cambio climático si hay un temporal frío (un argumento análogo a decir que el Sol no existe porque ahora es de noche)–. Los chatbots y los buscadores –basados en IA– tienden a multiplicar este sesgo, aportando principalmente resultados recientes, sin considerar referencias pasadas, más allá de aquellas populares.

¿Cómo responder?

De la misma manera que preguntaríamos a un investigador por su metodología y participantes, podemos personalizar la memoria de Mistral o Lumo (de Proton) –dos modelos de IA menos medioambientalmente dañinos–, para que diagnostiquen sus sesgos y los de nuestras preguntas, pasando de asumir que son neutrales a visibilizar sus limitaciones.

Si usamos otros sistemas conversacionales, tal vez podríamos darles instrucciones para combatir los tres sesgos mencionados, como:

-Para el sesgo de confirmación: “Cuando te pida que me ayudes con una tarea, incluye una pequeña sección (3 oraciones) a tu respuesta mencionando las posibles limitaciones y refinamientos que tiene mi enfoque”.

-Para el sesgo de sobreconfianza: “Para ayudarme a buscar información relacionada con búsquedas, añade al final de tu mensaje un apartado con palabras clave recomendadas. Busca fuentes con estadística de artículos que no sean exclusivamente anécdotas periodísticas y añade el enlace a las mismas”.

-Para el sesgo de sucesos recientes: “Ten cuidado de no proveer solo información reciente que no tenga en cuenta las tendencias longitudinales e históricas, y procura incluir perspectivas locales poco conocidas en lugar de únicamente artículos occidentales populares sobre el tema que seguramente encontrarás si haces búsquedas en línea con los buscadores más típicos o te remites a los datos con los que fuiste entrenado”.

Nadie está libre de sesgos, pero conocerlos puede ayudarnos a gestionarlos mejor. En cualquier caso, es esencial no confiar ciegamente en las producciones de una IA. Quizá, igual que cuando tenemos un coche viejo del que conocemos sus fallos, nuestros propios sesgos humanos y personales sean más fáciles de manejar que aventurarnos a comprar un coche usado que no sabemos quién condujo antes que nosotros, ni cómo lo hizo.

Las personas firmantes no son asalariadas, ni consultoras, ni poseen acciones, ni reciben financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y han declarado carecer de vínculos relevantes más allá del cargo académico citado anteriormente.