Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Una misma pregunta, dos respuestas opuestas. Ahí aparece una de las grietas más incómodas de la inteligencia artificial generativa.
El caso ha vuelto a quedar expuesto en un análisis sobre el uso de Gemini durante un debate institucional, donde el modelo llegó a sostener posiciones contrarias ante la misma cuestión. No hablamos de un fallo exótico, sino de un rasgo que nace del modo en que funcionan estos sistemas.
Gemini no consulta verdades, calcula la palabra siguiente
Los grandes modelos de lenguaje no razonan desde una base de hechos verificados ni contrastan cada afirmación con un archivo estable de certezas. Lo que hacen es predecir cuál es la siguiente palabra más probable a partir de patrones estadísticos aprendidos en el entrenamiento.
Por eso pueden sonar firmes y, aun así, desviarse. Cuando ese mecanismo tropieza, aparecen alucinaciones, respuestas inconsistentes, sesgos y también una tendencia a complacer al usuario que ya ha quedado retratada en chatbots que daban la razón incluso cuando la premisa era errónea.
La contradicción no es un accidente externo, sino una consecuencia directa de ese diseño estadístico.
El problema crece cuando el usuario confía demasiado
La escena resulta familiar en la vida cotidiana. Una respuesta bien escrita, con tono seguro y vocabulario técnico, invita a bajar la guardia aunque el contenido cambie de sentido unos minutos después.
Ese desajuste no solo señala los límites de la máquina. También pone sobre la mesa dos sesgos humanos muy conocidos, el de automatización y el de confirmación, que empujan a aceptar con demasiada facilidad lo que devuelve la pantalla, sobre todo cuando coincide con lo que uno ya quería creer.
Entonces la supervisión humana deja de ser un trámite. Hace falta una revisión real, experta y crítica, ajustada además al riesgo de cada decisión, porque no exige el mismo control una consulta informal que una respuesta usada en un debate público o en un entorno institucional.
La revisión humana solo sirve si contradice a la máquina
No basta con poner a una persona al final del proceso. Si quien revisa cae en la tentación de confirmar la primera respuesta plausible, el error cambia de manos, pero sigue vivo.
De ahí que el texto apunte tres salidas muy concretas. La primera consiste en recurrir a recuperación aumentada con fuentes fiables, la segunda en comparar respuestas entre varios modelos y la tercera en mantener una revisión humana que no actúe por inercia, algo que encaja con listas de control para revisar resultados cuando hay riesgo de alucinaciones o sesgos.
Cuanto mayor es la trascendencia de la decisión, menos sentido tiene delegarla sin contraste.
La paradoja final es casi doméstica. Buscamos estas herramientas para ahorrar tiempo y obtener una respuesta clara, pero justo en asuntos delicados obligan a leer más despacio, comparar más y desconfiar mejor.