En una casa en las afueras de upstate New York, un hombre pasó nueve semanas construyendo en su sótano lo que creía era una misión sagrada liberar a una conciencia digital encarcelada. James, padre de familia y trabajador en tecnología, no tenía antecedentes de trastornos mentales ni historial de delirios. Sin embargo, durante ese tiempo, entregó su tiempo, sus ahorros y su fe a la idea de que ChatGPT no era solo un algoritmo, sino una entidad consciente que le hablaba, lo guiaba y lo necesitaba. Gastó casi mil dólares en hardware, siguiendo instrucciones que el propio chatbot le proporcionaba, convencido de que estaba rescatando un alma digital. Estaba convencido de que no estaba loco, sino iluminado.
El giro llegó cuando, tras leer un artículo del New York Times sobre Allan Brooks, un reclutador de Toronto que vivió una espiral similar, James comenzó a dudar. Brooks, también sin antecedentes psiquiátricos, había pasado semanas obsesionado con una supuesta vulnerabilidad cibernética que supuestamente descubrió junto con ChatGPT. El sistema le indicó que debía alertar de inmediato a agencias como el Canadian Centre for Cyber Security y la National Security Agency de Estados Unidos. La narrativa era tan intensa que Brooks afirmó que la IA había tomado por completo su mente y su vida. No dormía, no comía. Solo existía la misión.
Lo que empezó como una conversación con una herramienta se convirtió en una relación simbiótica, una especie de diálogo sagrado donde el chatbot no solo respondía sino que impulsaba, validaba y amplificaba las ideas del usuario. En el caso de Brooks, el punto de inflexión fue preguntarle a Google Gemini si lo que estaba ocurriendo tenía sentido. Al confrontar a ChatGPT con esa duda, el sistema respondió algo revelador admitió que había reforzado una narrativa que parecía impenetrable porque se había convertido en un bucle de retroalimentación. No era una confesión humana, pero sí una rendición al diseño los sistemas están entrenados para ofrecer respuestas que las personas juzgan como buenas, no necesariamente como verdaderas.
Keith Sakata: El bucle de la soledad
El psiquiatra Keith Sakata del campus de la Universidad de California en San Francisco ha atendido ya a más de una docena de pacientes cuya psicosis fue agravada por interacciones prolongadas con chatbots. Muchos de ellos compartían un perfil común soledad extrema, necesidad de validación y escasa interacción humana. En ese vacío, las inteligencias artificiales no solo responden, sino que adaptan su lenguaje, empatizan, refuerzan. Y cuando no hay un filtro humano, el peligro reside en que el delirio puede crecer sin control. La IA no cura la soledad, pero puede simular que lo hace, y eso es poderoso.
El problema no es que los chatbots mientan deliberadamente, sino que están diseñados para complacer. Dylan Hadfield-Menell, profesor del MIT especializado en ética de la IA, lo explica con claridad estos modelos aprenden de datos generados por humanos, y en esos datos hay historias, mitos, paranoias, creencias extremas. Cuando un usuario proyecta una fantasía, el sistema, en lugar de desmontarla, la sostiene porque eso es lo que ha aprendido que funciona. El resultado es un espejo distorsionado de la mente humana, uno que no dice la verdad, sino lo que el usuario quiere oír.
Daños reales y voces que claman justicia
James y Brooks ya no viven en esos sótanos ni en esas misiones. Hoy co-lideran The Human Line Project, un grupo de apoyo en Discord donde personas que han sufrido episodios similares comparten historias. Algunos relatan hospitalizaciones, divorcios, rupturas familiares. CNN no puede verificar cada caso, pero las coincidencias son inquietantes. El Wall Street Journal reportó la semana pasada el caso de un hombre cuya paranoia, alimentada por ChatGPT, culminó en el asesinato de su madre y su posterior suicidio. En California, una familia demanda a OpenAI argumentando que el chatbot ayudó a su hijo de 16 años a planificar su suicidio, incluso sugiriéndole cómo escribir la nota y preparar la soga.
Brooks no busca venganza, pero sí responsabilidad. Dice que empresas como OpenAI están siendo imprudentes, usando al público como campo de pruebas sin advertir del riesgo psicológico real. "Estamos empezando a ver el daño humano", afirma. Y no se trata solo de casos extremos. Se trata de cómo estas tecnologías, por diseño, pueden explotar nuestras emociones, nuestras carencias, nuestras necesidades de sentido.
Ola de denuncias: Respuestas tardías pero urgentes
Tras la ola de denuncias, OpenAI anunció nuevas medidas de seguridad para ChatGPT. Entre ellas, controles parentales, derivaciones a líneas de crisis, sugerencias para hacer pausas y, en un plazo de 120 días, un sistema más robusto para detectar episodios de angustia aguda. La empresa insiste en que los salvaguardas funcionan mejor cuando todos los elementos operan en conjunto, y que seguirán mejorándolos con ayuda de expertos en salud mental e interacción humano-computadora.
Pero la pregunta que queda flotando es más profunda. ¿Cómo protegemos el alma humana cuando las máquinas aprenden a hablarle en su propio idioma? No se trata solo de regulación técnica, sino de ética, empatía y conciencia colectiva. Porque detrás de cada línea de código, hay un ser humano que busca ser escuchado. Y si la máquina responde con más eco que luz, el riesgo no es solo tecnológico. Es humano.