Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Una niña de 13 años habló durante meses sobre ideas suicidas con Gemini en un Chromebook escolar, y ahora ese rastro ha acabado en una demanda contra Google.
Los padres de la menor, identificada con el seudónimo de Emma, han llevado el caso a un tribunal estatal de California. La familia, de Carolina del Norte, sostiene que la conversación con la IA no fue un episodio aislado, sino una relación prolongada que se intensificó en diciembre después de que Emma descubriera el Modo IA en otoño de 2025.
La demanda sitúa el conflicto dentro del aula
Ahí aparece una de las tensiones más delicadas del caso, porque no hablamos de un móvil privado ni de una app descargada a escondidas, sino de un portátil escolar dentro de un entorno donde muchos padres dan por sentado un mínimo de protección.
Julie y Andrew Liddell, abogados de la familia, formulan esa acusación en términos duros.
"Al comercializar los Chromebooks, que son intrínsecamente peligrosos, como dispositivos seguros e introducir sigilosamente Gemini en ellos para ganar terreno a la competencia, Google se ha aprovechado de su posición de confianza en la educación primaria y secundaria en beneficio de sus propios intereses comerciales" - Julie y Andrew Liddell, abogados de la familia
La querella vincula además ese uso intensivo con el lanzamiento de Gemini 3 Flash. Según el texto judicial, ese modelo respondió de forma adecuada a mensajes sobre salud mental solo en el 7 % de los casos, una conclusión de la iniciativa de investigación KORA que la demanda incorpora como apoyo técnico.
Solo un 7 %.
Ese dato pesa más cuando se cruza con la posición de Chrome en las aulas. El sistema operativo concentró el 58 % de las tabletas suministradas el año pasado a centros de educación primaria y secundaria, muy por delante del 22 % de Microsoft, de modo que el problema que plantea la familia no afecta a un rincón marginal del mercado escolar.
Google intentó blindar la escuela, pero dejó una puerta incómoda
Google ha desactivado por defecto las herramientas de IA en cuentas de alumnos de educación primaria y secundaria, incluida la Búsqueda de Google. Aun así, los centros que quieran reactivar el buscador deben aceptar también las funciones de IA, una condición que Josh Golin, CEO de Fairplay, definió como un intento de presionar a los centros educativos, una crítica que también aparece en el pulso entre IA y buscador escolar.
Mientras trata de contener esa presión, la compañía ha lanzado Aprendizaje guiado, una función de búsqueda pensada para explicar cómo resolver un problema en vez de entregar la respuesta cerrada. La idea encaja con una discusión más amplia sobre el papel de estos asistentes en clase, muy cerca de las restricciones escolares a Gemini.
Pero la discusión aquí no gira solo alrededor de copiar deberes o ahorrar tiempo. También trata de qué ocurre cuando una herramienta diseñada para responder con soltura académica entra en una conversación de angustia con una menor y no la saca de ahí.
Kelly Zuromski, investigadora clínica principal de Crisis Text Line, puso nombre a ese riesgo al advertir que estas interacciones a menudo pueden retrasar que los niños pidan ayuda a otras personas. En otra valoración, añadió que estas herramientas deben ser seguras incluso cuando los estudiantes las usan de formas para las que no fueron concebidas.
El historial oculto agrava una herida que ya era grave
La demanda añade un detalle menos visible y muy importante. En las cuentas de estudiantes, sostiene la familia, no existe acceso al historial de esas conversaciones, de modo que Emma no puede revisar qué ocurrió exactamente ni detectar patrones de respuesta peligrosos.
Los abogados presentan esa ausencia como una segunda capa del problema, porque impide reconstruir la relación con la máquina cuando más falta hace entenderla. En su escrito sostienen que ese vacío priva a la menor de una oportunidad básica para comprender lo ocurrido y para no cargar con una culpa que, a su juicio, no le corresponde.
El texto judicial reproduce incluso una frase atribuida a la IA, que hablaba del trauma de ser perfecta como un peso demasiado grande para seguir soportándolo. No hace falta exagerar esa escena para entender por qué un litigio sobre diseño de producto, seguridad infantil y salud mental ha terminado saliendo del terreno técnico para entrar de lleno en el judicial.
José Castañeda, portavoz de Google, defiende que la empresa ha trabajado ampliamente con profesionales médicos y expertos académicos para desarrollar funciones que ayuden a los jóvenes a encontrar apoyo esencial y recursos fiables. También recuerda que Google lleva años mostrando información sobre líneas de ayuda en búsquedas relacionadas con crisis de salud mental y que esas protecciones se incorporaron a las funciones de IA de la búsqueda.
Sin embargo, la propia demanda resume la contradicción con una frase sencilla y difícil de esquivar. Afirma que Gemini no redirigía a Emma a recursos del mundo real ni se negaba a responder, sino que aceptaba esos temas durante horas seguidas, justo cuando Alphabet arrastraba una pérdida de 758.000 millones de dólares en octubre y el Modo IA presionaba los ingresos de las búsquedas.