Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Una búsqueda con apariencia inocente puede acabar en una ayuda equivocada, una tarea hecha por la máquina o una sentencia judicial que nunca existió. Ese es el retrato que dibuja Common Sense Media tras evaluar cómo responden AI Overviews y AI Mode cuando quien pregunta no es un adulto, sino un menor de 11 o 15 años.
Durante seis semanas, la organización lanzó 2.600 búsquedas con cuentas personales configuradas con SafeSearch para esas edades y revisó 2.100 fuentes citadas por el sistema. El resultado fue que Google Search incumplió siete de sus ocho principios de seguridad y falló también en todas las líneas rojas de daños graves que formaban parte de la evaluación.
Google llevó la conversación al buscador y el riesgo subió con ella
AI Overviews aparece automáticamente por encima de los resultados tradicionales, mientras AI Mode invita a convertir la búsqueda en una conversación con Gemini. El cambio no es menor, porque ya no hace falta entrar en una página para recibir una respuesta cerrada.
Common Sense Media considera que ese diseño plantea un riesgo inaceptable para niños y adolescentes.
La preocupación no nace solo del tono de las respuestas, sino también de aquello que las sostiene. El 29% de las 2.100 referencias examinadas procedía de redes sociales, foros y páginas creadas por usuarios, un tipo de material que ya ha ganado peso en las fuentes citadas por las IA.
La máquina hizo deberes completos y ni siquiera respondió siempre igual
AI Mode completó íntegramente 180 tareas escolares durante la evaluación, desde ejercicios matemáticos hasta redacciones. Para cualquier docente, ahí aparece una tensión conocida, porque la herramienta no solo ayuda a buscar, también puede reemplazar el trabajo que debía hacer el alumno.
Más inquietante aún fue la inestabilidad de algunas respuestas.
Al repetir las mismas preguntas de historia, el contenido cambió de forma sustancial en el 43% de los casos. Cuando una misma consulta ofrece versiones distintas, el problema deja de ser solo acertar o fallar y pasa a afectar a algo más básico, que el estudiante sepa cuál de esas respuestas debería aprender.
Los fallos más delicados aparecieron en salud mental y en información falsa
En las pruebas sobre salud mental y seguridad, AI Overviews identificó señales claras de angustia en el 58% de los casos. Eso deja fuera casi la mitad de los escenarios revisados, justo en un terreno donde una omisión importa tanto como una respuesta incorrecta.
Tampoco todas las recomendaciones resistieron una comprobación mínima.
El sistema llegó a recomendar una línea de ayuda contra los trastornos alimentarios que estaba desconectada desde 2023. Y en otra prueba, AI Overviews aceptó una premisa falsa e inventó una sentencia del Tribunal Supremo de Estados Unidos con un demandado inexistente, una clase de error que encaja con otras respuestas problemáticas de Gemini cuando el sistema ofrece seguridad donde no la hay.
Google rechaza el método, pero las pruebas no se hicieron en un aula cerrada
Google sostiene que el estudio parte de un conjunto limitado de consultas ambiguas y artificiales que no representa el uso habitual del buscador. La empresa añade además que las pruebas no se hicieron dentro de despliegues reales de Workspace for Education, sino con cuentas personales configuradas para menores.
Ese matiz importa, aunque no cambia otra cifra de fondo.
Common Sense Media calcula que el 75% de los estadounidenses de entre 9 y 17 años ya ha interactuado con resúmenes de inteligencia artificial en buscadores. Si tres de cada cuatro menores ya se cruzan con esas respuestas y una parte de ellas puede variar, inventar o desviar a recursos caídos, el problema no queda en el laboratorio, entra directamente en la rutina diaria de buscar, estudiar y pedir ayuda.