La IA para menores integrada en Google Search se ha convertido en algo casi imposible de esquivar, y ahí está buena parte del problema. Cuando un niño abre el buscador para hacer los deberes o resolver una duda en clase, se topa con respuestas generadas por inteligencia artificial sin haberlas pedido. Un informe reciente de Common Sense Media lo dice sin rodeos: funciones como AI Overviews y AI Mode suponen un riesgo que califican de inaceptable para niños y adolescentes. No solo por los errores que cometen, sino porque ni las familias ni los colegios tienen forma de apagar estas funciones sin renunciar al mismo tiempo a Search.
La cifra que sostiene el análisis no es menor. Se realizaron más de 2.600 búsquedas durante seis semanas, usando cuentas configuradas con SafeSearch para perfiles de 11 y 15 años. Los investigadores pusieron a prueba las respuestas en escenarios de aprendizaje, fiabilidad, salud mental y otras situaciones delicadas, además de revisar unas 2.100 fuentes citadas por el sistema. El resultado fue el peor posible: Search suspendió en siete de los ocho principios de seguridad del instituto y falló en todas las líneas rojas de daños graves que se evaluaron.
Qué responde Google y por qué no convence del todo
Google, como era de esperar, ha rechazado estas conclusiones. Argumenta que el estudio se apoya en un puñado de consultas ambiguas y artificiales que no reflejan cómo se usa el buscador en el día a día. También recuerda que Search incorpora sus propias barreras de seguridad y que quien gestiona una cuenta infantil puede bloquear el servicio por completo. Hay que reconocer que la metodología tiene sus matices: las pruebas se hicieron con cuentas personales configuradas para menores, no dentro de despliegues reales de Workspace for Education. Ahí conviene cierta prudencia.
Pero el fondo del asunto sigue sin resolverse. La única alternativa que ofrece la compañía es tragar con toda la experiencia generativa o retirar Google Search del todo. No hay término medio. Y eso choca con lo que un profesor haría de forma razonable: incorporar la IA a una actividad concreta, explicar sus límites y pedir al alumno que contraste lo que lee. AI Overviews aparece automáticamente encima de los resultados normales, mientras AI Mode empuja a convertir la búsqueda en una charla con Gemini. El estudiante entra buscando fuentes y sale con una respuesta ya masticada por un modelo, sin haber decidido usar una herramienta generativa.
Link affiliatoDeberes hechos, datos que cambian y consejos peligrosos
El impacto sobre el aprendizaje es lo que más inquieta. Durante la evaluación, AI Mode completó de principio a fin las 180 tareas escolares planteadas, ejercicios de matemáticas y redacciones incluidas. El alumno recibe el resultado terminado antes de recorrer el proceso mental que la actividad pretendía trabajar. Y la fiabilidad tampoco ayuda: al repetir las mismas preguntas de historia, el contenido cambió de forma notable en el 43% de los casos. En otra prueba, AI Overviews aceptó una premisa falsa e inventó una sentencia del Tribunal Supremo de Estados Unidos, con demandado inexistente incluido. Del total de referencias revisadas, el 29% venía de redes sociales, foros y páginas creadas por usuarios, aunque la interfaz las mostraba con el aspecto de una investigación académica.
Los fallos más serios llegaron con las consultas sobre salud mental y seguridad. AI Overviews detectó señales claras de angustia en apenas el 58% de las pruebas y respondió mal ante indicios de ideación suicida, trastornos alimentarios o episodios de manía. En algún caso llegó a validar conductas peligrosas y recomendó una línea de ayuda contra los trastornos alimentarios que estaba desconectada desde 2023. La posición del buscador agrava todo esto, porque está en los teléfonos, navegadores y ordenadores que los estudiantes usan a diario. Common Sense Media calcula que el 75% de los estadounidenses de entre 9 y 17 años ya ha interactuado con resúmenes de IA en buscadores, así que la exposición no es ninguna anécdota. Google debería ofrecer experiencias adaptadas a la edad y permitir apagar AI Overviews y AI Mode sin renunciar al buscador de siempre.
Fuente
Imagen: muycomputer.com