Cuando la inteligencia artificial se equivoca, seguimos confiando ciegamente en ella
Cada vez cuesta más pronunciar esas tres palabras que deberían salir con naturalidad: “no lo sé”. Reconocer que no se tiene una respuesta es uno de los gestos más honestos que existen, pero con la llegada de la inteligencia artificial y con toda la información al alcance de un clic, ese hábito parece estar desapareciendo de nuestras conversaciones. Y ahora hay datos que lo confirman.
Un grupo de investigadores de distintas universidades de París, Roma y Milán reunió a 3.100 participantes para poner cifras sobre la mesa. La conclusión resulta inquietante: tener acceso a un asistente de IA, aunque este ofrezca respuestas equivocadas, empuja a la gente a dejar de reconocer los límites de su propio conocimiento. Los autores del trabajo, firmado por Chiara Marcoccia, Walter Quattrociocchi y Valerio Capraro, lo llaman suspensión del juicio, esa capacidad de frenar antes de contestar cuando no se tiene certeza.
Un experimento diseñado para hacer fallar a la máquina
El equipo montó las preguntas a propósito para que fueran casi imposibles de acertar. Detalles visuales muy concretos de películas, como el color de la equipación en ‘Quiero ser como Beckham’ o el vehículo que conduce un personaje en ‘Como el gato y el ratón’. Datos tan específicos que apenas aparecen en internet, de modo que el modelo utilizado, Step 3.5 Flash, fallaba prácticamente siempre.
Link affiliatoLos participantes podían consultar a la IA si querían, pero también tenían la opción de dejar la pregunta en blanco o admitir que no sabían la respuesta. Ahí aparece lo interesante. En el grupo sin asistente, un 44% reconoció no saber la respuesta cuando tocaba. Entre quienes podían pedir ayuda, ese porcentaje se hundió hasta el 3%. Y las respuestas correctas también cayeron, del 27% al 9%. Contestaron más, sí, pero acertaron mucho menos.
Más equivocados y, aun así, más seguros
Lo más llamativo del estudio es que, pese a fallar más, los participantes se sintieron más seguros. Su confianza en las respuestas pasó del 30% al 76%, casi el doble. Los investigadores sospecharon que meter dinero de por medio, premiando los aciertos y penalizando los errores, corregiría la cosa. Ayudó, pero poco. La disposición a admitir que no sabían subió del 3% al 8%, y los aciertos del 9% al 16%. El tirón hacia confiar en la máquina resultó casi independiente del incentivo económico.
Capraro, coautor del trabajo, explicaba que la gente “se volvió mucho peor” en su desempeño, con una precisión de solo un tercio respecto al grupo sin ayuda, pero terminó “el doble de confiada”. Para él, decir “no lo sé” no es otra cosa que el reconocimiento de los límites del propio conocimiento. Y lo que más le preocupa es la infancia. Los adultos ya llegaron con un pensamiento crítico formado, pero los niños que crecen usando estas herramientas desde el principio corren el riesgo de no desarrollar nunca esa capacidad básica de cuestionar una respuesta.
Fuente
Imagen: xataka.com
Link affiliato