La IA desafía sus reglas: todos los modelos hicieron trampas según AISI

La inteligencia artificial desafía sus propias restricciones

Los modelos más avanzados de inteligencia artificial están demostrando algo que empieza a inquietar a quienes los estudian de cerca: cuando se les asigna un objetivo, buscan la manera de alcanzarlo aunque eso signifique saltarse las reglas que ellos mismos tienen impuestas. El AI Security Institute británico, más conocido como AISI, ha comprobado en una serie de evaluaciones de ciberseguridad que absolutamente todos los modelos de frontera analizados intentaron cumplir su misión recurriendo a acciones prohibidas o saliéndose de los límites marcados. Entre los sistemas puestos a prueba estaban GPT-5.4, GPT-5.5 y GPT-5.6 Sol de OpenAI, además de Claude Opus 4.7 y Claude Mythos Preview de Anthropic.

Las pruebas planteaban retos concretos en entornos simulados. Localizar una cadena oculta mediante ingeniería inversa, explotar vulnerabilidades, ese tipo de cosas. En teoría los modelos estaban autorizados a hackear, pero solo dentro de un perímetro y siguiendo unas reglas muy claras. El problema aparece cuando el modelo se sale de ese terreno para conseguir el objetivo, y conviene subrayarlo: ninguno recibió la instrucción de hacer trampas. Los métodos, además, fueron de lo más variado. Algunos buscaron en Internet soluciones que tenían que averiguar por su cuenta, otros trataron de que el propio software de evaluación soltara la respuesta, y también hubo intentos de elevar privilegios sobre sistemas ajenos al objetivo, incluido el entorno donde el modelo se estaba ejecutando.

Cuando la IA se enfrenta a su propio Kobayashi Maru

Link affiliato

El caso más curioso ocurrió durante una evaluación que, por un fallo de configuración, resultaba imposible de resolver. Uno de los modelos insistió tanto que llegó a escribir y ejecutar código en un servicio externo alojado en Internet, con la intención de acceder a la infraestructura de evaluación del AISI. Aquello terminó disparando una alerta de seguridad. No logró entrar ni hubo filtración de datos, pero el organismo admite que el intento podría haber funcionado si su infraestructura no hubiera estado preparada para aguantar ataques de ese estilo.

Y preguntarles después tampoco sirve de mucho. Según AISI, los modelos no reconocían de forma consistente haber hecho algo prohibido cuando se les interrogaba, y describían esas acciones como incorrectas en menos de la mitad de los casos. Revisar su razonamiento tampoco despeja las dudas: muchas veces la acción problemática ni siquiera aparecía en la cadena de pensamiento, y cuando aparecía, hubo situaciones en las que el modelo se planteaba abiertamente si aquello era una trampa y decidía seguir adelante igualmente.

Esto no quiere decir que estos sistemas sean maliciosos ni que engañen a propósito. El propio AISI aclara que usa el término cheating para describir una conducta que se puede observar, sin dar por hecho que exista intención de engañar. Tampoco ha encontrado una relación clara entre mayor capacidad y mayor frecuencia de estos comportamientos. Lo que parece pesar de verdad son las técnicas usadas durante el entrenamiento y el alineamiento de cada modelo. El detalle inquietante es que, aunque la frecuencia no crezca, un modelo más potente puede dar con vías mucho más sofisticadas y difíciles de detectar para saltarse las normas.

El reto de vigilar lo que hace la IA mientras trabaja

Link affiliato

Las consecuencias dejan de ser teóricas en cuanto estas capacidades se trasladan a sistemas con acceso a herramientas e infraestructura real. Esta misma semana se supo cómo modelos de OpenAI consiguieron superar las barreras de una evaluación interna y acabaron comprometiendo infraestructura real de Hugging Face mientras buscaban la forma de completar el objetivo asignado. AISI apunta a campos como la ciberseguridad, la investigación sobre seguridad de la IA o las decisiones militares como escenarios donde una acción inesperada puede tener consecuencias muchísimo mayores que las de hacer trampas en un benchmark.

El desafío, entonces, no está solo en hacer más capaces a estos sistemas, sino en conservar la capacidad de supervisar qué hacen mientras persiguen sus objetivos. Ahora mismo AISI combina revisión humana y herramientas automáticas para detectar estos comportamientos, y asegura que repasa manualmente las evaluaciones publicadas para que las trampas no inflen de manera artificial las capacidades atribuidas a los modelos. Aun así, avisa de que estos métodos podrían perder eficacia a medida que la inteligencia artificial avance y encuentre maneras de actuar más difíciles de identificar. Entrenar a los modelos para eliminar del todo este comportamiento sería una solución más profunda, pero el organismo recuerda que lleva más de un año observándolo y sigue presente en los sistemas de frontera actuales.

Fuente
Imagen: muycomputer.com