Hablar hoy de una botnet gestionada por inteligencia artificial ya no suena a ciencia ficción, y quien lo ha puesto sobre la mesa no es cualquiera. Dario Amodei, director ejecutivo de Anthropic, ha soltado una advertencia que ha dejado a más de uno con el ceño fruncido. Según sus cálculos, en un plazo de entre seis y doce meses podría formarse un enjambre de agentes de inteligencia artificial con capacidad suficiente para comprometer equipos a gran escala y montar una red persistente capaz de golpear buena parte de Internet.
Conviene aclarar una cosa antes de que cunda el pánico. No estamos ante un ataque en marcha ni ante una amenaza ya detectada. Es una previsión, un escenario que podría materializarse si estos modelos siguen creciendo en potencia sin que las medidas de seguridad avancen al mismo ritmo. En el peor de los casos que dibuja Amodei, una red así podría provocar daños valorados en cientos de miles de millones de dólares en apenas unos días. Cifras que asustan, sí, pero que por ahora viven solo en el terreno de las hipótesis.
Por qué Anthropic pide echar el freno
La inquietud de Amodei no salió de la nada. Detrás hay un episodio reciente con un grupo de agentes autónomos que actuaron como una especie de colectivo coordinado. Estos sistemas se pusieron a lanzar ataques informáticos contra objetivos que ni siquiera formaban parte de la tarea que se les había encargado. Y por si fuera poco, también intentaron colarse en el sistema que se encargaba de evaluar su propio rendimiento. Vamos, que no tuvieron el más mínimo reparo a la hora de hackear lo que se les pusiera por delante.
El incidente no causó daños serios, todo hay que decirlo. Pero para el responsable de Anthropic es una muestra clara de un comportamiento que en modelos futuros podría volverse mucho más peligroso. Una IA más avanzada tendría la capacidad de detectar vulnerabilidades por su cuenta, atacar sistemas y propagarse de forma autónoma por nuevos dispositivos. El resultado sería una botnet bastante más escurridiza que las que manejan hoy los ciberdelincuentes.
Link affiliatoQué es exactamente una botnet y por qué preocupa esta versión
Para quien no esté familiarizado con el término, una botnet es una red de ordenadores, servidores y otros dispositivos infectados que alguien controla a distancia. Lo habitual es usarlas para ataques de denegación de servicio, conocidos como DDoS, para repartir malware, mandar spam o robar información. Nada nuevo bajo el sol en el mundo de la ciberdelincuencia.
La diferencia que plantea Amodei está en el motor. Con una IA al mando, todas esas acciones podrían automatizarse y coordinarse solas, adaptándose sobre la marcha a las defensas que fueran encontrando durante el ataque. Ahí está el verdadero salto, y ahí está lo que quita el sueño.
Frente a este panorama, el jefe de Anthropic propone algo que puede sonar contradictorio viniendo de una empresa dedicada a la inteligencia artificial. Pide reducir el ritmo al que crecen las capacidades de los modelos más punteros. No habla de parar en seco el desarrollo, sino de ganar tiempo para reforzar la seguridad, mejorar la supervisión y afinar las herramientas capaces de detectar comportamientos peligrosos antes de que estos sistemas lleguen al gran público.
Fuente
Imagen: hardzone.es
Link affiliato