Demis Hassabis, uno de los nombres que mejor conoce el terreno donde se juega el futuro de la inteligencia artificial, ha lanzado una advertencia que conviene tomarse en serio: avanzamos mucho más rápido de lo que somos capaces de entender. Y no lo dice alguien ajeno al sector, sino el consejero delegado de Google DeepMind, premio Nobel de Química en 2024 y una de las figuras que empujan el desarrollo de los sistemas más avanzados que existen hoy.
Basta con echar un vistazo a antes de noviembre de 2022 para notar el cambio. La IA ya estaba en buscadores, cámaras y recomendaciones, sí, pero no era todavía la etiqueta que las marcas intentan colocar en cada producto. Menos de cuatro años después cuesta encontrar un gran fabricante que no haya reorganizado parte de su estrategia alrededor de ella. Y para entender la magnitud de esta carrera basta mirar hacia dónde fluye el dinero: chips, servidores y centros de datos repartidos por medio mundo, además de la energía necesaria para mantenerlos encendidos. Los gobiernos tampoco miran desde la barrera. Estados Unidos y China apoyan el desarrollo de infraestructura como parte de una competencia que es económica y estratégica a la vez.
La voz de quien construye la tecnología y pide frenarla
Bajo la dirección de Hassabis nacieron proyectos como AlphaGo, que derrotó a un campeón mundial de Go, y AlphaFold, capaz de predecir estructuras de proteínas. Ese trabajo le valió compartir el Nobel con John Jumper. Sus palabras pesan justamente por esa doble condición: ayuda a levantar esta tecnología y, al mismo tiempo, reclama mecanismos para contener sus riesgos.
Parte de su preocupación arranca de una convicción concreta. Cree que la inteligencia artificial general, la AGI, un sistema capaz de exhibir todas las capacidades cognitivas del cerebro humano, podría llegar en apenas unos años. No lo presenta como certeza, sino como una posibilidad cercana que obligaría a prepararse antes de tiempo. Su inquietud abarca ciberseguridad, riesgos biológicos y nucleares y, más adelante, sistemas cada vez más autónomos, capaces de mejorar sus propias capacidades con menor supervisión.
Link affiliatoEn un extenso texto publicado en X lo resume así: “Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, y ni siquiera los expertos están de acuerdo”. Añade que estamos atrapados en una carrera comercial y geopolítica muy intensa, donde el progreso está superando nuestra comprensión de la tecnología.
Un organismo para evaluar los modelos más avanzados
La solución que plantea pasa por crear en Estados Unidos un organismo especializado en evaluar los modelos de frontera. Tendría forma de asociación público-privada o entidad autorregulada con supervisión federal, dirigida por una junta con especialistas independientes y representantes del código abierto. Esa institución definiría qué umbrales convierten a un sistema en modelo de frontera y diseñaría pruebas sobre ciberseguridad, amenazas biológicas y otros ámbitos delicados, incluyendo controles para detectar intentos de esquivar salvaguardas o señales de engaño.
En una primera etapa, los laboratorios compartirían sus modelos de forma voluntaria hasta 30 días antes de lanzarlos. Después, esa cooperación podría volverse obligatoria: ningún modelo de frontera llegaría al mercado estadounidense sin aprobar la evaluación. Y el planteamiento llega más lejos todavía. Si la gravedad de los riesgos lo justificara, el marco serviría para coordinar una ralentización del desarrollo entre los principales laboratorios.
La inquietud no es solo suya. Geoffrey Hinton ha admitido que no sabemos si podremos conservar el control de sistemas más inteligentes que nosotros, y Yoshua Bengio pide más investigación y mecanismos específicos de supervisión. En 2023 Elon Musk firmó una carta abierta que reclamaba pausar seis meses el entrenamiento de sistemas más potentes que GPT-4, aunque poco después lanzó xAI y se metió de lleno en la competición. Muchos coinciden en pedir cautela, pero no hay consenso sobre la probabilidad real de perder el control. Por ahora la propuesta de Hassabis añade una hoja de ruta concreta a una discusión donde todavía pesan más las incógnitas que las certezas.
Link affiliatoFuente
Imagen: xataka.com