NVIDIA Nemotron 3.5 Lightning es la nueva apuesta del gigante verde por la inteligencia artificial de código abierto, y llega con una promesa clara: un modelo gratuito que cualquiera puede descargar, ejecutar en local y modificar según sus necesidades. La compañía lo define como open weight, algo que en la práctica significa que sus componentes clave están publicados de forma abierta. No es solo cuestión de acceso, es cuestión de control real sobre cómo y dónde funciona la tecnología.
Con este lanzamiento, NVIDIA se coloca en una posición cómoda dentro del terreno de la IA de código abierto. Y hay un motivo de peso. Nemotron 3.5 Lightning está considerado el modelo más eficiente de su clase para ejecutar cargas de trabajo de IA agéntica. Viene acompañado además de una herramienta bautizada como NeMo Switchyard, una biblioteca abierta de enrutamiento inteligente que ya está integrada en plataformas muy conocidas del sector.
Qué hace especial a NVIDIA Nemotron 3.5 Lightning
La idea detrás de NeMo Switchyard es sencilla de entender aunque suene técnica. Permite crear un enrutador adaptado a cada caso concreto, capaz de dirigir cada petición al modelo que considere más adecuado. Puede elegir entre modelos propietarios, de NVIDIA o de código abierto de otras marcas, sin obligar a nadie a reescribir sus aplicaciones. Esa flexibilidad es precisamente lo que le da valor.
Cuando trabajan juntos, Nemotron 3.5 Lightning y Switchyard ofrecen más control sobre dónde se ejecuta la IA y con qué eficiencia lo hace, ya sea en un PC, una estación de trabajo, un centro de datos o la nube. Lo interesante es que todo esto puede correr en un ordenador doméstico, siempre que tenga la potencia suficiente.
Link affiliatoHablamos de un modelo pequeño y especializado, pensado para tareas concretas como la revisión de código, el uso de herramientas, la monitorización de alertas de seguridad o la respuesta a preguntas sobre facturación. Es totalmente personalizable y está diseñado para volúmenes altos de trabajo que mantienen agentes siempre activos. Su desarrollo contó con aportaciones de la Coalición Nemotron, que proporcionó metodologías de evaluación, software de inferencia y conjuntos de datos.
En cuanto a rendimiento, la velocidad de respuesta llega a ser hasta cuatro veces superior frente a otros modelos, lo que se traduce en tareas completadas un 30 % más rápido comparado con rivales de su nivel. Parte de un concepto de mixture of experts de 30 mil millones de parámetros, es decir, un modelo que reparte el trabajo entre varios submodelos especializados en lugar de depender de una única estructura monolítica. Funciona sin problemas en PCs con tarjeta gráfica GeForce RTX, equipos NVIDIA DGX Spark, DGX Station e incluso sobre NVIDIA Jetson.
Los números detrás de NeMo Switchyard
Los resultados de las primeras integraciones dan una idea bastante clara del potencial. Boomi evaluó Switchyard en cinco capacidades de enrutamiento y alcanzó una precisión del 100 % en dominios, enviando el 59 % del tráfico a un modelo cinco veces más rápido y recortando la latencia en un 21 %. Cadence mejoró su eficiencia en un 9,9 % con el ChipStack AI Super Agent en un caso de verificación formal. Classmethod ejecuta cargas de OpenCode y Fireworks con Switchyard y sus pruebas apuntan a una reducción de costes del 27 % sin perder calidad.
La lista sigue. Cognition integró el enrutador por etapas en Devin Desktop para uso interno de NVIDIA y logró rebajar el coste medio un 28 %. Kong ofrece enrutamiento nativo a través de su AI Gateway. LangChain consiguió una reducción del 74 % en el coste en 145 tareas de Deep Agents de múltiples turnos, enrutando solo el 7 % de las llamadas a un modelo de vanguardia con una pérdida de precisión del 6 %. LiteLLM lo está incorporando como complemento a su capa de proxy, mientras que Nous Research lo integró en Hermes. Ramp, por su parte, igualó el rendimiento de un modelo puntero reduciendo los costes en un 58 %.
Link affiliatoCon estos datos sobre la mesa, el mensaje que deja NVIDIA es evidente. El camino de la IA agéntica pasa por modelos abiertos, gratuitos, especializados y con enrutado inteligente para exprimir al máximo cada carga de trabajo.
Fuente
Imagen: muycomputer.com