NVIDIA Nemotron 3.5 Super VL en Amazon SageMaker: Cómo procesar 1 millón de tokens visuales sin duplicar la factura de computación

Despliegue visual sin intermediarios: Por qué la llegada de Nemotron 3.5 Super VL a AWS cambia la automatización operativa

Durante los dos últimos años, las empresas que intentaron automatizar la lectura de facturas complejas, auditorías de interfaces web o análisis de diagramas técnicos tropezaron con un dilema costoso: pagar tarifas millonarias por llamadas a modelos cerrados en la nube ajena o montar una cadena frágil de herramientas que dividía el trabajo entre un software de reconocimiento de caracteres (OCR) y un modelo de lenguaje convencional. Esa fragmentación no solo aumentaba los fallos en cascada, sino que disparaba los tiempos de espera hasta hacer inviable la toma de decisiones en tiempo real.

La integración de NVIDIA Nemotron 3.5 Super VL en el catálogo de Amazon SageMaker JumpStart marca un punto de inflexión operativo. No se trata simplemente de un modelo más en una lista de proveedores; representa la disponibilidad inmediata de un sistema multimodal de pesos abiertos con 120.000 millones de parámetros totales (120B) que opera bajo una arquitectura de mezcla híbrida de expertos (MoE). Esta estructura permite que cada ficha o elemento procesado active únicamente 12.000 millones de parámetros (12B), combinando la comprensión profunda de un modelo gigante con el consumo de recursos de uno mediano.

El modelo acepta imágenes, secuencias de vídeo completas y texto sin necesidad de preprocesamiento externo. Capaz de sostener ventanas de contexto de hasta 1 millón de tokens, permite cargar manuales de ingeniería enteros, vídeos de seguridad de plantas industriales o historiales de facturación con cientos de hojas en una única consulta. Además, incorpora un cabezal de predicción de múltiples tokens (MTP) que acelera la velocidad de generación de respuestas entre tres y cinco veces frente a los modelos visuales estándar, permitiendo que los agentes autónomos razonen paso a paso y ejecuten herramientas sin bloquear las operaciones del negocio.

---

De 120.000 millones a 12.000 millones de parámetros activos: Comparativa de rendimiento, precisión y coste por millón de tokens

El problema habitual de los modelos de visión de gran escala es el gasto en computación. Mantener encendida una flota de procesadores gráficos (GPU) de gama alta para tareas rutinarias de oficina genera facturas mensuales insostenibles. Nemotron 3.5 Super VL aborda esta barrera mediante dos versiones en SageMaker JumpStart: una variante optimizada en precisión NVFP4 de 4 bits diseñada para instancias G7 con aceleradores NVIDIA RTX PRO 4500 Blackwell Server Edition, y una versión completa en precisión BF16 para instancias ml.p5en.48xlarge pensada para entrenamiento supervisado (SFT), destilación y refuerzo algorítmico (RL).

A continuación se detalla cómo se posiciona esta arquitectura frente a las opciones convencionales del mercado de inferencia en la nube:

Parámetro evaluado	API propietaria cerrada (Estilo GPT-4o / Claude 3.5 Sonnet)	Modelo abierto monolítico (Llama 3.2 90B Vision)	NVIDIA Nemotron 3.5 Super VL (En SageMaker)
Parámetros totales / Activos	Confidencial (Estimado >200B densos)	90.000M densos (90B activos constantes)	120.000M totales / 12.000M activos (MoE)
Ventana de contexto visual	128.000 – 200.000 tokens	128.000 tokens	Hasta 1.000.000 tokens
Velocidad de generación (Tokens/seg)	60 – 90 tokens/seg	40 – 70 tokens/seg	220 – 600+ tokens/seg (Con MTP activo)
Cuantización nativa de inferencia	Gestión opaca del proveedor	FP8 / INT4 en entornos personalizados	NVFP4 nativo para chips Blackwell
Control de pesos y ajuste fino	No disponible (Solo fine-tuning superficial)	Completo (Requiere gran clúster de VRAM)	Completo en JumpStart (BF16 para SFT y GRPO)
Coste estimado por millón de tokens	5,00 – 15,00 USD (Entrada/Salida combinada)	2,80 – 4,50 USD (En clúster dedicado)	0,90 – 1,80 USD (Estimación en instancia G7 NVFP4)

El ajuste posterior del modelo se realizó combinando un entrenamiento multimodal supervisado sobre capturas de interfaces de usuario (GUI), esquemas técnicos y tablas complejas con optimización por políticas proximales de grupo (GRPO). Gracias a ello, el modelo no alucina estructuras al devolver respuestas: genera esquemas JSON estrictos y ejecuta llamadas a código sin romper las tuberías de software de la empresa.

---

Tres impactos directos en el balance empresarial: Reducción de costes operativos, latencia de respuesta y blindaje de datos

La integración en JumpStart elimina la necesidad de compilar contenedores a mano o configurar balanceadores de carga complejos. Al desplegar el modelo en la infraestructura de AWS existente, los equipos técnicos observan tres cambios inmediatos en el día a día del negocio.

Recorte del coste operativo (OPEX) mediante arquitectura MoE y formato NVFP4

En los despliegues de inteligencia artificial para oficinas, mantener servidores con cuatro u ocho tarjetas gráficas A100 o H100 encendidas todo el día representaba una sangría de capital. La variante NVFP4 de Nemotron 3.5 Super VL comprime el espacio en memoria sin sacrificar la agudeza perceptiva en gráficos y textos pequeños.

Al activar únicamente 12.000 millones de parámetros por cada paso de cálculo, la carga térmica y de memoria cae de forma drástica. Esto permite que una sola instancia moderna de la familia G7 aloje el modelo para atender flujos constantes de trabajo. En escenarios con volúmenes superiores a 100.000 documentos mensuales, las empresas pueden recortar entre un 50% y un 65% del gasto directo en computación frente al uso de modelos densos convencionales o servicios de facturación por llamada de API externa.

Despliegue de agentes en tiempo real: Inferencia acelerada con predicción multitoken

Los agentes autónomos que leen pantallas o interactúan con software empresarial suelen quedarse congelados mientras razonan. Si un agente tarda 15 segundos en interpretar una captura de pantalla antes de hacer clic en un botón de un ERP, la automatización pierde sentido frente a un operador humano.

Nemotron 3.5 Super VL incorpora el mecanismo Multi-Token Prediction (MTP). En lugar de calcular una sola palabra a la vez como un reloj tradicional, el sistema predice bloques de tokens de forma paralela mediante decodificación especulativa. El resultado práctico es una velocidad de respuesta que supera los 400 tokens por segundo en entornos optimizados. Esta fluidez desbloquea casos de uso de inspección de vídeo en vivo, control de calidad visual en almacenes y atención al cliente con análisis simultáneo de capturas de error enviadas por el usuario.

Soberanía de datos y fiabilidad de ejecución frente a las API cerradas

Enviar contratos confidenciales, informes médicos escaneados o esquemas de circuitos industriales a través de terminales de red de terceros acarrea riesgos legales y de cumplimiento normativo insalvables para bancos y empresas sanitarias. Al levantar el modelo dentro de la propia nube privada virtual (VPC) de AWS a través de SageMaker JumpStart, ningún dato abandona el perímetro de seguridad corporativo.

Adicionalmente, el modelo responde de manera predecible a diez idiomas principales (incluyendo español, inglés, francés, alemán, japonés y coreano) y genera salidas en JSON puro sin notas explicativas no solicitadas. Esto elimina los errores de análisis que solían detener los programas de facturación automática cuando el modelo añadía frases de cortesía antes del código.

---

El nuevo ecosistema de modelos visuales: Cómo absorbe la industria el salto frente a alternativas cerradas

El mercado de visión artificial se ha polarizado entre dos extremos: modelos gigantes accesibles solo por suscripción mensual que no admiten personalización y modelos pequeños de código abierto incapaces de leer gráficos con tipografías diminutas. La irrupción de la familia Nemotron 3.5 cambia las reglas del juego al situar pesos abiertos a un nivel de precisión equiparable al de modelos insignia, pero con libertad total de ajuste.

Para las organizaciones que orquestan flujos de automatización compleja, la posibilidad de entrenar modelos específicos mediante refuerzo algorítmico (GRPO) sobre sus propios diagramas o registros internos abre ventajas competitivas reales. En lugar de depender de que un proveedor externo actualice su servicio, los equipos de datos pueden tomar la versión BF16 en SageMaker, aplicar sus manuales de operaciones y destilar el conocimiento en variantes más pequeñas para sucursales o dispositivos en el borde físico del negocio. Para tareas de cálculo rápido y prototipado sin infraestructura fija, algunos equipos alternan estas pruebas de inferencia con plataformas de contenedores bajo demanda como Modal, facilitando la validación del código antes de reservar capacidad a largo plazo en AWS.

---

Veredicto técnico y operativo: Empresas preparadas para implementar frente a proyectos que deben esperar

La disponibilidad de Nemotron 3.5 Super VL con un solo clic en la consola de AWS no implica que deba adoptarse a ciegas en cualquier proyecto tecnológico. La infraestructura necesaria para sostener un modelo de 120.000 millones de parámetros, aun en su formato MoE, exige cierto nivel de madurez organizativa.

Tres perfiles corporativos que deben adoptar Nemotron 3.5 Super VL de inmediato

• Entidades financieras, aseguradoras y firmas legales con auditoría estricta: Compañías obligadas a cumplir normativas como RGPD o estándares bancarios que procesan balances, escrituras, comprobantes de pago o siniestros con fotografías. Desplegar el modelo en una VPC propia evita fugas de información y aprovecha el contexto de 1 millón de tokens para comparar historiales completos de clientes sin truncar registros.
• Empresas de logística y retail con flujos de vídeo continuo: Negocios que necesitan supervisar la recepción de mercancías, verificar el estado de palés o detectar anomalías en cámaras de seguridad. La tasa de generación acelerada por predicción multitoken permite generar alertas en segundos sin acumular retrasos en la cinta transportadora.
• Plataformas de automatización de interfaz y agentes de software (RPA moderno): Desarrolladores de software que crean asistentes capaces de leer pantallas de sistemas antiguos (ERP sin API disponible), hacer clic en campos correctos y rellenar formularios automáticamente a partir de datos no estructurados.

Tres situaciones de negocio donde conviene posponer la migración y mantener arquitecturas ligeras

• Operaciones de baja frecuencia o tareas estacionales: Proyectos con menos de 5.000 o 10.000 consultas mensuales de visión artificial. Mantener encendida una instancia dedicada en SageMaker JumpStart generará un gasto fijo innecesario frente al pago por uso de microservicios estándar.
• Flujos limitados a texto plano sin tablas ni imágenes complejas: Si la tarea de la empresa consiste en resumir correos electrónicos o clasificar textos simples, utilizar un modelo multimodal MoE de 120B resulta redundante. Los modelos de lenguaje puramente textuales de tamaño reducido ofrecen mayor eficiencia y menor consumo de memoria.
• Equipos sin experiencia en gobernanza de infraestructura en la nube: Organizaciones sin personal técnico capaz de configurar políticas de escalado automático, alarmas de gasto o monitorización en AWS. En estos casos, la curva de aprendizaje operativo restará más recursos que el beneficio directo obtenido en el coste por token.