Nvidia ha presentado sus nuevos modelos de peso abierto, desarrollados para agentes de inteligencia artificial corporativos y aplicaciones de inteligencia artificial que pueden ejecutarse de forma local en ordenadores personales. El modelo Nemotron 3.5 Super VL, anunciado por la empresa, cuenta con una estructura de 120 000 millones de parámetros y tiene como objetivo satisfacer especialmente las necesidades de las empresas en cuanto a agentes de inteligencia artificial que funcionan de forma continua. Además, se ofrecen a los usuarios dos modelos diferentes de Nemotron Bolt que funcionarán con requisitos de hardware más reducidos. Los nuevos modelos están dirigidos tanto a organizaciones que desean reducir su dependencia de los sistemas basados en la nube como a usuarios que prefieren realizar los procesos de inteligencia artificial directamente en su propio ordenador. De este modo, Nvidia amplía la familia de modelos Nemotron tanto para infraestructuras corporativas a gran escala como para sistemas informáticos locales.
El Nemotron 3.5 Super VL alcanza niveles de precisión similares en determinadas tareas, a pesar de utilizar menos parámetros que el modelo Nemotron 3 Ultra, de mayor tamaño, de la empresa. Según la información facilitada por Nvidia, el modelo ofrece resultados comparables a los de modelos más grandes, especialmente en lo que respecta a la ejecución correcta de comandos y al uso de herramientas externas. Estas características resultan especialmente relevantes para los agentes de inteligencia artificial que se comunican con diferentes servicios de software y llevan a cabo tareas que constan de varias etapas. Además, la capacidad del modelo para adaptarse a determinados flujos de trabajo corporativos permite a las empresas desarrollar sistemas personalizados con sus propios datos. Gracias a su estructura de peso abierto, las organizaciones pueden ejecutar el modelo en su propia infraestructura y someterlo a procesos de entrenamiento adicionales según sus necesidades.
Kari Briski, vicepresidenta de Modelos Abiertos y Software de Nvidia, señaló en su declaración sobre los nuevos modelos que las organizaciones que deseen ejecutar agentes de inteligencia artificial en la infraestructura de Nvidia podrán acceder a opciones adecuadas para distintos niveles de hardware. Según Briski, las empresas no tendrán que elegir entre las capacidades del modelo y los requisitos de hardware del entorno en el que se vaya a utilizar. Nvidia destaca especialmente la flexibilidad que ofrecen los modelos que las organizaciones pueden ejecutar en sus propios centros de datos. A diferencia de los sistemas cerrados, el Nemotron 3.5 Super VL puede reentrenarse con datos propios de las empresas y utilizarse en infraestructuras controladas por las propias organizaciones. Este enfoque supone una alternativa para las empresas que no desean enviar sus datos confidenciales a servicios en la nube de terceros.
¿Qué ofrecen los modelos Nemotron 3.5 Super VL y Bolt de Nvidia?
Nvidia afirma que, cuando el Nemotron 3.5 Super VL se somete a un entrenamiento adicional orientado a tareas específicas de agentes de inteligencia artificial, es capaz de generar resultados más rápidamente que algunos modelos de la competencia de Anthropic y OpenAI. Las comparativas de la empresa incluyen diferentes ámbitos de aplicación, como el análisis de documentos, la contabilidad financiera, los experimentos científicos, la evaluación de reclamaciones de seguros médicos y la resistencia frente a ataques de seguridad. No obstante, cabe señalar que estas afirmaciones sobre el rendimiento se basan en los resultados de las pruebas compartidas por Nvidia. El éxito de los modelos en condiciones de uso reales puede variar en función de factores como el hardware utilizado, la complejidad de las tareas y los datos de entrenamiento. Por lo tanto, una mayor velocidad de procesamiento no implica que se obtengan mejores resultados en todos los escenarios.
La empresa también ha revelado que entre las organizaciones que utilizan el Nemotron 3.5 Super VL se encuentran Skydance, EY, Ramp, CrowdStrike, Perplexity y Salesforce. El hecho de que en la lista figuren empresas de distintos sectores demuestra que el modelo no se centra únicamente en un único ámbito de aplicación empresarial. La familia Nemotron de Nvidia ya contaba anteriormente con modelos diseñados para tareas como la inteligencia artificial multimodal, el razonamiento, el desarrollo de software, las matemáticas y la automatización empresarial. El nuevo modelo Super VL amplía aún más estas opciones. Por otra parte, la adaptación del modelo a las empresas no se limita únicamente a la disponibilidad de los archivos de pesos, sino que conlleva requisitos adicionales como la seguridad de los datos, la gestión de la infraestructura y la evaluación periódica del modelo.
Los demás modelos presentados por Nvidia en su anuncio fueron las opciones de Nemotron Bolt, diseñadas para ejecutarse en ordenadores personales y sistemas de menor escala. El Nemotron 3.5 Bolt 74B-A9B 24 GB destaca por ser un modelo con un total de 74 000 millones de parámetros, diseñado para tareas de agentes de inteligencia artificial locales. Nvidia pretende lograr un equilibrio entre la velocidad de procesamiento del modelo y sus capacidades de razonamiento. Entre los ámbitos de aplicación compatibles se incluyen tareas como la realización de tareas en varias etapas, la llamada a aplicaciones y la navegación por Internet. Por su parte, el modelo Bolt E4B, de menor tamaño, se ha desarrollado especialmente para agentes de inteligencia artificial basados en chat que se comunican con los usuarios mediante lenguaje natural.
Los modelos Bolt podrán ejecutarse de forma local en equipos como los ordenadores de IA con procesadores Nvidia RTX Spark y las estaciones de trabajo basadas en DGX Spark. Nvidia pretende que este tipo de aplicaciones lleguen a un público más amplio gracias a los sistemas informáticos que ofrecen socios como Microsoft y Dell. Gracias a la capacidad de ejecución local, los agentes de inteligencia artificial no tienen que enviar datos constantemente a servidores remotos para realizar determinadas tareas. Esto puede suponer una ventaja, especialmente para los usuarios que trabajan con documentos personales, información financiera y otro contenido sensible. Sin embargo, dado que el rendimiento de los modelos locales depende de la capacidad de memoria del ordenador, su potencia de procesamiento y la compatibilidad del software, no cabe esperar que se obtenga la misma experiencia en todos los sistemas.
El funcionamiento de los agentes de inteligencia artificial en ordenadores personales también ofrece una alternativa diferente en lo que respecta a los debates sobre la privacidad de los datos. Hoy en día, muchos asistentes de inteligencia artificial pueden automatizar tareas accediendo a los calendarios, archivos, correos electrónicos y diversas cuentas en línea de los usuarios. Aunque este tipo de acceso resulta útil, puede suscitar dudas en cuanto al intercambio de información personal con los servicios en la nube. El enfoque de Nvidia en los modelos locales permite que determinadas operaciones se completen en el propio dispositivo y que los datos se almacenen en sistemas bajo el control del usuario. Sin embargo, el hecho de que un modelo funcione de forma local no significa que todas las aplicaciones que utiliza estén desconectadas de Internet ni que no se transfiera ninguna información a servicios de terceros.
El énfasis que Nvidia pone en los modelos de peso abierto también está relacionado con la competencia en el mercado de la infraestructura de inteligencia artificial. Los procesadores gráficos de la empresa se utilizan ampliamente para el entrenamiento y la ejecución de grandes modelos de inteligencia artificial. A pesar de ello, los principales desarrolladores de inteligencia artificial también están evaluando hardware alternativo, como AWS Trainium y Cerebras, con el fin de reducir los costes de infraestructura y la dependencia de los proveedores. Por su parte, algunas empresas tecnológicas están desarrollando sus propios procesadores de inteligencia artificial. La ampliación de los modelos Nemotron de Nvidia le permite adaptar, además de sus productos de hardware, sus opciones de software y modelos a una mayor variedad de escenarios de uso.
Los modelos Nemotron 3.5 Super VL y Nemotron 3.5 Bolt 74B-A9B 24 GB ya están disponibles. Nvidia indica que el modelo Bolt E4B, de menor tamaño, estará disponible en los próximos días de este mismo mes. Las nuevas opciones satisfacen diferentes necesidades, desde aplicaciones corporativas que requieren gran capacidad hasta agentes de inteligencia artificial más ligeros que se ejecutan en ordenadores personales. Destaca especialmente la posibilidad de personalizar los modelos con los datos propios de las empresas y de realizar determinadas operaciones en el hardware local. Por el contrario, el rendimiento que se obtenga en la experiencia de uso real, los costes de hardware y los requisitos de mantenimiento de los sistemas serán los principales factores que determinarán en qué ámbitos se preferirán estos modelos.
PUEDE INTERESARTE
La estación de carga Qi2 de 25 W de Belkin cuesta 2.545,56 TL, con un descuento de 912,54 TL
Comprar
El televisor iFFALCON QLED de 65 pulgadas se ha rebajado 2.200 TL
Comprar
Soundcore P40i, con ANC y estuche de carga inalámbrica, por 3.399 TL
Comprar
Shark NeverChange5 MAX, 200 TL más barato que el precio de la tienda oficial
Comprar
El TCL 50Q6C ofrece una pantalla Mini LED de 50 pulgadas por 31 999 TL
Comprar
Ver todo Reducir
Ver todas las ofertas
PUBLICIDAD — Este contenido incluye enlaces de afiliados. Teknoblog puede obtener una comisión por las compras realizadas a través de estos enlaces. Declaración de afiliados
Teknoblog ya está en WhatsAppRecibe en tu móvil las mejores ofertas tecnológicas del día y las noticias más importantes que no te puedes perder.
Únete al canal