Servicios web de Amazon (AWS)este año re: inventar Entró en escena con un gran salto adelante en la infraestructura de inteligencia artificial. La empresa está en su tercera generación. trenio3 chip también Trainium3 UltraServidor sistema introducido; también el siguiente paso trenio4Confirmó el desarrollo de . La estrategia de larga data de AWS de «reducir costos y aumentar el rendimiento con su propio componente de hardware» ahora es NVIDIA Está entrando en un período de mayor integración con
Trainium3 es uno de los chips de entrenamiento de inteligencia artificial más potentes desarrollado por AWS hasta la fecha. El sistema UltraServer combina componentes Trainium3 de 3 nanómetros y la arquitectura de red de alta velocidad propia de AWS. Esta estructura es diferente a la generación anterior. cuatro veces mayor rendimiento y cuatro veces más Ofrece memoria. AWS también conecta miles de UltraServers a aplicaciones. Ampliar hasta 1 millón de Trainium3 Dice que puede dárselo. También en el lado del consumo de energía. ahorros de hasta el cuarenta por ciento atrae la atención; Esto es consistente con el enfoque centrado en los costos de AWS dentro de la capacidad de su centro de datos en rápido crecimiento.
Los testimonios de clientes existentes también muestran que la estrategia funciona. antrópico, Karakuri, SplashMúsica Empresas como ésta han conseguido importantes reducciones en los costes de extracción con sus sistemas Trainium3. Esto también demuestra que la línea «alto rendimiento – bajo costo» que la familia Trainium de AWS ha adoptado desde el primer día se ha vuelto aún más evidente en la tercera generación.
La tabla que ofrece AWS no se limita a Trainium3. La compañía anunció que Trainium4 está en desarrollo y uno de los detalles más críticos es que Nvidia Fusión NVLink Admitirá tecnología de conexión de alta velocidad. Esto permitirá que los sistemas basados en Trainium interoperen más estrechamente con las GPU de Nvidia; todo ello preservando los diseños de bastidores de servidores propios y la ventaja de costos de AWS. CUDAEn un momento en el que el ecosistema de arquitectura informática paralela de Nvidia se ha convertido en el estándar de facto, Trainium4 pretende reducir las barreras del lado de AWS para las empresas que desarrollan modelos centrados en Nvidia.
AWS ya trenio1 Y trenio2 había establecido una línea enfocada en costo-rendimiento. Las instancias de Trainium1 proporcionaron costos de capacitación hasta un cincuenta por ciento más bajos, mientras que Trainium2 fue el preferido para modelos de lenguajes grandes y sistemas multimodo con un rendimiento hasta cuatro veces mayor y una mejor relación precio-rendimiento. Con Trainium3 y el próximo Trainium4, esta línea se está convirtiendo en una competencia más agresiva.
Imagen: Nanoplátano