El año 2023 pasó a la historia como un año en el que se lograron avances significativos en las tecnologías de inteligencia artificial (IA). A finales de año, Google añadió otra innovación a sus innovaciones en el campo de la inteligencia artificial, anunciando Cloud TPU v5p y AI Hypercomputer. Amin Vahdat, miembro de ingeniería de Google y vicepresidente del equipo de aprendizaje automático, sistemas e inteligencia artificial en la nube, dijo en su declaración: “Con parámetros que se han multiplicado por diez anualmente en los últimos cinco años, [üretken] «El crecimiento de los modelos de IA trae consigo crecientes necesidades de entrenamiento, ajuste e inferencia», dijo.
Cloud TPU v5p se define como un acelerador de IA y se utiliza para entrenar y poner en marcha modelos. Google diseñó Cloud TPU para trabajar con modelos que tienen tamaños grandes, requieren largos tiempos de entrenamiento, consisten principalmente en cálculos matriciales y no incluyen operaciones especiales dentro del ciclo de entrenamiento principal. Como TensorFlow o JAX. Cada cápsula TPU v5p trae 8960 chips que utilizan la conectividad entre chips de mayor ancho de banda de Google.
Cloud TPU v5p sigue los pasos de versiones anteriores como la v5e y la v4. Según Google, TPU v5p tiene el doble de capacidad de FLOP en comparación con TPU v4 y es cuatro veces más escalable en términos de FLOP por módulo. También puede entrenar modelos LLM 2,8 veces más rápido y adaptarse a modelos densos 1,9 veces más rápido que TPU v4.
AI Hypercomputer consiste en un sistema integrado que incluye software abierto, hardware de rendimiento optimizado, marcos de aprendizaje automático y modelos de consumo flexibles. Esta combinación pretende ofrecer mejores resultados que la eficiencia y productividad que se lograrían si cada parte se examinara por separado. El hardware de rendimiento optimizado de AI Hypercomputer utiliza la tecnología de red del centro de datos Júpiter de Google.
Google proporciona a los desarrolladores software abierto que ofrece “soporte integral” para marcos de aprendizaje automático como JAX, PyTorch y TensorFlow. Este anuncio sigue al lanzamiento de Meta e IBM AI Alliance, que prioriza el código fuente abierto, y Google no ocupa un lugar destacado en la alianza. AI Hypercomputer también presenta dos modelos llamados Flex Start Mode y Calendar Mode.
Google compartió esta noticia junto con la presentación de Gemini, un nuevo modelo de inteligencia artificial que la compañía describe como «el más grande y más capaz» e implementado en Bard y Pixel 8 Pro. Se ofrecerá en tres tamaños diferentes: Gemini, Gemini Pro, Gemini Ultra y Gemini Nano.