Por Dentro del Laboratorio de Chips de Amazon: el Trainium que Alimenta a Anthropic, OpenAI y Apple

Poco después de que Andy Jassy anunciara el acuerdo de inversión de 50.000 millones de dólares entre AWS y OpenAI, Amazon abrió las puertas de su laboratorio de desarrollo de chips a TechCrunch. La instalación ocupa una planta alta de un edificio acristalado en el distrito Domain de Austin: parte campus corporativo, parte laboratorio funcional de hardware, con el tamaño aproximado de dos salas de reuniones grandes y el ruido constante de los ventiladores de refrigeración.

Las cifras son reveladoras. AWS tiene 1,4 millones de chips Trainium desplegados en tres generaciones. Claude, el modelo de Anthropic, funciona sobre más de un millón de chips Trainium2. El acuerdo con OpenAI compromete a AWS a suministrar 2 gigavatios de capacidad de cómputo Trainium, una promesa que llega en un momento en que Anthropic y el propio servicio Bedrock de Amazon ya consumen chips más rápido de lo que se pueden fabricar.

Trainium3, lanzado en diciembre, es un chip de 3 nanómetros fabricado por TSMC. Amazon afirma que su coste de operación es hasta un 50 % menor que el de los servidores convencionales equivalentes para la misma carga de trabajo de IA. En escenarios donde se procesan billones de tokens diarios, ese ahorro no es despreciable. AWS también anunció una integración con Cerebras Systems para combinar chips de inferencia de Cerebras con servidores basados en Trainium y ofrecer IA de baja latencia.

Kristopher King, director del laboratorio, señaló que el Trainium fue diseñado originalmente para acelerar el entrenamiento de modelos — prioridad principal hace unos años — pero ahora está optimizado y se usa intensamente para inferencia, que es el cuello de botella actual de la industria. El Trainium2 ya gestiona la mayor parte del tráfico de inferencia en Amazon Bedrock, la plataforma con la que las empresas construyen aplicaciones de IA.

Lo que convierte al Trainium en un alternativa creíble a las H100 y B200 de Nvidia, más allá del precio, es la compatibilidad de software. El director de ingeniería Mark Carroll describió el proceso de migración como “básicamente un cambio de una línea de código, luego recompilar y ejecutar en Trainium”. La incorporación de soporte para PyTorch —incluyendo modelos alojados en Hugging Face— elimina el mayor coste histórico de cambio frente a los chips de Nvidia.

El equipo de silicio personalizado de Amazon tiene sus raíces en la adquisición de Annapurna Labs, la diseñadora israelí de chips comprada en 2015 por unos 350 millones de dólares. En diez años, ese equipo produjo Graviton (utilizado y públicamente elogiado por Apple), Inferentia y ahora tres generaciones de Trainium. El enfoque es el clásico manual de Amazon: identificar lo que el mercado necesita y construir una alternativa interna más barata.

El acuerdo con OpenAI es el respaldo público más significativo de esa estrategia. Si AWS se convierte en el proveedor exclusivo de la plataforma de agentes Frontier de OpenAI, Amazon necesita demostrar que puede operar a una escala que incluso Nvidia ha tenido dificultades para alcanzar con rapidez. La visita al laboratorio llegó en el momento justo para enviar ese mensaje.