Бізнес Amazon з розробки чипів для ШІ та хмарних обчислень перевищив $25 млрд річного доходу

Значне зростання та стратегічна ставка

Бізнес Amazon з розробки власних чипів перевищив річний дохід у $25 мільярдів, демонструючи тризначне зростання рік до року. Цей успіх є результатом стратегії, започаткованої у 2015 році з придбанням компанії Annapurna Labs, задовго до буму штучного інтелекту. Основна ідея полягала в розробці чипів, спеціально призначених для хмарних навантажень, що дозволяє досягти кращої продуктивності за нижчої вартості порівняно з універсальним обладнанням.

Власні чипи для оптимізації

Amazon розробляє чипи з нуля для конкретних робочих навантажень, застосовуючи вертикально інтегрований підхід. Інженери з апаратного та програмного забезпечення співпрацюють від проєктування чипа до розгортання сервера, створюючи кремній, адаптований до потреб клієнтів. Це дозволяє компанії пропонувати провідні показники ціни та продуктивності.

Ключові сімейства чипів

Портфоліо чипів Amazon включає три основні сімейства:

• Trainium: Створений для навчання та інференсу ШІ — обчислювально інтенсивних завдань з навчання моделей ШІ та їх масштабування. Trainium3 забезпечує до 40% кращу ціну-продуктивність порівняно з Trainium2 та понад уп'ятеро вищу кількість вихідних токенів на мегават.
• Graviton: Призначений для загальних хмарних обчислень, включаючи вебсайти, додатки, бази даних та, все частіше, агентні робочі навантаження ШІ. Graviton обслуговує 98% з 1000 найбільших клієнтів EC2, пропонуючи до 40% кращу ціну-продуктивність. Graviton5, останнє покоління, забезпечує до 25% кращу продуктивність, ніж його попередник.
• Nitro System: Забезпечує мережеві можливості, зберігання та безпеку інфраструктури AWS Cloud. Усі чипи Amazon базуються на цій системі.

Широке впровадження та партнерства

Чипи Amazon активно використовуються провідними компаніями та стартапами:

• Anthropic зобов'язалася використовувати до п'яти гігават поточних та майбутніх поколінь чипів Trainium для навчання та живлення своїх моделей Claude, які працюють на понад мільйоні чипів Trainium2. Також використовує десятки мільйонів ядер Graviton.
• OpenAI зобов'язалася використовувати два гігавати потужностей Trainium через інфраструктуру AWS, починаючи з 2027 року.
• Meta підписала угоду про розгортання десятків мільйонів ядер Graviton для живлення своїх агентних ШІ-навантажень.
• Uber використовує Graviton для зіставлення пасажирів з водіями та пілотує Trainium3 для навчання моделей ШІ.
• Amazon Bedrock, керований сервіс ШІ, використовує Trainium для більшості своїх інференс-операцій.
• Зростає кількість стартапів, таких як Neura Robotics, Odyssey, TwelveLabs, DeCart, Poolside, Karakuri, Matagenomi, NetoAI та Splash music, які також впроваджують Trainium.
• Понад 130 000 клієнтів використовують сервери на базі Graviton, і понад половина всієї нової обчислювальної потужності, доданої до AWS, працює на чипах Graviton.

Інновації на системному рівні

Amazon також розробляє потужні інтегровані системи:

• Trn3 UltraServers об'єднують до 144 чипів Trainium3 в єдину систему, забезпечуючи до 4,4 раза більшу обчислювальну продуктивність, ніж Trainium2 UltraServers, що дозволяє навчати моделі за тижні замість місяців.
• Project Rainier — це найбільший у світі кластер обчислень ШІ, створений для масштабного навчання передових моделей, який використовується для моделей Claude від Anthropic.

Майбутні перспективи

Дорожня карта чипів Amazon продовжує прискорюватися. Trainium4 вже знаходиться в розробці, а Graviton еволюціонує для ери агентного ШІ. Компанія інтегрує ці технології з моделями ШІ та квантовими обчисленнями під керівництвом Пітера ДеСантіса, щоб вони взаємно посилювали одна одну. Ця стратегія базується на переконанні, що компанії, які контролюють власний кремній, задаватимуть темп розвитку ШІ.

Що це означає для розробників

Розробники отримують доступ до чипів Amazon Trainium та Graviton, які пропонують провідні показники ціни та продуктивності для завдань ШІ-навчання, інференсу та загальних хмарних обчислень. Це дозволяє їм ефективніше розробляти та масштабувати моделі ШІ, скорочуючи час навчання з місяців до тижнів, а також знижувати витрати на інфраструктуру завдяки високій енергоефективності та оптимізації для конкретних робочих навантажень.

Ключові факти

• Бізнес Amazon з розробки власних чипів перевищив $25 млрд річного доходу з тризначним зростанням рік до року.

• Trainium3 забезпечує до 40% кращу ціну-продуктивність, ніж Trainium2, та понад уп'ятеро вищу кількість вихідних токенів на мегават.

• Graviton обслуговує 98% з 1000 найбільших клієнтів EC2 з до 40% кращою ціною-продуктивністю.

• Amazon придбала компанію Annapurna Labs у 2015 році для розробки чипів, спеціально призначених для хмарних навантажень.

• Trainium призначений для навчання та інференсу ШІ, Graviton — для загальних хмарних обчислень та агентного ШІ, а Nitro System — для безпеки та мереж AWS.

Джерела

• How Amazon's AI chip business reached a $25B revenue run rate