Moonshot використовує 20 000 чипів Nvidia через угоду з Alibaba

Китайська ШІ-компанія Moonshot уклала угоду з Alibaba Group щодо використання близько 20 000 чипів Nvidia. Про це повідомило Bloomberg News, посилаючись на джерела, знайомі з ситуацією.

Угода та обчислювальні потужності

Alibaba, яка є одним з найбільших інвесторів Moonshot, очікує, що компанії з її портфеля використовуватимуть її хмарні сервіси. Кластер чипів Nvidia, наданий Alibaba, забезпечує значну частину обчислювальної потужності для моделей Kimi від Moonshot.

Моделі Kimi та їх продуктивність

Раніше цього місяця Moonshot представила Kimi K3 — модель з 2,8 трильйонами параметрів. Компанія заявила, що Kimi K3 є найбільшою у світі відкритою ШІ-системою за вагою та демонструє продуктивність, що наближається до передової моделі Fable від американського гіганта Anthropic.

Згідно з повідомленням, модель Kimi від Moonshot перевершила модель Qwen від Alibaba за ключовими показниками продуктивності, незважаючи на доступ до схожих ресурсів для навчання. Це розчарувало деяких співробітників Alibaba.

Контекст експортних обмежень та доступ до чипів

Експортний контроль США на передові чипи Nvidia став ключовим обмеженням для китайських компаній у доступі до обчислювальних потужностей.

Повідомляється, що Moonshot може отримати доступ до новіших процесорів Nvidia Blackwell через Південно-Східну Азію та шукає додаткові чипи для навчання своєї наступної моделі ШІ. При цьому близько 20 000 чипів Nvidia, до яких Moonshot має доступ, належать до попереднього покоління Hopper. До випуску лінійки Blackwell чипи Hopper широко використовувалися в індустрії ШІ для навчання та розгортання моделей.

Заяви та заперечення

Представник Alibaba заявив Reuters, що «нібито постачання чипів H200 до Moonshot від нас є абсолютно безпідставним».

Минулого тижня Майкл Краціос, головний технічний радник Білого дому, заявив, що уряд США має інформацію, яка вказує на те, що Moonshot дистилювала модель Claude Fable 5 від Anthropic для розробки Kimi K3.

Що це означає для розробників

Для розробників ця новина підкреслює критичну важливість доступу до обчислювальних потужностей, особливо для навчання великих мовних моделей. Вона також демонструє, як компанії шукають шляхи обходу експортних обмежень для отримання передових чипів та як ефективність розробки моделей може дозволити перевершити конкурентів навіть за схожих ресурсів.

Ключові факти

• Китайська ШІ-компанія Moonshot має угоду з Alibaba Group на використання близько 20 000 чипів Nvidia.

• Alibaba є одним з найбільших інвесторів Moonshot і надає обчислювальну потужність для моделей Kimi.

• Moonshot представила Kimi K3, 2.8-трильйонну модель, яку назвала найбільшою у світі відкритою ШІ-системою.

• Kimi K3 демонструє продуктивність, близьку до моделі Fable від Anthropic.

• Експортні обмеження США на чипи Nvidia створюють труднощі для китайських компаній у доступі до обчислювальних потужностей.

Джерела

• Moonshot has Nvidia chip cluster from Alibaba computing deal, Bloomberg News reports