Nvidia випустила CUDA 13.5 із підтримкою архітектури Vera Rubin

Компанія Nvidia представила реліз інструментарію CUDA Toolkit 13.5. Головною подією випуску став перехід підтримки нової архітектури графічних процесорів NVIDIA Vera Rubin зі стадії раннього доступу для розробників у статус загальної доступності (General Availability, GA), готової до промислового використання. Крім того, підтримка платформи Windows on Arm тепер поширюється на системи NVIDIA DGX Station for Windows.

Планування ресурсів GPU: домени локальності та MPS v3

CUDA 13.5 надає розробникам вибір між рівномірним розподілом потокових мультипроцесорів (SM) між доменами локальності або конфігураціями, які залучають усі доступні SM. Новий прапорець cudaDevSmResourceGroupLocalityDomainSupplementalSms у комбінації з cudaDevSmResourceGroupLocalityDomainId дозволяє додати додаткові SM до обраного домену. Дослідити кількість SM для кожного розділу можна через API cudaDevSmResourceSplit().

Сервіс NVIDIA Multi-Process Service (MPS v3) отримав низку оновлень для розподілу GPU:

• Зважений таймшеринг (Weighted timeslicing): можливість налаштовувати базовий інтервал часу виконання та масштабувати його для окремих серверів MPS.
• Балансування навантаження розділів SM: розділи можуть тимчасово позичати вільні потужності через опцію --max-chunks або надавати незадіяні SM іншим завданням за допомогою --shareable=true.
• Маршрутизація на основі cgroup: привʼязка піддерев cgroup v2 до просторів імен MPS.
• Призначення розділів SM для просторів імен: конфігурація розділу SM на рівні простору імен замість ручного налаштування змінної CUDA_MPS_SM_PARTITION для кожного клієнта.
• Опитування (polling) для обліку памʼяті: резервний механізм прямого зчитування лімітів і використання памʼяті через команду nvidia-cuda-mps-control memacct set force_polling=true на випадок ненадійних сповіщень від cgroup.

Драйвери для Windows на архітектурі Rubin

Починаючи з архітектури Rubin, CUDA підтримує Windows Driver Display Model (WDDM) та Microsoft Compute Driver Model (MCDM), де MCDM виступає виключно обчислювальною моделлю драйвера. Режим Tesla Compute Cluster (TCC) більше не підтримується на чипах Rubin і новіших поколіннях.

Оновлення CUDA Tile та інтеграція з SIMT

У ядрах CUDA Tile зʼявилася підтримка прямої міжчипової взаємодії (multi-GPU communication). Юнікаст-вказівники дозволяють отримувати доступ до памʼяті іншого GPU через NVLink, а мультикаст-вказівники та спеціальні операції multimem забезпечують редукцію і збереження даних через фабрики NVSwitch із підтримкою NVLink SHARP.

Також представлено публічне превʼю інтероперабельності між CUDA Tile та бібліотеками SIMT. Розробники можуть викликати функції пристроїв із бібліотек SIMT (зокрема NVSHMEM, CCCL Coop, Warp і MathDx) безпосередньо всередині коду Tile без передавання даних через глобальну памʼять. Бібліотеки постачаються у форматі .tilelib. Для компіляції в C++ використовується прапорець nvcc --tile-preview simt, а в cuTile Python — виклик cuda.tile_preview.foreign_call.

Зміни в бібліотеках CCCL 3.5 та CUDA Python

Бібліотека cuda.core 1.2 додала підтримку пакетного копіювання памʼяті (cuda.core.utils.copy_batch()), програмного залежного запуску (Programmatic Dependent Launch, PDL) для GPU з обчислювальною здатністю 9.0+ через опцію programmatic_stream_serialization, а також можливість модифікувати вузли виконуваних графів CUDA без їхньої повторної ініціалізації.

У складі набору CCCL 3.5 зʼявилися:

• Публічні API тюнінгу для алгоритмів CUB (cuda::execution::tune(...)).
• Алгоритм пакетного вибору cub::DeviceBatchedTopK, орієнтований на завдання ШІ (інтегрований у бібліотеку FlashInfer).
• Відтворюване сканування чисел із рухомою комою в cub::DeviceScan із фіксованим порядком редукції.
• Можливість передавати розмір задачі для операцій редукції CUB безпосередньо з памʼяті GPU за допомогою cuda::args::deferred.

Оновлення інструментів для розробників

У релізі дебютувало публічне превʼю SDK постійного профілювання NVIDIA Nsight Perf SDK for AI, призначене для тривалих робочих навантажень навчання та інференсу з можливістю аналізу метрик у Perfetto. Серед інших інструментальних оновлень:

• Nsight Compute 2026.4: виділена сторінка часової шкали (timeline) зі статистикою функцій.
• CUDA-GDB: зупинка виконання за подіями в логах драйвера CUDA та підтримка створення дампів памʼяті ядра GPU при активному трасуванні CUPTI.
• NVIDIA Compute Sanitizer: агентська навичка (agent skill) для автоматичного аналізу помилок памʼяті та синхронізації ШІ-асистентами розробника.

Математичні бібліотеки та компілятори

Бібліотека cuBLAS отримала оптимізації GEMM для форматів NVFP4 та MXFP8 на архітектурі Vera Rubin, схему Ozaki-II для операцій FP64 на GPU Ampere і новіших, прискорення нативних операцій FP64 на чипах Blackwell (до 1.5x на B200), а також підтримку Blackwell на Windows on Arm. Бібліотека cuSPARSE містить новий алгоритм SpSV ALG2 (прискорення розвʼязання у 2.7 раза) та прискорення CSR SpMM (ALG3) від 1.65x до 2.27x.

Утиліта nvprune тепер має прапорець --precompile для компіляції проміжного коду (PTX, TileIR) у нативний SASS/ELF на етапі пакування. Інструкцію PTX tensormap.replace розширено для налаштування виходу за межі тензора в TMA безпосередньо з ядра, а в cuobjdump перероблено виведення таблиці символів ELF на чотири описові колонки замість шістнадцяткових значень.