Linux Foundation та NVIDIA очолюють альянс для безпечного та відкритого ШІ

Linux Foundation активно підтримує спільні зусилля, спрямовані на розробку та вдосконалення відкритих інструментів і методів, що забезпечують безпеку систем штучного інтелекту.

Створення безпечного ШІ через відкриту співпрацю

Linux Foundation стала одним із засновників Open Secure AI Alliance, до якого також увійшла NVIDIA та інші компанії. Метою Альянсу є заохочення використання відкритих інструментів для забезпечення безпеки систем ШІ. Альянс прагне зробити відкриті моделі, ваги та каркаси агентів безпечнішими для створення та розгортання, надаючи розробникам більшу видимість та контроль. Ця співпраця спрямована на розробку нових методів та інструментів для швидкого виявлення та усунення вразливостей у програмному забезпеченні ШІ.

Внесок NVIDIA

NVIDIA надає для загального використання NOOA (NVIDIA Labs Object-Oriented Agent) — фреймворк з відкритим вихідним кодом, який спрощує тестування, відстеження, аудит та управління агентами ШІ. NOOA доступний на GitHub. NVIDIA також є значним учасником PyTorch, відкритого інструменту, що використовується для навчання як відкритих, так і закритих моделей, який розміщується PyTorch Foundation.

Роль відкритих моделей та ваг

Відкриті моделі та відкриті ваги є центральними для глобальної інновації в ШІ, яка приносить користь усім. Linux Foundation разом з Cisco, Dell Technologies, IBM, Meta, Microsoft, NVIDIA та іншими підписантами відкритого листа стверджує, що моделі з відкритими вагами є важливою частиною основи для безпечного, універсально доступного та інноваційного ШІ. Лист наголошує, що правильною відповіддю на ризики відкритих ваг є сильніша відкрита екосистема, а не заборона, і що політики повинні заохочувати, а не обмежувати передові відкриті моделі.

Відкриті моделі з відкритими вагами, які можна завантажувати, перевіряти, модифікувати та запускати на власній інфраструктурі, важливі з трьох причин:

• Розширюють доступ: Стартапи, компанії, університети та державні установи можуть будувати на основі передових моделей без необхідності навчання з нуля або сплати високих цін.
• Посилюють конкуренцію: Коли багато організацій можуть будувати, адаптувати та розгортати потужні моделі, конкуренція поширюється на чипи, додатки та послуги, забезпечуючи широке поширення переваг ШІ.
• Надають користувачам контроль: Організації, що інвестують у ШІ, не хочуть бути прив'язаними до одного постачальника. Відкриті ваги дозволяють їм зберігати контроль над даними, оцінювати та адаптувати моделі до власних потреб.

Відкритість як запорука безпеки

Хоча відкриті ваги несуть певні ризики, прозорість неодноразово доводила свою більшу безпеку порівняно з непрозорістю. Закриті системи можуть бути зламані або використані не за призначенням, тоді як відкриті моделі дозволяють широкій спільноті вивчати поведінку, виявляти вразливості, розробляти засоби захисту та вдосконалювати системи з часом. Цей відкритий процес підтримує ретельне тестування, оцінку та розробку спільних стандартів.

Забезпечення безпеки агентів ШІ

Агент ШІ — це система, що складається з моделей, каркасів (harnesses), які дозволяють агенту спостерігати контекст і діяти, та обмежувачів (guardrails). Хоча більшість уваги приділяється безпеці моделі, саме каркас визначає, як агент поводиться на практиці. Зробити цей каркас відкритим, тестованим та аудитованим є важливим для надійного ШІ.

Роль Linux Foundation

Linux Foundation відіграє роль нейтрального майданчика, де організації, що конкурують, можуть співпрацювати над спільною інфраструктурою. Ця робота є природним продовженням співпраці з безпеки, яку Linux Foundation проводить у своїх спільнотах, таких як Open Source Security Foundation (OpenSSF), що розробляє інструменти безпеки та найкращі практики.

Звернення до політиків

Політикам та регуляторам слід розрізняти прозорі та безпечні системи від непрозорих та неперевірених, а не просто відкриті від закритих. Відкриті моделі та інструменти повинні розглядатися як захисні активи, що забезпечують прозорість, незалежну оцінку та спільне усунення проблем, а не як загроза безпеці. Недавній інцидент з Hugging Face показав, що захисники змогли проаналізувати та усунути кібератаку лише завдяки доступу до відкритих моделей. Відкритість сама по собі не гарантує довіри, але вона розширює спільноту захисників і запобігає блокуванню критичних можливостей у невеликій кількості систем.

Що це означає для розробників

Ця новина означає для розробників посилення акценту на відкритих інструментах та фреймворках для ШІ, таких як NOOA від NVIDIA, що спрощує тестування та аудит агентів ШІ. Участь у Open Secure AI Alliance та підтримка відкритих моделей і ваг сприятиме створенню більш прозорої та безпечної екосистеми, де розробники зможуть співпрацювати, перевіряти та вдосконалювати системи ШІ, уникаючи прив'язки до одного постачальника та зберігаючи контроль над своїми розробками.

Ключові факти

• Linux Foundation приєдналася до Open Secure AI Alliance як один із засновників.

• Альянс має на меті сприяти відкритим інструментам для забезпечення безпеки систем ШІ.

• NVIDIA надає відкритий фреймворк NOOA для тестування, відстеження, аудиту та управління агентами ШІ.

• Відкриті моделі та відкриті ваги вважаються основою для безпечного, доступного та інноваційного ШІ.

• Відкритість розширює доступ, посилює конкуренцію та надає користувачам контроль над системами ШІ.

Джерела

• Open Models and Open Weights Are Foundational to Secure AI