Група провідних технологічних компаній з США та Європи, включаючи Nvidia, Microsoft, SpaceX та Palantir, оголосила про створення коаліції під назвою Open Secure AI Alliance. Основна мета цієї ініціативи полягає в забезпеченні безпеки відкритих моделей штучного інтелекту.

Цей крок було спровоковано недавньою серйозною кібератакою на платформу Hugging Face, у якій використовувались шкідливі моделі від OpenAI. Під час інциденту захисники сервісу не змогли застосувати провідні американські технології через суворі обмеження та були вимушені скористатися відкритою китайською моделлю.

Важливість відкритих кіберзахисних систем

Представники Nvidia підкреслили, що подія з Hugging Face служить вражаючим нагадуванням про потребу в наданні фахівцям з кібербезпеки доступу до відкритих агентних систем для захисту.

Відкриті моделі, на відміну від закритих розробок Anthropic або OpenAI, можна легко завантажувати, змінювати та впроваджувати у власній інфраструктурі, що дозволяє фахівцям оперативно реагувати на загрози.

Стурбованість щодо китайського штучного інтелекту

У Вашингтоні зростає тривога через активне використання відкритих китайських моделей та випадки "дистиляції" — процесу вилучення знань з провідних американських систем ШІ.

Міністерство фінансів США уже попередило про можливість введення санкцій проти китайських компаній, які можуть бути причетні до таких атак. Крім того, розглядається можливість заборони на будь-які фінансові операції з китайськими моделями, включаючи їхню хостинг у хмарних рішеннях.

Більше двадцяти компаній закликали державних службовців утриматись від поспішних обмежень на моделі з відкритими вагами, адже це може негативно вплинути на інновації та конкурентоспроможність галузі.

Нагадаємо, що раніше Nvidia уклала угоду з Amkor Technology Inc. для зміцнення потужностей у сфері упаковки напівпровідників як частину стратегії з розширення виробництва чипів у США.