Американська компанія Anthropic оголосила про зупинку роботи своїх найсучасніших штучних інтелектів, Fable 5 і Mythos 5, для всіх користувачів. Це сталося внаслідок нових директив уряду США, що забороняють доступ до цих технологій для іноземців через потенційні загрози для національної безпеки.
Інформація надійшла від агентства Reuters.
Причиною цього рішення є побоювання національних безпекових відомств, що злочинці можуть обійти необхідні бар'єри безпеки штучного інтелекту й використати Fable 5 для виявлення вразливостей у різних програмних системах. Експерти підкреслюють, що моделі типу Mythos можуть значно прискорити та масштабувати кібератаки, що становить серйозну загрозу, особливо для банківського сектора, де використовуються застарілі технології.
Загроза кібербезпеці та конфлікт із Пентагоном
Цей крок став черговою главою у відносинах між Anthropic та урядовими структурами США. Раніше в цьому році компанія мала напружені стосунки з адміністрацією Білого дому, після того як відмовилася надати свої технології військовим для цілей внутрішнього моніторингу або створення автономних систем озброєння. В результаті Пентагон заніс компанію до чорного списку постачальників.
Поточний захід викликав активні обговорення на ринку з наступних причин:
- Масштаб заборони: згідно з новими вказівками, обмеження поширюється на всіх не-громадян США, навіть на тих, хто перебуває в країні. Це передбачає, що перед використанням технологій Anthropic, усім користувачам може знадобитися підтвердження свого громадянства.
- Внутрішні проблеми компанії: багато ключових співробітників Anthropic родом з-за меж США, тому існує невизначеність щодо їхнього доступу до власних розробок.
- Позиція компанії: Anthropic виразила категоричну незгоду з кроками регуляторів, вважаючи ризик злому незначним і обмеженим. Вони підкреслили, що, дотримуючись вимог уряду, їм довелося зупинити доступ до своїх моделей навіть для американських користувачів, включаючи платформу Amazon AWS.
Представники Пентагону в свою чергу заявили, що національна безпека є пріоритетом у порівнянні з доходами компаній, особливо наприкінці перед планованим виходом Anthropic на фондову біржу.
Компанія раніше стверджувала, що ризики втрати контролю над своїми розробками є серйозними. Anthropic звернулася до державних органів і конкурентів з ініціативою створити міжнародний механізм, який би дозволив заморозити використання передових технологій штучного інтелекту, якщо вони загрожуватимуть переходу до самостійного створення наступних моделей без участі людини.
