Компания Anthropic, разрабатывающая искусственный интеллект, объявила о приостановке доступа к своим новейшим ИИ-системам после того, как правительство США потребовало ограничить их использование иностранными гражданами.
Власти сослались на соображения национальной безопасности, однако, по словам представителей компании, не предоставили исчерпывающих объяснений, каким именно образом эти модели могут представлять угрозу.
Модели Claude Fable 5 и Claude Mythos 5 были представлены всего несколько дней назад. Первая предназначалась для широкой аудитории, в то время как вторая имела ограниченный доступ. В Anthropic отметили, что эти системы достигли принципиально нового уровня возможностей, который внутри компании получил обозначение «класс Mythos». Уже после анонса новинки привлекли внимание специалистов, поскольку их вычислительные способности оказались настолько высокими, что вызвали опасения в сфере кибербезопасности.
Причины отключения и реакция экспертов
Ряд экспертов предупреждал, что модели уровня Mythos при использовании злоумышленниками способны облегчить проведение масштабных кибератак, потенциально затрагивающих финансовый сектор и объекты национальной безопасности. По этой причине Anthropic первоначально рассматривала возможность временно отложить запуск новых систем, но в итоге выпустила модели со специальными ограничениями, запрещающими их применение в чувствительных областях, включая кибербезопасность.
Дополнительно компания ввела ограничения на использование моделей для разработки других крупных языковых моделей, что вызвало недовольство части разработчиков. В ответ Anthropic пояснила, что опасается ускоренного создания конкурентных ИИ-систем, которые могут не обладать сопоставимыми механизмами защиты. Конфликт между компанией и властями разворачивается на фоне уже существовавших разногласий: ранее Anthropic отказалась предоставлять свои модели американским военным для внутреннего наблюдения и автономных систем вооружений, после чего была включена в список нежелательных поставщиков для государственных структур.
Позиция Вашингтона и перспективы восстановления доступа
Решение Вашингтона также вписывается в более широкую стратегию США по ограничению развития искусственного интеллекта у зарубежных конкурентов. Хотя до настоящего времени подобные меры в основном касались экспорта высокопроизводительных микросхем, теперь ограничения коснулись самих моделей. Американские власти заявили о наличии рисков, связанных с методами обхода защитных механизмов Mythos, известными как «джейлбрейкинг».
Главный специалист по информационным системам Пентагона Кирстен Дэвис заявила в социальной сети X:
Существуют вещи более важные, чем доходы компаний, громкие заголовки и рыночная стоимость перед выходом на биржу.
Ее комментарий появился после того, как стало известно, что месяц назад Anthropic конфиденциально подала документы для проведения первичного публичного размещения акций. В компании действия правительства считают необоснованными и противоречащими принципам справедливого регулирования.
Представители компании заявили, что не согласны с тем, что обнаружение потенциальной, даже ограниченной, уязвимости может служить достаточным основанием для отзыва коммерческого продукта, которым пользуются сотни миллионов людей. В Anthropic выразили мнение, что сложившаяся ситуация может быть результатом недопонимания, и пообещали приложить все усилия для скорейшего восстановления доступа к моделям Fable 5 и Mythos 5.
Высказывались предположения, что после отказа сотрудничать с военными компания могли включить в список нежелательных поставщиков, что должно вступить в силу позднее в текущем году.
