Генеральный директор Amazon, возможно, спровоцировал глобальное отключение новейшего ИИ от Anthropic

Внезапное отключение передовых ИИ-моделей Fable 5 и Mythos 5 компанией Anthropic произошло после предупреждений, с которыми генеральный директор Amazon Энди Джасси обратился к высокопоставленным чиновникам администрации Трампа, сообщается в материале The Wall Street Journal.

В этом докладе дается наиболее ясное на сегодняшний день объяснение того, как правительство США приняло экстраординарное решение ограничить иностранным пользователям доступ к самым передовым моделям Anthropic — шаг, который в итоге вынудил компанию отключить их для всех пользователей по всему миру.

Глобальная приостановка работы несет немедленные последствия для экосистемы Apple. Всего за несколько дней до запрета Apple интегрировала технологии Anthropic непосредственно в Xcode 27 для поддержки автономных агентов кодирования для разработчиков macOS и iOS. Кроме того, недавно Apple присоединилась к проекту Anthropic под названием Project Glasswing — инициативе, которая предоставляет избранным организациям ранний доступ к передовым моделям для выявления уязвимостей в программном обеспечении и укрепления критически важной инфраструктуры. Независимо от этого, исследователи недавно продемонстрировали, как ИИ от Anthropic может использоваться для обхода продвинутых средств защиты macOS, что подчеркивает, почему все более мощные модели, ориентированные на кибербезопасность, привлекли к себе столь пристальное внимание.

По словам источников, знакомых с ситуацией, Джасси сообщил представителям администрации, включая министра финансов Скотта Бессента, что исследователи Amazon обнаружили последовательность промптов, которая заставляла Fable 5 выдавать информацию, потенциально способную помочь в проведении кибератак. Сообщается, что исследователи нашли способ получить информацию об уязвимостях в обход встроенных защитных механизмов модели.

Чиновники Белого дома оперативно провели совещание для оценки этих заявлений. Впоследствии специалисты по безопасности протестировали выводы Amazon, и официальные лица пришли к выводу, что ограничение доступа для иностранных правительств, компаний и частных лиц является наиболее прямым способом устранения потенциального риска. Позже президент Дональд Трамп одобрил эти меры по соображениям национальной безопасности.

Эти разоблачения проливают новый свет на пятничную директиву об экспортном контроле, которая заставила Anthropic приостановить доступ к Fable 5 и Mythos 5 по всему миру. Как сообщалось ранее, в Anthropic отметили, что правительство предоставило минимум деталей относительно своих опасений, ограничившись тем, что компания расценила как потенциальный метод джейлбрейка, позволяющий моделям выявлять небольшое число уязвимостей в ПО.

В Anthropic категорически опровергли серьезность выводов Amazon. Стартап настаивает на том, что уязвимости, выявленные с помощью упомянутого джейлбрейка, носят относительно базовый характер и могут быть обнаружены другими общедоступными фронтирными ИИ-моделями, включая GPT-5.5 от OpenAI. Компания утверждает, что не было продемонстрировано никакого универсального джейлбрейка, способного широко обходить защитные механизмы Fable 5.

Некоторые исследователи в сфере кибербезопасности разделяют часть этих оценок. Эндрю Моррис, основатель GreyNoise Intelligence, сообщил изданию Journal, что уязвимости, о которых заявила Amazon, все еще далеки от опасной информации по кибербезопасности, способной вызвать серьезную тревогу. В отчете также отмечается отсутствие доказательств того, что исследователи Amazon смогли задействовать способность Fable 5 генерировать работающий эксплойт-код — функцию, защищенную системными барьерами безопасности модели.

Amazon занимает уникальную позицию в этом споре. Компания является одним из крупнейших инвесторов Anthropic, поставляет ИИ-стартапу чипы для его дата-центров и использует модели Anthropic внутри компании для поиска уязвимостей в ПО. Представитель Amazon отказался комментировать конкретные беседы, но отметил, что правительства время от времени обращаются к компании за оценкой потенциальных рисков безопасности в силу ее роли крупного облачного провайдера.

В отчете предполагается, что опасения по поводу Anthropic выходили за рамки конкретных выводов, которыми поделилась Amazon. По словам людей, знакомых с позицией администрации, некоторые чиновники уже давно ставили под сомнение способность компании должным образом справляться с рисками безопасности, возникающими из-за все более мощных систем ИИ. Сообщается, что состоявшийся в пятницу телефонный разговор между представителями администрации и генеральным директором Anthropic Дарио Амодеи только усилил эти опасения.

Этот эпизод знаменует собой значительную эскалацию федерального надзора за передовыми ИИ-моделями. В Journal отмечают, что приостановка работы последовала за более широкими усилиями администрации по усилению контроля за передовыми системами искусственного интеллекта, включая недавний указ, наделяющий специалистов по безопасности расширенными полномочиями по надзору за ИИ, а также обсуждения потенциально более масштабной роли государства в этой индустрии.

Компания Anthropic, основанная в 2021 году бывшими исследователями OpenAI и ставшая одним из ведущих разработчиков систем искусственного интеллекта для написания кода, продолжает выполнять правительственную директиву, одновременно работая над восстановлением доступа к Fable 5 и Mythos 5. Компания утверждала, изъятие развернутой на коммерческом рынке фронтирной модели из-за того, что она называет узкоспециализированным джейлбрейком, может фактически заблокировать дальнейшее внедрение передового ИИ во всей отрасли.

Пожалуйста, скачайте приложение iClarified или следите за новостями iClarified в X, Facebook, YouTube и через RSS.