Исследователи обошли продвинутую защиту macOS с помощью ИИ Mythos от Anthropic

Исследователи безопасности обнаружили метод обхода передовых средств защиты macOS от Apple с использованием техник, выявленных при тестировании еще не выпущенной ИИ-модели Mythos от компании Anthropic. По словам исследователей, этот метод позволяет обойти систему принудительного контроля целостности памяти (Memory Integrity Enforcement) — защитный механизм, на разработку которого у Apple ушло пять лет с целью предотвращения эксплойтов, связанных с повреждением памяти.

Исследователи из базирующейся в Пало-Альто охранной фирмы Calif объединили две отдельные уязвимости с несколькими техниками обхода защитных механизмов для повреждения памяти Mac. Это позволило команде получить доступ к строго охраняемым областям операционной системы. Данная уязвимость работает как эксплойт для повышения привилегий, что означает: злоумышленник потенциально может получить полный контроль над компьютером, если объединит эти уязвимости с другими первоначальными векторами атак.

Компания Apple в настоящее время изучает 55-страничный технический отчет, который исследователи Calif лично передали в штаб-квартиру компании в Купертино на этой неделе. Представитель Apple подтвердил факт изучения полученных данных, заявив, что безопасность остается главным приоритетом компании и к сообщениям о потенциальных уязвимостях относятся со всей серьезностью.

Этот инцидент особенно примечателен на фоне масштабных усилий Apple по укреплению защиты своих операционных систем от современных хакерских инструментов. Когда Apple внедрил систему Memory Integrity Enforcement в свои фирменные процессоры и стек программного обеспечения, компания охарактеризовала ее как первую в отрасли постоянно действующую защиту, призванную пресекать эксплойты на основе уязвимостей памяти без ущерба для производительности устройств. Бывший исследователь безопасности Google Михал Залевски (Michał Zalewski), изучивший работу Calif, отметил, что этот метод важен именно потому, что macOS традиционно считается одной из самых сложных целей для хакеров. Залевски добавил, что хотя шумиха вокруг модели Mythos может быть в чем-то преувеличена, новейшие инструменты вполне реально использовать для серьезных исследований уязвимостей и аудита кода.

Обнаруженный эксплойт подчеркивает меняющуюся роль искусственного интеллекта в кибербезопасности. По словам генерального директора Calif Тая Дуонга (Thai Duong), создание кода, использовавшего две уязвимости macOS, заняло всего пять дней с помощью модели Claude от Anthropic. Тем не менее для реализации этой задачи потребовались серьезные человеческие экспертные знания. Дуонг отметил, что хотя Mythos отлично справляется с воспроизведением ранее описанных техник проникновения и аудитом кода, ИИ пока не продемонстрировал способности самостоятельно изобретать принципиально новые методы.

Об этих результатах, о которых изначально сообщила газета Wall Street Journal, стало известно в момент, когда эксперты по кибербезопасности предупреждают о возможной волне обнаружений программных ошибок, вызванной появлением продвинутых больших языковых моделей. Стремительный темп ИИ-исследований в области безопасности уже создает нагрузку на технологические компании, которым трудно оперативно выпускать патчи. Ранее в этом году искусственный интеллект от Anthropic выявил более 100 критических уязвимостей в браузере Firefox всего за две недели — такой объем находок у ИБ-сообщества обычно уходит несколько месяцев.

Это явление даже начало менять федеральную политику. Всплеск числа эксплойтов, созданных при поддержке ИИ, переворачивает стратегию Белого дома в отношении искусственного интеллекта, заставляя чиновников пересмотреть свой прежний невмешательский подход к разработке ИИ. Сообщается, что администрация рассматривает возможность подписания указа, который предоставит правительству функции надзора за самыми сложными моделями ИИ.

Компания Anthropic держит модель Mythos под строгим контролем, ограничивая ранний доступ узким кругом партнеров вместо того, чтобы открывать его для широкой публики. Недавно компания Apple присоединилась к программе Project Glasswing от Anthropic для оборонительного внедрения передовых систем ИИ в свою инфраструктуру. Эта инициатива призвана позволить внутренним командам безопасности Apple упреждающе сканировать кодовые базы и укреплять защиту macOS, iOS и Safari до того, как ими смогут воспользоваться злоумышленники.

Исследователи из Calif планируют скрывать технические подробности своей цепочки атак до тех пор, пока Apple не выпустит исправления для базовых проблем.