Призыв к коллективным действиям в области киберзащиты

Компания Sophos давно убеждена, что открытость и прозрачность укрепляют сообщество специалистов по кибербезопасности. Именно поэтому мы подписали призыв OpenAI к коллективным действиям в области киберзащиты — открытое письмо, призывающее организации по всему миру помочь укрепить киберзащиту в условиях изменения ландшафта угроз, вызванных искусственным интеллектом.

Поскольку атаки с использованием ИИ становятся все более распространенными и изощренными, увеличивая риски для бизнеса и государственных служб, от которых зависят сообщества, становится ясно, что киберзащита — это общая ответственность. В письме справедливо содержится призыв к скоординированным действиям частного и государственного секторов, при этом передовые лаборатории ИИ играют важную роль.

Компания Sophos разделяет это чувство неотложности. Подписание письма — это внешнее выражение работы, которую мы вели на протяжении многих лет:

• Предоставление доступа к полезным исследованиям для сообщества специалистов по безопасности.
• Обеспечение эффективной защиты для каждой организации.
• Ответственное применение новых технологий.

Эти принципы формировали компанию Sophos на протяжении многих лет, и они также определяют дальнейшую работу.

Почему мы согласны с этим письмом

Письмо начинается с того, что нам и так известно: «У нас есть ограниченное время для укрепления киберзащиты».

Давно существующие уязвимости и устаревшие системы продолжают оставлять организации беззащитными, а неправильные настройки и избыточные права доступа только усугубляют эту уязвимость. Хотя ИИ может помочь злоумышленникам быстрее выявлять и использовать эти слабые места, он также может предоставить защитникам новые способы обнаружения уязвимостей, выявления слабых сигналов и реагирования на угрозы до того, как они причинят существенный ущерб.

Разумеется, защитники, в свою очередь, должны уметь претворять возможности ИИ в жизнь в реальных условиях, а не просто демонстрировать, что может обнаружить модель.

В письме также содержатся еще два призыва к действию: экспертные знания должны доходить до большего числа защитников , и ответные меры должны быть коллективными . Мы согласны. Работа одной организации может помочь защитить многих других, если знания в области защиты распространяются ответственно.

Эти идеи отражают принципы, которые формировали компанию Sophos на протяжении долгого времени:

• Достоверные работы должны быть доступны для тщательной проверки.
• Передовые возможности должны приносить пользу организациям любого размера.
• Прогресс следует оценивать по тому, устранены ли слабые места и прекращены ли атаки.

Открытость и ответственный обмен информацией укрепляют киберзащиту.

Мы давно считаем, что непрозрачные или осторожные заявления затрудняют понимание клиентами и исследователями того, как ИИ способствует защите. Открытость позволяет проверять идеи, оспаривать выводы и создавать на их основе фундамент для дальнейших разработок.

SOREL-20M стал одним из первых примеров нашей приверженности этому убеждению. Разработанный совместно с ReversingLabs и выпущенный в 2020 году, этот исследовательский набор данных предоставил 20 миллионов файлов для поддержки работы над методами машинного обучения для обнаружения вредоносных программ. Он дал исследователям существенный, воспроизводимый ресурс для проверки идей и продвижения работы по защите.

Тот же принцип применим и к более мощным моделям ИИ, способным эффективно противодействовать киберугрозам. Sophos считает, что необходимо делиться результатами исследований и практическими ресурсами таким образом, чтобы помогать специалистам по защите, одновременно обеспечивая безопасность конфиденциальной информации, уважая организации, чья среда генерирует ценную информацию для защиты, и снижая риск неправомерного использования. Одним из практических примеров является Центр доверия Sophos, где мы делимся практическими ресурсами и подробно описываем нашу стратегию, принципы и политику безопасности.

Открытость и надлежащие меры защиты должны работать вместе, особенно когда исследования основаны на реальных атаках и условиях эксплуатации у клиентов. Такой баланс помогает сообществу специалистов по безопасности двигаться вперед, не теряя из виду доверие, которое ему оказывается. При правильном подходе, достигаемая прозрачность создает уверенность в том, как работает защитный ИИ, а четкие границы сохраняют доверие, необходимое для дальнейшего обучения на основе реальных атак.

Необходимо, чтобы экспертные знания получили больше защитников.

Компания Sophos стремится к демократизации кибербезопасности, устраняя стратегический пробел в возможностях. Мы считаем, что наилучшая защита должна быть доступна на всем рынке, включая организации, работающие без достаточных средств, опыта, возможностей и влияния для создания устойчивой защиты. Эти организации сталкиваются с теми же угрозами, уязвимостями и сложными киберугрозами, что и другие предприятия, но им не хватает стратегических возможностей для защиты от них.

По мере усиления атак последствия этого пробела в возможностях становятся все более серьезными.

Вот почему доступ имеет такое же значение, как и технические возможности. Мощная модель ИИ имеет ограниченную защитную ценность, если ее безопасное развертывание и применение полученных результатов на практике могут осуществлять лишь узкие круги узкоспециализированных организаций.

Sophos обеспечивает защиту более чем 625 000 клиентов по всему миру, от крупнейших предприятий до малых и средних компаний, включая среды, управляемые нашим партнерским сообществом поставщиков управляемых услуг (MSP). Наш охват накладывает на нас ответственность: помогать преобразовывать передовые исследования и возможности, основанные на новейших моделях, в средства защиты, которые организации разных размеров и уровней зрелости в области безопасности смогут реально использовать.

Сотрудничество с передовыми лабораториями — один из способов, с помощью которого мы вносим свой вклад, используя наше уникальное положение в сфере кибербезопасности. Наше участие в инициативе OpenAI Daybreak Cyber и партнерской программе, а также проект Glasswing компании Anthropic служат примерами этой приверженности.

Компания Sophos работает над тем, чтобы сделать передовые возможности полезными в продуктах и услугах в области безопасности, которые организации могли бы использовать без необходимости самостоятельно привлекать высококвалифицированных специалистов.

Превращение передового ИИ в действие с помощью интегрированной защиты.

В письме, что немаловажно, подчеркивается важность того, что происходит после обнаружения уязвимости. Выявление уязвимости имеет ограниченную ценность до тех пор, пока защитник не сможет устранить ее и подтвердить, что риск снижен. Однако для этого также необходим контекст: понимание организации, ее контрольных точек и активности, разворачивающейся в них. Без этого контекста даже надежная модель рискует привести к еще одному изолированному обнаружению, которое и без того перегруженной команде придется интерпретировать.

Sophos Fusion демонстрирует, как мы применяем этот принцип на практике. Будучи самой полной в отрасли системой защиты от киберугроз, основанной на искусственном интеллекте, Sophos Fusion видит всё, объединяет всё и позволяет системам защиты организации реагировать как единое целое. Этот общий контекст позволяет системе координировать действия по защите в масштабах всей организации, а не рассматривать каждое оповещение или продукт как изолированный источник информации.

Именно так ИИ становится полезным в оперативной сфере: он может сузить временной промежуток уязвимости и обеспечить реагирование с той скоростью, которую требуют современные атаки.

Ответственность перед людьми остается крайне важной.

В письме содержится призыв к организациям расширять автоматизацию осторожно, сохраняя при этом ответственность за важные решения за людьми. Мы согласны. Искусственный интеллект должен расширять возможности и скорость защиты, в то время как люди остаются ответственными за решения, которые могут существенно повлиять на организацию.

Специалисты-люди должны определить границы доверия: что ИИ может делать самостоятельно, что требует проверки, и когда необходимо вмешательство экспертов, поскольку контекст незнаком, уровень уверенности низок или потенциальные последствия высоки. Будучи людьми, «находящимися в курсе событий», они также должны уметь проверять действия системы и предоставлять экспертную помощь в нетипичных случаях, которые ИИ не может решить немедленно.

Внедрение коллективной обороны на практике

Использование ИИ требует от организаций усиления защиты от атак с применением ИИ, ответственного применения ИИ в сфере кибербезопасности и обеспечения безопасности систем с поддержкой ИИ, которые все чаще развертываются во всех сферах бизнеса.

Компания Sophos подписала это письмо, потому что коллективная защита должна быть не просто мечтой. Она должна создать практический стандарт того, как отрасль будет разрабатывать и применять ИИ в сфере кибербезопасности:

• Делитесь результатами исследований и опытом ответственно, чтобы полезная работа приносила пользу не только организации, которая ее создала.
• Расширить возможности передовых технологий для организаций, не обладающих специализированными знаниями или большими командами специалистов по безопасности.
• Внедряйте меры защиты в практические результаты в реальных условиях, обеспечивая при этом ответственность людей за соблюдение границ, принятие решений и достижение важных результатов.

Цель состоит не просто в том, чтобы сделать ИИ более функциональным; она состоит в том, чтобы сделать киберзащиту более эффективной, доступной и надежной. Именно это обязательство берет на себя Sophos, подписывая открытое письмо, и именно по этому критерию, по нашему мнению, следует оценивать прогресс.

Инструменты уже есть. Как говорится в письме, давайте же их применим на практике.

Читать полностью на источнике