Как повысить прозрачность в экосистеме искусственного интеллекта вашего предприятия

Спонсорский контент

Как повысить прозрачность в экосистеме искусственного интеллекта вашего предприятия

Внедрение ИИ в корпоративной среде опережает управление ИИ, создавая фундаментальную проблему безопасности. Организации не могут защитить то, чего не видят, и прозрачность стала необходимым условием для всех других мер безопасности в отношении ИИ. Традиционные инструменты мониторинга неэффективно отслеживают активность ИИ, создавая значительные риски, требующие новых стратегий для команд безопасности, чтобы восстановить контроль над своими экосистемами ИИ.

Растущий кризис прозрачности в сфере ИИ в предприятиях

Разрыв между внедрением ИИ на предприятиях и управлением ИИ становится все труднее игнорировать руководителям служб безопасности. Индекс готовности к кибербезопасности Cisco на 2025 год показал, что 60% организаций не знают конкретных запросов, которые сотрудники направляют инструментам GenAI. Отсутствие прозрачности затрудняет мониторинг перемещения данных, обеспечение соблюдения политик и понимание того, какие инструменты или агенты работают в масштабах предприятия.

Проблема носит структурный, а не культурный характер. Организации создавали свои инструменты мониторинга для отслеживания традиционного программного обеспечения, и эти системы изначально не были предназначены для обнаружения того, как ИИ перемещается по сети. Стандартные инструменты обнаружения могут идентифицировать подписку на программное обеспечение, но часто полностью упускают из виду закономерности использования ИИ.

Когда сотрудники обходят официальные каналы, используя инструменты искусственного интеллекта, ИТ-отдел теряет представление о том, куда на самом деле направляются конфиденциальные данные компании. Этот структурный пробел создает реальный операционный риск, поскольку данные поступают в места, которые группа безопасности не может отслеживать или контролировать.

Понимание рисков теневого ИИ

Теневой ИИ — это использование сотрудниками инструментов и приложений искусственного интеллекта без явного разрешения организации. Это отличается от традиционных теневых ИТ-систем тем, что несанкционированные подписки на программное обеспечение остаются видимыми для стандартных инструментов обнаружения, чего часто не удается избежать при использовании ИИ. Каждый аспект теневого ИИ имеет свой собственный профиль риска и требует различных мер реагирования.

Несанкционированные автономные инструменты

Распространенный пример такого риска возникает, когда сотрудник вставляет документ или набор данных в общедоступный чат-бот, чтобы сэкономить время на рутинной задаче. Такое поведение редко бывает злонамеренным. Оно отражает стремление обычных работников использовать наиболее удобный доступный инструмент, а не намерение обойти протоколы безопасности.

Возможности встроенного программного обеспечения как услуги.

Этот риск связан с инструментами, которые компания уже одобрила, поскольку первоначальная проверка безопасности проводилась до добавления функций ИИ на платформу. Встроенные возможности сложнее обнаружить, чем использование автономных инструментов, поскольку с точки зрения мониторинга трафик выглядит идентично обычной активности платформы.

Автономные агенты искусственного интеллекта

Агенты действуют внутри системы, а не просто отвечают на вопросы, что отличает их от большинства ассистентов. Контроль значительно отстает от развертывания, поскольку агентов часто быстро запускают для решения неотложных проблем в рабочем процессе без формального процесса проверки. Агент, действующий с неконтролируемым доступом, может влиять на системы и данные со скоростью, недостижимой для человеческого контроля, что делает эту проблему неотложной для решения.

Почему традиционные инструменты обеспечения безопасности терпят неудачу

Проблема носит скорее архитектурный характер, чем связана с недостаточными усилиями или бюджетом. Традиционные инструменты безопасности были созданы для отслеживания известного программного обеспечения в ожидаемых местах, что не соответствует тому, как возможности ИИ фактически распространяются внутри организации.

Инструмент, созданный для каталогизации приложений, не имеет надежного способа классификации или управления поведением агента ИИ, действующего внутри него. Системы мониторинга, на которые полагается большинство предприятий, просто не имеют необходимой инфраструктуры для фиксации моделей активности ИИ, что создает пробелы в видимости, которые увеличиваются по мере ускорения внедрения ИИ.

Стратегии обеспечения безопасности среды искусственного интеллекта

Организациям необходимо разработать конкретные стратегии для преодоления пробела в прозрачности и восстановления контроля над деятельностью ИИ в масштабах всего предприятия. Следующие подходы закладывают основу для обеспечения безопасности экосистем ИИ.

Внедрить непрерывный поиск и инвентаризацию

Одноразовая проверка неэффективна, поскольку новые инструменты и функции ИИ добавляются постоянно, а не по предсказуемому графику. Командам безопасности следует применять тот же подход, что и к облачным нагрузкам, при котором каждый ресурс отслеживается в плановом порядке, а не только после инцидента.

Постоянно обновляемый реестр позволяет группам безопасности поддерживать актуальную картину, на основе которой можно оценивать новую активность, вместо того чтобы восстанавливать ее после возникновения проблемы. Такой непрерывный подход гарантирует, что организация знает, какие возможности ИИ доступны в среде в любой момент времени.

Внедрить многоуровневое обнаружение угроз с помощью ИИ.

Для эффективной защиты ИИ необходимо применять ИИ к решению проблемы, поскольку одной лишь человеческой проверки недостаточно для обработки такого объема и скорости задачи. Платформы, использующие передовой поведенческий анализ, могут помочь группам безопасности выявлять необычную активность ИИ, не полагаясь только на известные сигнатуры атак.

Компания Darktrace является примером платформы, построенной на этом подходе. Она занимается разработкой ИИ с 2013 года, опередив более позднюю волну инструментов безопасности, использующих ИИ. Ее платформа использует многоуровневый ИИ для обеспечения прозрачности работы локальной сети, облачных приложений, электронной почты, операционных систем и конечных устройств.

Уникальность этого подхода заключается в отсутствии отправной точки или предварительных предположений о том, как выглядит угроза. Технология изучает каждое устройство, пользователя и взаимодействие, формируя понимание нормального поведения на основе наблюдаемых данных. Это позволяет ей выявлять и объединять тонкие поведенческие аномалии, указывающие на угрозу, в то время как другие решения в области безопасности пытаются заранее определить, что представляет собой угроза, на основе моделей атак, наблюдавшихся в прошлом.

Внедрить механизмы контроля доступа, основанные на принципе «нулевого доверия».

Доступ к системе или агенту не должен предоставляться на основе предполагаемого доверия, а не подтвержденной, конкретной необходимости. Агенты ИИ могут взаимодействовать с данными, инструментами и приложениями. Поэтому каждому агенту следует предоставлять только минимально необходимый для выполнения его конкретной задачи доступ.

Правильно ограниченный доступ сводит к минимуму ущерб, который может нанести необнаруженное нарушение или сбой. Этот принцип особенно важен в средах искусственного интеллекта, где агенты работают со скоростью машин и могут распространять проблемы быстрее, чем операторы-люди могут на них реагировать.

Взять под контроль будущее искусственного интеллекта

Обеспечение прозрачности остается основополагающим шагом к безопасному внедрению инноваций в области ИИ на уровне всего предприятия. Организации, внедряющие платформы непрерывного обнаружения и расширенного обнаружения угроз, обеспечивают эффективную защиту своих экосистем ИИ. ИТ-руководителям следует отдавать приоритет платформам, обеспечивающим всестороннее покрытие всех точек взаимодействия с ИИ и использующим поведенческий анализ, а не обнаружение на основе сигнатур, для выявления угроз в режиме реального времени.

Источник: www.artificialintelligence-news.com