VicOne выпускает бесплатное расширение кибербезопасности NVIDIA Isaac Sim на основе исследования DEF CON 34

Radeis Extension для NVIDIA Isaac Sim предназначен для тестирования кибербезопасности роботов перед развертыванием. Источник: VicOne

Что касается повышения кибербезопасности, разработчики робототехники получают инструменты для ее тестирования в моделировании. Вчера компания VicOne Inc. выпустила бесплатное расширение VicOne Radeis Extension для NVIDIA Isaac Sim, которое, по ее словам, позволяет разработчикам проверять, как выбранные настройки атаки могут влиять на поведение их собственных моделей роботов.

«Компании, занимающиеся робототехникой, переходят от проверок соответствующих вариантов использования к масштабному развертыванию роботов в любых условиях. Поскольку этот переход происходит, отрасли должны проверять не только то, функционируют ли роботы так, как задумано, но [также] подтверждают, что они надежны, когда цифровые системы, от которых они требуют, вызывают риск», — заявил Макс Ченг, генеральный директор VicOne.

«Проверка кибербезопасности должна стать частью разработки робототехники», — добавил он. “Предыдущее исследование DEF CON в повторяющихся сценариях моделирования, мы помогаем разработчикам предотвратить эти риски раньше и создать более устойчивый физический ИИ в больших масштабах».

Основанная в 2022 году компания VicOne создала свою кибербезопасность для физического искусственного интеллекта на основе своего автомобильного опыта. Дочерняя компания Trend Micro заявила, что ее программное обеспечение и услуги могут защитить цифровые системы, которые определяют, как транспортные средства и роботы работают, принимают решения и действуют.

Базирующаяся в Токио компания VicOne помогает OEM-производителям, поставщикам первого уровня, производителям роботов и операторам выявлять киберриски на ранней стадии, оценивать их надежное влияние на безопасность и антивирусные работающие системы. Компания заявила, что обнаружила более 180 «нулевых дней» в автомобильной и робототехнике, добавив более 100 миллионов сигналов разведки об угрозах и подала 30 патентных заявок в США в системе безопасности Методические методы, определяемые искусственным интеллектом и физическую безопасность с использованием искусственного интеллекта.

Зарегистрируйтесь сейчас и сэкономьте на пропуске в RoboBusiness 2026 <ч2>VicOne учится на выводах DEF CONч2>

Производители роботов вкладывают значительные средства в международные испытания, техническую безопасность и моделирование, но условия, вызванные кибербезопасностью, все еще могут выходить за рамки обычных плановых испытаний, отмечает VicOne. В сообществе хакеров-роботов DEF CON 34 компания провела стресс-тест физической безопасности искусственного интеллекта CTF (захват флага).

Исследователи безопасности проверены, поскольку цифровые компрометации могут изменять поведение роботов в контролируемых условиях. Задача исследовала пути атаки на модели искусственного интеллекта, восприятия, облачных и API-сервисов, робототехнических коммуникаций и встроенных систем.

Деятельность DEF CON отличает робототехнические платформы Reachy Mini и LeKiwi. Они привлекают исследователей к использованию системы для изучения того, как уязвимости кибербезопасности могут влиять на фундаментальное поведение роботов.

VicOne изучила безуспешные попытки и недавно обнаружила противодействия атакам, чтобы уточнить сценарии, включая манипулирование визуальными входными данными, перехват команды, воздействие политики искусственного интеллекта и использование подключенных интерфейсов. Тестируя эти условия на уровне системы, команда может определить уязвимости в отдельных компонентах в конечном итоге изменить поведение всего робота, то есть в компьютере.

На DEF CON 34 16 команд зафиксировали 25 успешных решений, отметил VicOne. Почти основная проблема кибербезопасности искусственного интеллекта и робототехники была решена хотя бы один раз, и только одна проблема передовых встроенных систем, связанная с уязвимостями криптографии и встроенного ПО, осталась нерешенной.

В компании заявили, что последствия, согласно которым риски, изменяющие поведение, могут возникать на нескольких уровнях стека роботов, что необходимость оценки кибербезопасности на уровне системы, а не оценка уязвимости только изолированно.

Исследователи в области безопасности, эксперты по робототехнике и хакеры собрались в сообщества робототехнических хакеров на DEF CON 34, чтобы изучить, как киберугрозы могут проявляться в роботах с искусственным интеллектом. Источник: VicOne

. <х2>Расширение применения исследований взлома роботов для повторяемого тестированияч2>

Каждая попытка нападения может обеспечить усиление защиты, утверждает VicOne. Успешная попытка может открыть путь от групповой компрометации к исключению поведения роботов. Неудачная попытка все равно может раскрыть силу злоумышленника, неизведанные пути управления или меры безопасности, которые требуют дальнейших проверок.

VicOne заявила, что преобразует эти результаты в структурированные структуры, которые разработчики могут повторять по мере развития программного обеспечения для роботов, датчиков, моделей искусственного интеллекта, коммуникаций и структуры управления. использовать бесплатное расширение, разработчики могут:

• Перенесите модель робота и ответственную задачу в NVIDIA Isaac Sim

<ли>Применять сценарии, основанные на исследованиях физической безопасности VicOne и безопасности DEF CON

• Проверить, остается ли модель визуального языка (VLM) устойчивой к враждебным визуальным подсказкам, конкурентным входным данным и попыткам манипулирования датчиками, которые могут привести к неверным интерпретациям или небезопасному принятию решений
• Повторять испытания по мере изменения моделей, программного обеспечения, датчиков, коммуникаций и способов управления

NVIDIA Isaac Sim обеспечивает физическую среду для проектирования, моделирования, тестирования и проверки роботов, управляемую искусственным интеллектом, утверждает компания. Расширение VicOne Radeis включает сценарии кибербезопасности и наблюдения за поведенческими последствиями для существующего последовательного моделирования процессов, помогая команде изучать крайние случаи, связанные с безопасностью, перед переходом к упрощенному тестированию или развертыванию.

Затем разработчики могут наблюдать, отклоняется ли робот от заданной задачи, рабочих границ или ожидаемой реакции. Расширение Radeis позволяет разработчикам использовать свои собственные модели роботов, программные задачи и рабочие силы в NVIDIA Isaac Sim вместо тестирования только в общей демонстрационной среде, сказал VicOne.

Таблица лидеров стресс-теста физической безопасности искусственного интеллекта VicOne CTF на DEF CON 34. Источник: VicOne

Доступное расширение Radeis для NVIDIA Isaac Sim

VicOne утверждает, что Радейс предоставляет команде робототехники практическую точку для изучения кибер-физических рисков. Он добавил, что бесплатное расширение для NVIDIA Isaac Sim может помочь группам разработчиков, специалистов по безопасности и защите обсудить риски, связанные с видимыми результатами работы роботов, и не учитывать уязвимости только как абстрактные выводы программного обеспечения.

Робот

Для организаций, требующих более эффективных оценок, VicOne Radeis — это решение для проверки кибербезопасности перед развертыванием, которое оценивает риски компонентов, систем и моделей искусственного интеллекта, а затем измеряет, как уязвимости и возможности атаки могут привести к поведению комплексного воздействия. По словам VicOne, комплексное решение Radeis поддерживает более глубокое расследование, планирование исправлений, подготовку решений по выпуску и готовность к соблюдению требований.

Расширение VicOne Radeis для NVIDIA Isaac Sim теперь доступно для провайдеров трафика, использующих соответствующие сервисные версии NVIDIA Isaac Sim.

п>

Пост VicOne выпускает бесплатное расширение кибербезопасности NVIDIA Isaac Sim на основе исследования DEF CON 34 впервые появилось в The Robot Report.

Источник