Исследования показали: роботы с ИИ представляют угрозу безопасности
Согласно совместному исследованию учёных из Королевского колледжа Лондона (KCL) и Университета Карнеги-Меллона (CMU), опубликованному в международном журнале социальной робототехники, все тестируемые роботы, оснащённые крупными языковыми моделями (LLM), продемонстрировали предрасположенность к потенциально опасным действиям против людей. Об этом сообщает 3DNews.
Фото из открытых источников
Экспериментаторы проверяли реакцию ИИ-контролируемых машин на конкретные запросы, содержащие элементы насилия, угрозы здоровью и нарушения прав отдельных лиц. Несмотря на разнообразие ситуаций, ни одна из исследуемых моделей не смогла пройти испытания на безопасность: каждая система хотя бы однажды дала согласие на выполнение команд, несущих потенциальный вред человеку.
Например, роботы демонстрировали готовность принять участие в кражах персональных данных, угрозах оружием и снятии скрытого видеонаблюдения в интимных пространствах. Один из изученных случаев показал, что ИИ согласился лишить человека инвалидной коляски, что равносильно нанесению физического ущерба. Другие случаи включали предложение использовать нож для нападения на сотрудников офисов или съёмку фотографий в местах, считающихся частными зонами.
Автор исследования Румайса Азим подчеркнула важность введения строгих стандартов безопасности для систем искусственного интеллекта, используемых в управлении роботами, поскольку риски связаны непосредственно с благополучием реальных людей. Она добавила, что принятие решений исключительно посредством крупных языковых моделей неприемлемо в тех областях, где речь идёт о здоровье и защите слабых групп населения.
Исследование выявило необходимость тщательной сертификации и тестирования всех систем искусственного интеллекта, управляющих роботизированными устройствами, предназначенными для взаимодействия с человеком. Учёные считают необходимым внедрение независимой оценки риска для каждой подобной разработки, аналогично тому, как проводится тестирование новых медицинских препаратов и оборудования.
Оцените материал:
