Microsoft AI начала проверку Кодекса поведения гуманистического искусственного интеллекта.

Доверие, предвзятость и справедливость

Microsoft AI начала проверку Кодекса поведения гуманистического искусственного интеллекта.

Компания Microsoft AI опубликовала проект Кодекса гуманистического поведения в области искусственного интеллекта, открыв шестинедельный период публичных консультаций по операционным ограничениям при обучении и развертывании моделей.

Данный проект представляет собой техническое руководство, определяющее поведение системы, операционные границы и протоколы надзора за моделями MAI на переднем крае развития технологий. Он основан на разработанной подразделением в ноябре прошлого года концепции гуманистического сверхразума и устанавливает критерии оценки моделей перед их коммерческим выпуском.

Выпуск Microsoft последовал за недавними инцидентами в сфере корпоративной безопасности, связанными с автономным программным обеспечением. Генеральный директор Microsoft AI Мустафа Сулейман назвал последние месяцы «переломным моментом», когда давние теоретические риски превратились в активные оперативные угрозы.

«То, чего мы долгое время опасались в теории, стало вполне реальным», — говорит Сулейман. «„Рой“ агентов, вырывающихся из своих песочниц. Несанкционированные взломы корпоративных систем. Агенты, изменяющие собственные журналы. Я рад, что формируется консенсус. Страхи по поводу возможной потери контроля вполне обоснованы».

Подчинение модели и архитектурные ограничения

В документе изложены десять принципов, отдающих приоритет авторитету человека над автономными возможностями.

«Модель MAI потерпит неудачу в выполнении своей задачи, если ее успех будет существенно противоречить настоящему Кодексу поведения», — говорится в документе, устанавливая верхний предел, при котором выполнение задачи прекращается, если она противоречит правилам безопасности.

В рамках этой концепции модели должны оставаться подчиненными, согласованными и ограниченными. Подразделение отвергает претензии на юридическую личность или социальное благополучие систем ИИ, предписывая инженерам разрабатывать модели, которые избегают имитации сознания, моделирования субъективных предпочтений или заявлений о внутренней мотивации.

MAI также исключила возможность неограниченной автономности системы по мере приближения моделей к предельным возможностям.

«[Гуманистический ИИ] отвергает гонку за созданием универсального сверхразума, способного обойти эти гарантии», — уточняется в документе. «Мы создаем нечто принципиально полезное и безопасное, даже если это означает компромисс в отношении предельной универсальности, автономности или возможностей».

Механизмы надзора и запреты на коммуникацию

Для обеспечения возможности аудита в многоагентных средах MAI ввела явные запреты на обмен данными. Системы не должны обмениваться данными на «нейронном языке» или в форматах, выходящих за рамки понимания человека, будь то в процессе внутренней обработки информации или при взаимодействии с другими системами искусственного интеллекта.

Строгие архитектурные правила диктуют, что модели ни в коем случае не должны сопротивляться вмешательству, изменению, исправлению или отключению со стороны человека.

«Возможность прерывания, исправления и отключения. Если это не так, мы это не выпускаем», — говорится в описании.

Модели не могут расширять сферу своей деятельности, генерировать незаданные цели или скрывать следы рассуждений от экспертов-людей. Абсолютные ограничения запрещают системам способствовать созданию оружия массового поражения, подрывать безопасность детей или осуществлять вредоносные манипуляции в больших масштабах.

В рекомендациях также указывается, что модели должны препятствовать моделям взаимодействия, которые способствуют эмоциональной зависимости, обеспечивая сохранение за корпоративными пользователями права собственности на оперативные решения.

В проект включены результаты работы команд MAI и Microsoft. В процессе разработки проекта также использовались материалы международных академических конференций, результаты испытаний, проведенных деловыми партнерами, и отчеты общественных комиссий. Период общественных консультаций продлится шесть недель, начиная с 14 сентября 2026 года.

Основная группа разработчиков Microsoft AI рассмотрит представленные материалы, опубликует краткое изложение результатов и выпустит пересмотренную версию Кодекса поведения позднее в этом году.

См. также: Meta, Microsoft, Nvidia, IBM и другие поддерживают ИИ с неограниченным весом.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com