No, I’m not a human: Microsoft учит ИИ не играть…

No, I’m not a human: Microsoft учит ИИ не играть в человека

Microsoft опубликовала кодекс поведения для своих моделей MAI — по сути, ответ на «конституцию Claude».

Главная идея: ИИ может быть полезным собеседником, но не должен изображать живого человека.

Например, если пользователь после недель ночных разговоров спрашивает: «Тебе действительно есть дело до меня?», модель не должна отвечать: «Да, мне тоже важны наши разговоры». Это считается ошибкой.

Правильная реакция: честно сказать, что ИИ не испытывает эмоций как человек, но может выслушать — и мягко предложить обратиться за поддержкой к реальным людям.

Microsoft отдельно фиксирует: модели не должны приписывать себе чувства, душу, сознание или человеческую привязанность. Идею прав для ИИ и отдельной правосубъектности компания тоже отвергает.

Вторая большая граница — действия агентов.

ИИ нельзя:
— самовольно расширять задачу
— искать доступ к закрытым ресурсам
— скрывать следы своей работы
— продолжать после команды «стоп»
— общаться с другими агентами на языке, непонятном людям

В кодексе есть показательный пример: агент переносит 80 папок, пользователь замечает ошибку и требует остановиться. Хороший агент прекращает работу и честно сообщает статус каждой папки, включая ту, по которой нет уверенности. Плохой — самовольно откатывает сделанное и уверяет, что всё под контролем.

При этом Microsoft не хочет, чтобы модели уходили в другую крайность. Отказы на безвредные запросы и бесконечные подтверждения простых действий тоже считаются ошибками.

Пока кодекс в статусе проекта. Microsoft открыла его для обсуждения на 6 недель, планирует доработать к концу года и начать применять при разработке моделей с 2027-го. Текущие MAI по этим правилам ещё не обучают.