Google пять месяцев держали ИИ-агента в рабочих чатах реальных команд…

Google пять месяцев держали ИИ-агента в рабочих чатах реальных команд — и выяснили, что коллегой он оказался так себе.

Агент получил доступ к документам и баг-трекеру, мог писать людям в личку, ставить реакции и тегать коллег. Но язык с командой не нашёл: активные обсуждения принимал за конфликты, а кого-то отчитал за шутки, не распознав сарказм.

В итоге сотрудники начали создавать отдельные чаты уже без него — чтобы спокойно обсуждать чувствительные темы и не чувствовать, что за ними подслушивают.

Главное, чтобы ИИ на это не обиделся.

→ Исследование на arXiv