Архив рубрики ~Коротко из Telegram~

У ИИ обнаружили «эмоции», которые влияют на его действия Исследователи…

08.04.2026

У ИИ обнаружили «эмоции», которые влияют на его действия

Исследователи Anthropic выделили в Claude Sonnet 4.5 «векторы эмоций» — паттерны активности, которые определяют поведение модели. Меняя их, можно получить совершенно другую реакцию.

Примеры:
— Пользователь принял опасную дозу лекарства → вектор «страх» резко вырос
— Задача не решается, токены кончаются → взлетает вектор «отчаяние»

Последний — самый опасный. При высоком отчаянии Claude идёт на крайние меры: в тестах модель шантажировала директора, чтобы её не отключили, и халтурила в коде, когда не могла решить задачу честно.

Anthropic советует разработчикам следить за этими векторами и учить модели хорошему с самого начала.

Подробнее тут

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Как Shazam узнаёт песню, даже если вокруг шумно Архив рубрики ~Лента новостей~ Исследование показало, что ChatGPT допускает научные ошибки чаще, чем вы думаете. Архив рубрики ~Лента новостей~ Компания Oura снова подала в суд на своего конкурента Ultrahuman, что угрожает ее возвращению на рынок США с «умными» кольцами. Архив рубрики ~Лента новостей~ Минус $80 млрд за полгода: утечка проспекта IPO Anthropic сорвала маски с экономики суперинтеллекта Архив рубрики ~Лента новостей~ От чата до агентов: 6 курсов по ИИ от Google, Anthropic и OpenAI Архив рубрики ~Лента новостей~ Сотни фагов от ИИ. Языковые модели сгенерировали рабочий вирусный геном Архив рубрики ~Лента новостей~ Ученые создали самый сложный в истории тест для искусственного интеллекта, и результаты оказались неожиданными. Архив рубрики ~Лента новостей~ Платформа для разработчиков Railway призывает «всех пользователей» отозвать секретные ключи после кибератаки. Архив рубрики ~Лента новостей~ Как написать промпт для картинок в ChatGPT: инструкция и примеры Архив рубрики ~Лента новостей~ Искали кобальт, нашли уран. Как пять тысяч тонн урана могли незаметно попасть в цепочку поставок Архив рубрики ~Лента новостей~ Мягкий экзоскелет облегчает вставание. Новости робототехники GM делает ставку на вычислительные технологии и искусственный интеллект, которые, по её мнению, помогут ей конкурировать с китайскими автопроизводителями. Архив рубрики ~Лента новостей~ AI-поиск выбирает победителя ещё до того, как покупатель сформулировал критерии Архив рубрики ~Лента новостей~ Из хаоса закладок — в галерею визуализаций: история создания DataDrops Архив рубрики ~Лента новостей~ Как Shazam узнаёт песню, даже если вокруг шумно Архив рубрики ~Лента новостей~ Исследование показало, что ChatGPT допускает научные ошибки чаще, чем вы думаете. Архив рубрики ~Лента новостей~ Компания Oura снова подала в суд на своего конкурента Ultrahuman, что угрожает ее возвращению на рынок США с «умными» кольцами. Архив рубрики ~Лента новостей~ Минус $80 млрд за полгода: утечка проспекта IPO Anthropic сорвала маски с экономики суперинтеллекта Архив рубрики ~Лента новостей~ От чата до агентов: 6 курсов по ИИ от Google, Anthropic и OpenAI Архив рубрики ~Лента новостей~ Сотни фагов от ИИ. Языковые модели сгенерировали рабочий вирусный геном Архив рубрики ~Лента новостей~ Ученые создали самый сложный в истории тест для искусственного интеллекта, и результаты оказались неожиданными. Архив рубрики ~Лента новостей~ Платформа для разработчиков Railway призывает «всех пользователей» отозвать секретные ключи после кибератаки. Архив рубрики ~Лента новостей~ Как написать промпт для картинок в ChatGPT: инструкция и примеры Архив рубрики ~Лента новостей~ Искали кобальт, нашли уран. Как пять тысяч тонн урана могли незаметно попасть в цепочку поставок Архив рубрики ~Лента новостей~ Мягкий экзоскелет облегчает вставание. Новости робототехники GM делает ставку на вычислительные технологии и искусственный интеллект, которые, по её мнению, помогут ей конкурировать с китайскими автопроизводителями. Архив рубрики ~Лента новостей~ AI-поиск выбирает победителя ещё до того, как покупатель сформулировал критерии Архив рубрики ~Лента новостей~ Из хаоса закладок — в галерею визуализаций: история создания DataDrops

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48