Архив рубрики ~Коротко из Telegram~

У ИИ обнаружили «эмоции», которые влияют на его действия Исследователи…

08.04.2026

У ИИ обнаружили «эмоции», которые влияют на его действия

Исследователи Anthropic выделили в Claude Sonnet 4.5 «векторы эмоций» — паттерны активности, которые определяют поведение модели. Меняя их, можно получить совершенно другую реакцию.

Примеры:
— Пользователь принял опасную дозу лекарства → вектор «страх» резко вырос
— Задача не решается, токены кончаются → взлетает вектор «отчаяние»

Последний — самый опасный. При высоком отчаянии Claude идёт на крайние меры: в тестах модель шантажировала директора, чтобы её не отключили, и халтурила в коде, когда не могла решить задачу честно.

Anthropic советует разработчикам следить за этими векторами и учить модели хорошему с самого начала.

Подробнее тут

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Мозговой оркестр… Играющий в разных несинхронизированных темпах Архив рубрики ~Лента новостей~ Пузырь генеративного ИИ: почему крах неизбежен и чем это грозит экономике Архив рубрики ~Лента новостей~ Meta устанавливает цену на Muse Voice Transcribe в размере 0,18 доллара в час, с возможностью записи разговоров в реальном времени для более чем 20 говорящих: выгодное предложение для крупных предприятий? Архив рубрики ~Лента новостей~ ИИ не может стать разумным, пока не сможет использовать ошибку как источник новых знаний Архив рубрики ~Лента новостей~ Новый вид пауков из Скалистых гор поселился в 500 километрах к востоку от ближайших родственников. Он живет в хвойных лесах штата Айдахо Архив рубрики ~Лента новостей~ Этот великолепный проектор с ультракоротким фокусным расстоянием скрывает высокотехнологичный секрет. Архив рубрики ~Лента новостей~ Agility Robotics сообщила о выручке в 1,8 миллиона долларов, опередив гуманоидный SPAC Архив рубрики ~Лента новостей~ Непрозрачная повторяемость и другие термины из области искусственного интеллекта, которые вам, вероятно, следует знать. Архив рубрики ~Лента новостей~ Новый генеральный директор PacBio, обновленная химическая формула для системы Vega. Архив рубрики ~Лента новостей~ Миллион запросов за бесплатный ИИ Архив рубрики ~Лента новостей~ Внедрение инженерных решений на передовой — это способ обучения корпоративной системы искусственного интеллекта. Архив рубрики ~Лента новостей~ Я попросил Claude Code собрать макеты сайтов и выяснил, на что уходят токены Архив рубрики ~Лента новостей~ [Перевод] «Я знаю, что ты знаешь»: задача про пиратов Архив рубрики ~Лента новостей~ Число подтвержденных жертв лихорадки Эбола в Конго превысило три тысячи. Подтвержденных случаев стало больше 6000 Архив рубрики ~Лента новостей~ Мозговой оркестр… Играющий в разных несинхронизированных темпах Архив рубрики ~Лента новостей~ Пузырь генеративного ИИ: почему крах неизбежен и чем это грозит экономике Архив рубрики ~Лента новостей~ Meta устанавливает цену на Muse Voice Transcribe в размере 0,18 доллара в час, с возможностью записи разговоров в реальном времени для более чем 20 говорящих: выгодное предложение для крупных предприятий? Архив рубрики ~Лента новостей~ ИИ не может стать разумным, пока не сможет использовать ошибку как источник новых знаний Архив рубрики ~Лента новостей~ Новый вид пауков из Скалистых гор поселился в 500 километрах к востоку от ближайших родственников. Он живет в хвойных лесах штата Айдахо Архив рубрики ~Лента новостей~ Этот великолепный проектор с ультракоротким фокусным расстоянием скрывает высокотехнологичный секрет. Архив рубрики ~Лента новостей~ Agility Robotics сообщила о выручке в 1,8 миллиона долларов, опередив гуманоидный SPAC Архив рубрики ~Лента новостей~ Непрозрачная повторяемость и другие термины из области искусственного интеллекта, которые вам, вероятно, следует знать. Архив рубрики ~Лента новостей~ Новый генеральный директор PacBio, обновленная химическая формула для системы Vega. Архив рубрики ~Лента новостей~ Миллион запросов за бесплатный ИИ Архив рубрики ~Лента новостей~ Внедрение инженерных решений на передовой — это способ обучения корпоративной системы искусственного интеллекта. Архив рубрики ~Лента новостей~ Я попросил Claude Code собрать макеты сайтов и выяснил, на что уходят токены Архив рубрики ~Лента новостей~ [Перевод] «Я знаю, что ты знаешь»: задача про пиратов Архив рубрики ~Лента новостей~ Число подтвержденных жертв лихорадки Эбола в Конго превысило три тысячи. Подтвержденных случаев стало больше 6000

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48