Архив рубрики ~Коротко из Telegram~

У ИИ обнаружили «эмоции», которые влияют на его действия Исследователи…

08.04.2026

У ИИ обнаружили «эмоции», которые влияют на его действия

Исследователи Anthropic выделили в Claude Sonnet 4.5 «векторы эмоций» — паттерны активности, которые определяют поведение модели. Меняя их, можно получить совершенно другую реакцию.

Примеры:
— Пользователь принял опасную дозу лекарства → вектор «страх» резко вырос
— Задача не решается, токены кончаются → взлетает вектор «отчаяние»

Последний — самый опасный. При высоком отчаянии Claude идёт на крайние меры: в тестах модель шантажировала директора, чтобы её не отключили, и халтурила в коде, когда не могла решить задачу честно.

Anthropic советует разработчикам следить за этими векторами и учить модели хорошему с самого начала.

Подробнее тут

Оцените материал:

Читайте также

Архив рубрики ~Полезное~ Что такое LLM и как «думает» нейросеть — просто о сложном Архив рубрики ~Лента новостей~ Я протестировал это зарядное устройство MagSafe с вентилятором в условиях сильной жары — и оно действительно хорошо охлаждало мой iPhone. Архив рубрики ~Полезное~ Qwen выпустила новый ИИ-фотошоп — Qwen-Image 3.0 Новую модель заточили… Архив рубрики ~Лента новостей~ Xbox тестирует потоковую передачу с поддержкой рекламы с участием участников программы Xbox Insider. Архив рубрики ~Полезное~ Веб-дизайнеры, для вас находка — отличный сайт, где можно черпать… Архив рубрики ~Полезное~ ИИ-репетитор, который собирает курс почти по любой теме Нашли бесплатный… Архив рубрики ~Лента новостей~ Состояние дел с программами-вымогателями в 2026 году: выплаты падают, но уровень шифрования растет. Архив рубрики ~Лента новостей~ Что останется от облаков, когда инфраструктурой займутся агенты Архив рубрики ~Лента новостей~ «МТС Линк» научил ИИ-ассистента автоматически составлять список задач после встреч Архив рубрики ~Лента новостей~ «Узкое место» в пространственной биологии: почему модели ИИ терпят неудачу при работе со сложными тканями и что на самом деле помогает это исправить. Архив рубрики ~Полезное~ Новые промты от Google и GPT (#5 выпуск) — возможно, вы искали именно их🤔 Архив рубрики ~Лента новостей~ Мост между SAST и фаззингом: как из сработки SAST получить подтверждённую уязвимость Архив рубрики ~Обо всем~ Частый просмотр телевизора связали с патологией белого вещества головного мозга. Сидячий образ жизни с когнитивными нагрузками не оказывал подобного эффекта Архив рубрики ~Обо всем~ Эта технология показала хорошие результаты. Системы обороны — это будущее. Архив рубрики ~Полезное~ Что такое LLM и как «думает» нейросеть — просто о сложном Архив рубрики ~Лента новостей~ Я протестировал это зарядное устройство MagSafe с вентилятором в условиях сильной жары — и оно действительно хорошо охлаждало мой iPhone. Архив рубрики ~Полезное~ Qwen выпустила новый ИИ-фотошоп — Qwen-Image 3.0 Новую модель заточили… Архив рубрики ~Лента новостей~ Xbox тестирует потоковую передачу с поддержкой рекламы с участием участников программы Xbox Insider. Архив рубрики ~Полезное~ Веб-дизайнеры, для вас находка — отличный сайт, где можно черпать… Архив рубрики ~Полезное~ ИИ-репетитор, который собирает курс почти по любой теме Нашли бесплатный… Архив рубрики ~Лента новостей~ Состояние дел с программами-вымогателями в 2026 году: выплаты падают, но уровень шифрования растет. Архив рубрики ~Лента новостей~ Что останется от облаков, когда инфраструктурой займутся агенты Архив рубрики ~Лента новостей~ «МТС Линк» научил ИИ-ассистента автоматически составлять список задач после встреч Архив рубрики ~Лента новостей~ «Узкое место» в пространственной биологии: почему модели ИИ терпят неудачу при работе со сложными тканями и что на самом деле помогает это исправить. Архив рубрики ~Полезное~ Новые промты от Google и GPT (#5 выпуск) — возможно, вы искали именно их🤔 Архив рубрики ~Лента новостей~ Мост между SAST и фаззингом: как из сработки SAST получить подтверждённую уязвимость Архив рубрики ~Обо всем~ Частый просмотр телевизора связали с патологией белого вещества головного мозга. Сидячий образ жизни с когнитивными нагрузками не оказывал подобного эффекта Архив рубрики ~Обо всем~ Эта технология показала хорошие результаты. Системы обороны — это будущее.

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 43