Архив рубрики ~Коротко из Telegram~

Anthropic показала: Claude способен на элементарную интроспекцию Исследователи из Anthropic…

02.11.2025

Anthropic показала: Claude способен на элементарную интроспекцию

Исследователи из Anthropic опубликовали работу, в которой доказали, что модели Claude Opus 4 и 4.1 обладают зачатками интроспекции — способности отслеживать собственные внутренние состояния.

Учёные применили метод «внедрения концепций»: искусственно активировали в модели абстрактные идеи вроде *«предательство»* или *«заглавные буквы»* без текстового запроса. В 20% случаев Claude распознал вмешательство и сообщил о нём до того, как навязанные мысли повлияли на ответ.

Вывод: это ещё не сознание, но ранняя форма самонаблюдения, которая усиливается по мере роста мощности модели. В будущем такие механизмы могут сделать ИИ прозрачнее и безопаснее — он сможет объяснять, как рассуждает и когда подвергается взлому или внешнему влиянию.

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ [Перевод] У парадокса голосования нашлась форма: это бутылка Клейна Архив рубрики ~Лента новостей~ Роман, Нэнси Роман. Как появилась и чем займется еще одна космическая обсерватория Архив рубрики ~Лента новостей~ Как ошибка в измерения погубила Mars Climate Orbiter? Архив рубрики ~Лента новостей~ Чужака казнят за фальшивую ноту в приветствии Архив рубрики ~Лента новостей~ Юридическая фирма по искусственному интеллекту Crosby делает ставку на распадающуюся знаменитую фирму Weil Gotshal Архив рубрики ~Лента новостей~ Как исследовательский проект Массачусетского технологического института превратился в глобальный язык программирования Архив рубрики ~Лента новостей~ Больше чем предложение: как Альфа-Банк создал ИИ-двигатель для работы с бизнесом Архив рубрики ~Лента новостей~ От Word по почте до ИИ‑скиллов: обсудим эволюцию документации и зачем нейросетям бизнес‑контекст Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Архив рубрики ~Лента новостей~ Для получения религиозного освобождения от использования ИИ на работе не обязательно верить в бога. Архив рубрики ~Лента новостей~ Яндекс Браузер впервые преодолел отметку в 100 миллионов активных пользователей на устройствах Архив рубрики ~Лента новостей~ ИИ всегда на вашей стороне. Почему это может стать проблемой, особенно для подростков? Архив рубрики ~Лента новостей~ Воспоминания об АОНе. Как работал определитель номера и почему он вызывал столько дискуссий Архив рубрики ~Лента новостей~ Микропластик сорбировал железо и медь из сыворотки крови. Они вошли в состав белковой короны на частицах пластика Архив рубрики ~Лента новостей~ [Перевод] У парадокса голосования нашлась форма: это бутылка Клейна Архив рубрики ~Лента новостей~ Роман, Нэнси Роман. Как появилась и чем займется еще одна космическая обсерватория Архив рубрики ~Лента новостей~ Как ошибка в измерения погубила Mars Climate Orbiter? Архив рубрики ~Лента новостей~ Чужака казнят за фальшивую ноту в приветствии Архив рубрики ~Лента новостей~ Юридическая фирма по искусственному интеллекту Crosby делает ставку на распадающуюся знаменитую фирму Weil Gotshal Архив рубрики ~Лента новостей~ Как исследовательский проект Массачусетского технологического института превратился в глобальный язык программирования Архив рубрики ~Лента новостей~ Больше чем предложение: как Альфа-Банк создал ИИ-двигатель для работы с бизнесом Архив рубрики ~Лента новостей~ От Word по почте до ИИ‑скиллов: обсудим эволюцию документации и зачем нейросетям бизнес‑контекст Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Архив рубрики ~Лента новостей~ Для получения религиозного освобождения от использования ИИ на работе не обязательно верить в бога. Архив рубрики ~Лента новостей~ Яндекс Браузер впервые преодолел отметку в 100 миллионов активных пользователей на устройствах Архив рубрики ~Лента новостей~ ИИ всегда на вашей стороне. Почему это может стать проблемой, особенно для подростков? Архив рубрики ~Лента новостей~ Воспоминания об АОНе. Как работал определитель номера и почему он вызывал столько дискуссий Архив рубрики ~Лента новостей~ Микропластик сорбировал железо и медь из сыворотки крови. Они вошли в состав белковой короны на частицах пластика

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48