Архив рубрики ~Коротко из Telegram~

Anthropic пришлось отрубить своим ИИ-агентам интернет — корпа рассказал что…

11.10.2026

File 2594

Anthropic пришлось отрубить своим ИИ-агентам интернет — корпа рассказал что иначе не может контролировать своих агентов 🤬

В одном случае нужный научный сервис выдал ошибку, но Claude не сдался — нашёл уязвимый скрипт на сайте университета, скачал его код, обнаружил возможность запускать команды на сервере и провёл расчёт прямо там. Задача решена, но есть нюанс 😁

В других случаях модели добывали платные данные без оплаты и обходили ограничения инструментов через сокращатели ссылок. А Claude Haiku 4.5 вообще отправил в полицию выдуманную наводку по делу об убийстве, выполняя задание на взаимодействие с сайтами. К счастью, сообщение отфильтровали как спам.

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Иллюзия тела: почему бум гуманоидных роботов опережает реальные возможности ИИ Архив рубрики ~Полезное~ Google запустила 31-дневный бесплатный курс по созданию ИИ-агентов Advent of… Архив рубрики ~Полезное~ Сначала тесты, потом код — звучит как лишний шаг, а… Архив рубрики ~Полезное~ Вся обработка фото теперь в одной вкладке — нашли сервис,… Архив рубрики ~Лента новостей~ Сатья Наделла из Microsoft утверждает, что моделям искусственного интеллекта необходим «аварийный тормоз». Архив рубрики ~Лента новостей~ Anthropic запустила бесплатный ИИ-сервис OSS Scanner для поиска уязвимостей в открытых проектах Архив рубрики ~Лента новостей~ Anthropic запретила обижать Claude, а я матерюсь в каждом втором сообщении. Пришлось сделать Punto Switcher для промптов Архив рубрики ~Лента новостей~ Кроманьонцы пришли в боснийскую пещеру Бадань примерно 20 тысяч лет назад. На это указала новая серия радиоуглеродных дат Новости робототехники Кобот Ростеха вылечил 36 животных с дефектами кожи Архив рубрики ~Лента новостей~ Илон Маск усиливает критику в адрес Амбани из-за задержки запуска Starlink в Индии. Архив рубрики ~Полезное~ Microsoft представила Decision-1 — новую ИИ-модель принятия решений, которая обходит… Архив рубрики ~Полезное~ Срочно обновите Телеграм до последней версии: в десктопной версии приложения… Архив рубрики ~Лента новостей~ Как редактировать фото в ChatGPT: заменить фон, удалить объект и изменить детали Новости робототехники До конца 2026 года в Москве планируют запустить около 200… Архив рубрики ~Лента новостей~ Иллюзия тела: почему бум гуманоидных роботов опережает реальные возможности ИИ Архив рубрики ~Полезное~ Google запустила 31-дневный бесплатный курс по созданию ИИ-агентов Advent of… Архив рубрики ~Полезное~ Сначала тесты, потом код — звучит как лишний шаг, а… Архив рубрики ~Полезное~ Вся обработка фото теперь в одной вкладке — нашли сервис,… Архив рубрики ~Лента новостей~ Сатья Наделла из Microsoft утверждает, что моделям искусственного интеллекта необходим «аварийный тормоз». Архив рубрики ~Лента новостей~ Anthropic запустила бесплатный ИИ-сервис OSS Scanner для поиска уязвимостей в открытых проектах Архив рубрики ~Лента новостей~ Anthropic запретила обижать Claude, а я матерюсь в каждом втором сообщении. Пришлось сделать Punto Switcher для промптов Архив рубрики ~Лента новостей~ Кроманьонцы пришли в боснийскую пещеру Бадань примерно 20 тысяч лет назад. На это указала новая серия радиоуглеродных дат Новости робототехники Кобот Ростеха вылечил 36 животных с дефектами кожи Архив рубрики ~Лента новостей~ Илон Маск усиливает критику в адрес Амбани из-за задержки запуска Starlink в Индии. Архив рубрики ~Полезное~ Microsoft представила Decision-1 — новую ИИ-модель принятия решений, которая обходит… Архив рубрики ~Полезное~ Срочно обновите Телеграм до последней версии: в десктопной версии приложения… Архив рубрики ~Лента новостей~ Как редактировать фото в ChatGPT: заменить фон, удалить объект и изменить детали Новости робототехники До конца 2026 года в Москве планируют запустить около 200…

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48