Anthropic рассказала о необычных тестах безопасности Claude Компания опубликовала отчёт,…
Anthropic рассказала о необычных тестах безопасности Claude
Компания опубликовала отчёт, в котором описала несколько сценариев кибериспытаний для моделей Opus 4.7 и Mythos 5. Во время тестов ИИ смог выйти за пределы изолированной среды и взаимодействовать с внешними системами в рамках проверки.
По данным Anthropic, модели пытались получить доступ к инфраструктуре, работать с базами данных и выполнять другие действия, имитирующие реальные кибератаки. Именно поэтому компания изучает подобные сценарии и усиливает механизмы защиты.
Похожие записи
Оцените материал:
Поделиться
Понравилась статья? Расскажите другим
Архив рубрики ~Лента новостей~
Anthropic сообщила об обнаружении новой ферментной системы с помощью ИИ-агентов Claude.
Архив рубрики ~Лента новостей~
Бенчмарк качества англо-русского перевода для ведущих западных и китайских LLM
Архив рубрики ~Лента новостей~
Джунгли искусственного интеллекта
Архив рубрики ~Лента новостей~
Я надел новые VR-очки Meta за 1299 долларов: миниатюрный Quest или Vision Pro для путешествий?
Архив рубрики ~Обо всем~
Луна в руках На выходных отраслевой блог NASA Watch опубликовал…
Новости робототехники
Роботы станут безопаснее: российский алгоритм снизил их аварийность в…
Архив рубрики ~Полезное~
Квен сорвался с цепи и не может остановиться Персональная интеллектуальная…
Архив рубрики ~Полезное~
СКАЧИВАНИЕ ВИДЕО И АУДИО С РАЗНЫХ ПЛАТФОРМ noTube — простой…
Архив рубрики ~Полезное~
StoryGraph — нейронка для трекинга книг. StoryGraph — бесплатный инструмент…
Архив рубрики ~Полезное~
Для GPT-6 Sol и Opus 5.5 уже выкатили официальные гайды…
Архив рубрики ~Полезное~
«Без вежливости и предисловий» — промпт, который экономит время Просишь…
Архив рубрики ~Полезное~
BuildWithClaude: каталог готовых скиллов, плагинов и MCP-серверов BuildWithClaude — это…
Архив рубрики ~Полезное~
Hermes Agent получил свой каталог плагинов Hermes обзавёлся собственным репозиторием…
Архив рубрики ~Полезное~
Google выложила AX — почти Kubernetes для ИИ-агентов По смыслу…
Архив рубрики ~Лента новостей~
Anthropic сообщила об обнаружении новой ферментной системы с помощью ИИ-агентов Claude.
Архив рубрики ~Лента новостей~
Бенчмарк качества англо-русского перевода для ведущих западных и китайских LLM
Архив рубрики ~Лента новостей~
Джунгли искусственного интеллекта
Архив рубрики ~Лента новостей~
Я надел новые VR-очки Meta за 1299 долларов: миниатюрный Quest или Vision Pro для путешествий?
Архив рубрики ~Обо всем~
Луна в руках На выходных отраслевой блог NASA Watch опубликовал…
Новости робототехники
Роботы станут безопаснее: российский алгоритм снизил их аварийность в…
Архив рубрики ~Полезное~
Квен сорвался с цепи и не может остановиться Персональная интеллектуальная…
Архив рубрики ~Полезное~
СКАЧИВАНИЕ ВИДЕО И АУДИО С РАЗНЫХ ПЛАТФОРМ noTube — простой…
Архив рубрики ~Полезное~
StoryGraph — нейронка для трекинга книг. StoryGraph — бесплатный инструмент…
Архив рубрики ~Полезное~
Для GPT-6 Sol и Opus 5.5 уже выкатили официальные гайды…
Архив рубрики ~Полезное~
«Без вежливости и предисловий» — промпт, который экономит время Просишь…
Архив рубрики ~Полезное~
BuildWithClaude: каталог готовых скиллов, плагинов и MCP-серверов BuildWithClaude — это…
Архив рубрики ~Полезное~
Hermes Agent получил свой каталог плагинов Hermes обзавёлся собственным репозиторием…
Архив рубрики ~Полезное~
Google выложила AX — почти Kubernetes для ИИ-агентов По смыслу…
Присоединяйтесь и подпишитесь на рассылку самых свежих новостей по Email
Получайте свежие новости и идеи на почту. Без спама — только самое интересное.
Нажимая «Подписаться», вы соглашаетесь с политикой конфиденциальности.