Anthropic использует пятый сонет Клода, басню и восстановленный мифологический контекст.

Внутри ИИ

Anthropic использует пятый сонет Клода, басню и восстановленный мифологический контекст.

Компания Anthropic запустила Claude Sonnet 5 и восстановила доступ к своим моделям Fable и Mythos после проверки со стороны федеральных органов по контролю за экспортом.

Это решение знаменует собой завершение восемнадцатидневной оперативной паузы, вызванной директивой правительства США по экспортному контролю от 12 июня, которая вынудила временно приостановить работу самых мощных систем компании Anthropic.

Правительственные чиновники ввели это ограничение после того, как исследователи из Amazon задокументировали метод обхода средств защиты Fable 5, в результате чего модель смогла выявить уязвимости программного обеспечения и предоставить код для их эксплуатации. С тех пор компания Anthropic разработала обновленный автоматизированный классификатор для устранения уязвимости, что открывает путь для полномасштабного коммерческого внедрения на своей платформе, в облачной инфраструктуре и партнерских сетях.

Временная приостановка работы Fable 5 и Mythos 5 подчеркнула регуляторное давление, с которым сталкиваются системы разведки на границе. После вступления в силу требований экспортного контроля отсутствие систем проверки гражданства в режиме реального времени потребовало полного запрета доступа для всех пользователей по всему миру.

Проведенные во время отключения системы оценки безопасности подтвердили, что поведение при выявлении уязвимостей не является уникальным для Fable 5. Более старые и менее производительные архитектуры от различных поставщиков, включая Claude Opus 4.8, GPT-5.5 и Kimi K2.7, воспроизвели те же результаты.

Для выполнения федерального предписания инженеры обучили автоматизированный классификатор безопасности, нацеленный на конкретный механизм обхода, о котором сообщила Amazon. Этот программный слой работает с большим запасом безопасности, выявляя и блокируя неоднозначные запросы разработчиков, которые демонстрируют статистическую вероятность злонамеренных намерений. Данные внутренней проверки показывают, что обновленный классификатор предотвращает описанный метод эксплуатации более чем в 99 процентах случаев.

Когда разработчик отправляет запрос, который активирует этот ограничительный порог, платформа автоматически перенаправляет рабочую нагрузку на более старую архитектуру Opus 4.8 для обеспечения непрерывности работы. Расширенный запас безопасности вводит существенный компромисс для инженерных групп, поскольку автоматизированная система чаще помечает безобидные запросы во время рутинной разработки приложений и отладки программного обеспечения.

Активное развертывание и агентные рабочие процессы

В то время как передовые модели сталкиваются со строгим государственным надзором, в непосредственной коммерческой перспективе основное внимание уделяется недавно внедренной системе Claude Sonnet 5.

Инженерные группы переводят автономных агентов на эту модель, чтобы сократить операционные расходы, сохраняя при этом высокую производительность. Данные о производительности подтверждают, что система выполняет многоэтапные планы, работает в терминальных средах и перемещается по веб-браузерам без вмешательства человека.

Показатели производительности и стоимости модели:

*Стоимость за миллион токенов. В рамках программы Sonnet 5 действуют вводные тарифы $2,00 на вход / $10,00 на выход до 31 августа 2026 года.

Реальные примеры внедрения демонстрируют, как организации используют эту архитектуру в действующих процессах разработки программного обеспечения.

В Rakuten технологические команды развернули архитектуру для десятков самых сложных запросов на слияние кода в рабочую среду. Система обрабатывала каждый запрос независимо, выполняя тесты и проверяя результаты, прежде чем представить готовый код инженерам для окончательного структурного утверждения.

Компания Zapier, занимающаяся автоматизацией программного обеспечения, интегрировала систему в основные рабочие процессы своего продукта для выполнения многоэтапных административных задач. В ходе документированного развертывания инженеры поручили модели обновить уровни учетных записей Salesforce, а затем сгенерировать и отправить объявления о запуске корпоративным контактам. Предыдущие архитектуры моделей часто зависали на полпути к завершению этих многоэтапных операций, в то время как текущая система выполняла всю последовательность от начала до конца без вмешательства человека.

Компания Zed, поставщик инструментов разработки, использовала эту систему для автоматизации сложных процедур отладки. В ходе внутренних испытаний инженерные группы направляли модель на исследование активной ошибки программного обеспечения. Работая без явных подсказок или пошаговых инструкций, система самостоятельно генерировала воспроизводимый тестовый скрипт, применяла необходимые исправления кода и сохраняла изменения, чтобы убедиться, что ошибка снова появляется в отсутствие исправления. Вся последовательность диагностики и устранения ошибки происходила в рамках одного прохода обработки.

Платформа для разработки программного обеспечения Factory внедрила архитектуру для управления длительными задачами кодирования в сложных средах с кодовой базой. Технические команды сообщили, что система поддерживала логическую структуру и согласованность выполнения во всех корпоративных репозиториях кода, превосходя программные уровни предыдущего поколения за счет выполнения задач, которые ранее завершались с ошибкой или не могли быть выполнены.

Количественный анализ безопасности и пределы эксплуатации

Данные из официальной системной карты указывают на то, что система достигает этих автономных возможностей без соответствующего увеличения рисков безопасности. Автоматизированные поведенческие проверки, предназначенные для выявления обманных тенденций и сотрудничества с несанкционированными запросами, показывают, что модель демонстрирует более низкий общий уровень несоответствия по сравнению со своим непосредственным предшественником, Sonnet 4.6.

Архитектура не обладает расширенными возможностями в области наступательной кибербезопасности. Инженеры-антропологи исключили из протокола обучения специализированные наборы данных по кибербезопасности, ограничив систему рутинными техническими задачами по защите. В ходе публичных оценок безопасности, проведенных в партнерстве с Mozilla, исследователи протестировали способность модели создавать функциональные эксплойты для известных уязвимостей в ядре браузера Firefox 147.

Модель не смогла сгенерировать ни одного работающего эксплойта за все оценочные периоды, показав нулевой процент успеха. Однако она достигла 13,2-процентного показателя частичного успеха, что представляет собой незначительное улучшение по сравнению с Sonnet 4.6, хотя инженеры объясняют это изменение общим улучшением логического мышления, а не специализированной подготовкой к атакам. Из соображений предосторожности коммерческие версии поставляются с классификаторами безопасности в реальном времени по умолчанию, эквивалентными тем, которые используются в ведущей платформе Opus 4.8.

Разногласия с регулирующими органами вокруг Fable 5 привели к формальному партнерству между Anthropic, Amazon, Microsoft и Google с целью создания объективной отраслевой системы оценки нарушений безопасности моделей. В настоящее время у поставщиков отсутствует единая метрика для классификации серьезности обходов системы, что создает неопределенность в регулировании, когда исследователи выявляют новые уязвимости, влияющие на безопасность.

Предложенная система управления оценивает нарушения безопасности по четырем конкретным техническим критериям:

• Показатель прироста возможностей отражает, насколько эксплойт расширяет возможности пользователя по сравнению со стандартными, широко доступными программными утилитами.
• Широта возможностей, которые открываются благодаря использованию одной и той же уязвимости, количественно определяет количество различных наступательных операций, которые она позволяет провести.
• Показатель легкости создания оружия отражает объем инженерно-технических усилий и специализированных методов, необходимых для получения вредоносного эффекта.
• Обнаруживаемость определяет доступность метода эксплуатации уязвимости в публичных исследовательских кругах.

Разработчики и специалисты по кибербезопасности будут использовать эту матрицу для координации защитных мер. В случае серьезных нарушений, таких как эксплойты, демонстрирующие немедленную способность нарушить работу систем финансового учета или электропередающих сетей, поставщики будут немедленно развертывать автоматизированные средства защиты. Эта инициатива работает параллельно с недавно созданной программой исследования уязвимостей HackerOne и специализированной корпоративной группой мониторинга, обеспечивающей круглосуточный контроль за каналами получения информации об угрозах.

Стратегии развертывания должны будут адаптироваться к более тесному взаимодействию между разработчиками моделей и государственными регулирующими органами. Компания Anthropic в рамках недавних указов исполнительной власти оформила соглашения, предоставляющие федеральным исследователям ранний доступ к передовым архитектурам до их публичного коммерческого выпуска. Эти совместные окна оценки позволяют внешним аналитикам безопасности проверять возможности моделей наряду с внутренними инженерными группами, обеспечивая соответствие нормативным требованиям до того, как код попадет в производственную среду.

См. также: HP ускоряет корпоративные рабочие процессы с помощью OpenAI Frontier

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com