Архив рубрики ~Коротко из Telegram~

Anthropic починила Claude: за пару недель убрали 85% ложных срабатываний…

Anthropic починила Claude: за пару недель убрали 85% ложных срабатываний…
File 1010

Anthropic починила Claude: за пару недель убрали 85% ложных срабатываний фильтра по биологии
Когда в июне вышла модель Fable 5, Anthropic столкнулась с неприятной проблемой: модель настолько хорошо разбиралась в биологии, что теоретически могла помочь с созданием опасных веществ. Решение выбрали простое и грубое — поставили максимально широкие фильтры на всё, что связано с биологией, а точную настройку отложили на потом. Компания сама признала: это был осознанный компромисс, а не баг, и цена за него — море ложных срабатываний на совершенно безобидные вопросы.

За несколько недель команда переписала «конституцию» классификатора — набор правил, по которым модель отличает опасный запрос от обычного, привлекла внешних экспертов по биобезопасности, собрала новые данные и переобучила систему. Результат в цифрах: в Claude.ai блокировок по биологическим темам стало меньше на 67%, в Cowork — на 55%, в Claude Code — на 17%, в Claude Platform — на 7%. Суммарно по всем продуктам ложных срабатываний стало меньше на 85%.

Теперь без лишних отказов работают запросы на интерпретацию анализов, вопросы о симптомах и здоровье, биология в учебном контексте и клинические задачи для врачей. А вот вирусология, токсикология и молекулярный дизайн по-прежнему остаются под жёстким контролем — для таких запросов система переключает на более осторожную модель Opus 5, для аккредитованных исследователей обещают отдельную программу доступа. Разработчикам, кстати, стоит поторопиться: старый Workbench закрывается 17 августа, и все сохранённые промпты и версии нужно успеть выгрузить до этой даты.

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Лента новостей~ Цифровой терроризм без границ: как Узбекистан предлагает защитить Центральную Азию от новых угроз Архив рубрики ~Лента новостей~ Искусственный интеллект выявляет ранние признаки риска развития рака кожи. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Архив рубрики ~Лента новостей~ Новая формула помогает РНК-вакцинам выдерживать высокие температуры. Архив рубрики ~Лента новостей~ Нейросеть знает продукт, но не связывает его с производителем: как бренд теряет собственную известность Новости робототехники Это простое изменение предотвращает застревание роев роботов. Архив рубрики ~Лента новостей~ Стартап Corma, специализирующийся на кибербезопасности и искусственном интеллекте, достиг оценки в 1 миллиард долларов примерно за 3 месяца. Архив рубрики ~Лента новостей~ Свой нативный клиент для AI-агентов за 3 дня: зачем делать харнес и как устроен BB на iPhone и Mac Архив рубрики ~Лента новостей~ Как мы с ИИ искали антиэнтропию и куда он меня завёл Архив рубрики ~Лента новостей~ «Уэбб» обнаружил «запрещённый» сигнал, который раньше не наблюдали ни во Вселенной, ни даже в лаборатории Архив рубрики ~Лента новостей~ ДНК с обложки юбилейного издания «Эгоистичного гена» оказалась закручена в неправильную сторону. Версию с ошибкой выпустили к 50-летию с момента первой публикации книги Архив рубрики ~Лента новостей~ Anthropic научила Claude участвовать в видеозвонках и выполнять задачи прямо во время встречи Архив рубрики ~Лента новостей~ Глубокая грамотность против нейрослопа Архив рубрики ~Лента новостей~ Где была команда безопасности Nvidia? Архив рубрики ~Лента новостей~ Цифровой терроризм без границ: как Узбекистан предлагает защитить Центральную Азию от новых угроз Архив рубрики ~Лента новостей~ Искусственный интеллект выявляет ранние признаки риска развития рака кожи. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Архив рубрики ~Лента новостей~ Новая формула помогает РНК-вакцинам выдерживать высокие температуры. Архив рубрики ~Лента новостей~ Нейросеть знает продукт, но не связывает его с производителем: как бренд теряет собственную известность Новости робототехники Это простое изменение предотвращает застревание роев роботов. Архив рубрики ~Лента новостей~ Стартап Corma, специализирующийся на кибербезопасности и искусственном интеллекте, достиг оценки в 1 миллиард долларов примерно за 3 месяца. Архив рубрики ~Лента новостей~ Свой нативный клиент для AI-агентов за 3 дня: зачем делать харнес и как устроен BB на iPhone и Mac Архив рубрики ~Лента новостей~ Как мы с ИИ искали антиэнтропию и куда он меня завёл Архив рубрики ~Лента новостей~ «Уэбб» обнаружил «запрещённый» сигнал, который раньше не наблюдали ни во Вселенной, ни даже в лаборатории Архив рубрики ~Лента новостей~ ДНК с обложки юбилейного издания «Эгоистичного гена» оказалась закручена в неправильную сторону. Версию с ошибкой выпустили к 50-летию с момента первой публикации книги Архив рубрики ~Лента новостей~ Anthropic научила Claude участвовать в видеозвонках и выполнять задачи прямо во время встречи Архив рубрики ~Лента новостей~ Глубокая грамотность против нейрослопа Архив рубрики ~Лента новостей~ Где была команда безопасности Nvidia?

Оставить комментарий