Anthropic починила Claude: за пару недель убрали 85% ложных срабатываний…

Anthropic починила Claude: за пару недель убрали 85% ложных срабатываний фильтра по биологии
Когда в июне вышла модель Fable 5, Anthropic столкнулась с неприятной проблемой: модель настолько хорошо разбиралась в биологии, что теоретически могла помочь с созданием опасных веществ. Решение выбрали простое и грубое — поставили максимально широкие фильтры на всё, что связано с биологией, а точную настройку отложили на потом. Компания сама признала: это был осознанный компромисс, а не баг, и цена за него — море ложных срабатываний на совершенно безобидные вопросы.

За несколько недель команда переписала «конституцию» классификатора — набор правил, по которым модель отличает опасный запрос от обычного, привлекла внешних экспертов по биобезопасности, собрала новые данные и переобучила систему. Результат в цифрах: в Claude.ai блокировок по биологическим темам стало меньше на 67%, в Cowork — на 55%, в Claude Code — на 17%, в Claude Platform — на 7%. Суммарно по всем продуктам ложных срабатываний стало меньше на 85%.

Теперь без лишних отказов работают запросы на интерпретацию анализов, вопросы о симптомах и здоровье, биология в учебном контексте и клинические задачи для врачей. А вот вирусология, токсикология и молекулярный дизайн по-прежнему остаются под жёстким контролем — для таких запросов система переключает на более осторожную модель Opus 5, для аккредитованных исследователей обещают отдельную программу доступа. Разработчикам, кстати, стоит поторопиться: старый Workbench закрывается 17 августа, и все сохранённые промпты и версии нужно успеть выгрузить до этой даты.