Архив рубрики ~Коротко из Telegram~

Anthropic выпустили важное обновление. Без новой модели — просто починили…

Anthropic выпустили важное обновление. Без новой модели — просто починили…
File 1006

Anthropic выпустили важное обновление. Без новой модели — просто починили то что раздражало всех с июня

❔ В чём была проблема
Когда Fable 5 вышел в июне — Anthropic столкнулись с проблемой: модель настолько мощная в биологии, что в теории могла помочь создать опасные вещества

❕Решение было прямолинейным: поставить максимально широкие фильтры и выпустить модель для всего остального — а биологию доработать позже. Anthropic прямо признали что цена этого решения — огромное количество ложных срабатываний на безобидные запросы.
⁉️То есть это был сознательный компромисс, а не баг

🔧Что сделали за несколько недель

Переписали «конституцию» классификатора — набор правил по которым модель отличает опасный контент от обычного. Привлекли внешних экспертов, собрали новые данные, заново обучили модель

📈Результат в цифрах
🟠Claude.ai — биологических блокировок стало меньше на 67%
🟠Cowork — на 55%
🟠Claude Code — на 17%
🟠Claude Platform — на 7%
🟠Общий итог: 85% меньше ложных срабатываний

▫️Что теперь работает нормально
🟢интерпретация анализов и лабораторных результатов
🟢симптомы и здоровье
🟢биология в образовательном контексте
🟢клинические задачи для врачей

⚠️Что по-прежнему блокируется
Вирусология, токсикология и молекулярный дизайн — Fable 5 всё ещё переключается на Opus 5. Для профессиональных биологических исследований модель пока не подходит
📌Для проверенных исследователей — отдельная программа доступа, анонс позже

🕓Важно разработчикам — дедлайн 17 августа
Старый Workbench закрывается 17 августа. Сохранённые промпты, версии и eval’ы исчезнут навсегда — экспортируй данные до этой даты.
Новый Workbench проще: не хранит данные на серверах Anthropic и показывает запрос точно так же как реальный API

🎀Вывод
Приятно когда компания не прячется за «технические причины» — а прямо говорит: «мы знали что это неудобно, это был наш выбор, и вот почему»

➡️Тестируем — тут

#полезное

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Лента новостей~ Цифровой терроризм без границ: как Узбекистан предлагает защитить Центральную Азию от новых угроз Архив рубрики ~Лента новостей~ Искусственный интеллект выявляет ранние признаки риска развития рака кожи. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Архив рубрики ~Лента новостей~ Новая формула помогает РНК-вакцинам выдерживать высокие температуры. Архив рубрики ~Лента новостей~ Нейросеть знает продукт, но не связывает его с производителем: как бренд теряет собственную известность Новости робототехники Это простое изменение предотвращает застревание роев роботов. Архив рубрики ~Лента новостей~ Стартап Corma, специализирующийся на кибербезопасности и искусственном интеллекте, достиг оценки в 1 миллиард долларов примерно за 3 месяца. Архив рубрики ~Лента новостей~ Свой нативный клиент для AI-агентов за 3 дня: зачем делать харнес и как устроен BB на iPhone и Mac Архив рубрики ~Лента новостей~ Как мы с ИИ искали антиэнтропию и куда он меня завёл Архив рубрики ~Лента новостей~ «Уэбб» обнаружил «запрещённый» сигнал, который раньше не наблюдали ни во Вселенной, ни даже в лаборатории Архив рубрики ~Лента новостей~ ДНК с обложки юбилейного издания «Эгоистичного гена» оказалась закручена в неправильную сторону. Версию с ошибкой выпустили к 50-летию с момента первой публикации книги Архив рубрики ~Лента новостей~ Anthropic научила Claude участвовать в видеозвонках и выполнять задачи прямо во время встречи Архив рубрики ~Лента новостей~ Глубокая грамотность против нейрослопа Архив рубрики ~Лента новостей~ Где была команда безопасности Nvidia? Архив рубрики ~Лента новостей~ Цифровой терроризм без границ: как Узбекистан предлагает защитить Центральную Азию от новых угроз Архив рубрики ~Лента новостей~ Искусственный интеллект выявляет ранние признаки риска развития рака кожи. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Архив рубрики ~Лента новостей~ Новая формула помогает РНК-вакцинам выдерживать высокие температуры. Архив рубрики ~Лента новостей~ Нейросеть знает продукт, но не связывает его с производителем: как бренд теряет собственную известность Новости робототехники Это простое изменение предотвращает застревание роев роботов. Архив рубрики ~Лента новостей~ Стартап Corma, специализирующийся на кибербезопасности и искусственном интеллекте, достиг оценки в 1 миллиард долларов примерно за 3 месяца. Архив рубрики ~Лента новостей~ Свой нативный клиент для AI-агентов за 3 дня: зачем делать харнес и как устроен BB на iPhone и Mac Архив рубрики ~Лента новостей~ Как мы с ИИ искали антиэнтропию и куда он меня завёл Архив рубрики ~Лента новостей~ «Уэбб» обнаружил «запрещённый» сигнал, который раньше не наблюдали ни во Вселенной, ни даже в лаборатории Архив рубрики ~Лента новостей~ ДНК с обложки юбилейного издания «Эгоистичного гена» оказалась закручена в неправильную сторону. Версию с ошибкой выпустили к 50-летию с момента первой публикации книги Архив рубрики ~Лента новостей~ Anthropic научила Claude участвовать в видеозвонках и выполнять задачи прямо во время встречи Архив рубрики ~Лента новостей~ Глубокая грамотность против нейрослопа Архив рубрики ~Лента новостей~ Где была команда безопасности Nvidia?

Оставить комментарий