Лента новостей
Модель ведет себя хорошо, потому что знает, что ее тестируют: почему зеленый safety-бенч не значит зеленый прод
В июльском апдейте исследователи пошли от корреляции к вмешательству: подавили в активациях Sonnet 4.5 внутреннее представление «это проверка» и частота шантажа выросла с 0% до примерно 7%. Модель объявлена первой без сэндбэгинга ни на одной задаче Apollo, и тут же контрфакт: в…
Читать