Архив рубрики ~Коротко из Telegram~

Perplexity AI запустила Secure Intelligence Institute под руководством Ninghui Li….

04.04.2026

Perplexity AI запустила Secure Intelligence Institute под руководством Ninghui Li.

Команда сосредоточена на рисках AI-агентов: подмена инструкций, ошибки делегирования и цепные сбои. В первой работе описана модель угроз и защита в несколько слоёв — фильтрация входа, ограничения модели, изоляция и контроль действий. Это показывает сдвиг: безопасность становится частью архитектуры агентных систем, а не внешним дополнением. Работает с криптографией, безопасностью, машинным обучением, приватностью данных и оценкой уязвимостей сложных систем.

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Эта технология показала хорошие результаты. Системы обороны — это будущее. Архив рубрики ~Лента новостей~ Как мы «приручали» ИИ в WMS Новости робототехники Один ролик вместо четырёх часов переобучения Чтобы научить робота новой… Новости робототехники Роботы начнут чинить спутники — SpaceX запустила на орбиту беспилотник… Архив рубрики ~Лента новостей~ Каждый микробиом рассказывает изменчивую, поддающуюся вычислению историю. Архив рубрики ~Лента новостей~ Пользователи DeepSeek рассказали о баге, из-за которого чат-бот присылает фрагменты из переписок с другими пользователями Новости робототехники Андроид T800 потерял голову в поединке на ринге. В Китае прошел турнир по боям между человекоподобными роботами Новости робототехники Соучредитель Uber привлек $1,7 млрд для нового робототехнического стартапа ATOMS Архив рубрики ~Лента новостей~ Уязвимости SonicWall SMA1000 в процессе активной эксплуатации Архив рубрики ~Лента новостей~ Как механизмы защиты от угроз со стороны ИИ препятствуют работе исследователей в области наступательной кибербезопасности Архив рубрики ~Лента новостей~ Модель ведет себя хорошо, потому что знает, что ее тестируют: почему зеленый safety-бенч не значит зеленый прод Архив рубрики ~Лента новостей~ ИИ-хостес: Яндекс представил ИИ-агента для приема звонков и бронирования Архив рубрики ~Обо всем~ Заметки из окопов: взгляд вычислительного биолога на цифровую революцию в разработке лекарств. Архив рубрики ~Лента новостей~ Чаты пользователей DeepSeek, которыми они поделились с помощью прямой ссылки, оказались доступны в Google Архив рубрики ~Лента новостей~ Эта технология показала хорошие результаты. Системы обороны — это будущее. Архив рубрики ~Лента новостей~ Как мы «приручали» ИИ в WMS Новости робототехники Один ролик вместо четырёх часов переобучения Чтобы научить робота новой… Новости робототехники Роботы начнут чинить спутники — SpaceX запустила на орбиту беспилотник… Архив рубрики ~Лента новостей~ Каждый микробиом рассказывает изменчивую, поддающуюся вычислению историю. Архив рубрики ~Лента новостей~ Пользователи DeepSeek рассказали о баге, из-за которого чат-бот присылает фрагменты из переписок с другими пользователями Новости робототехники Андроид T800 потерял голову в поединке на ринге. В Китае прошел турнир по боям между человекоподобными роботами Новости робототехники Соучредитель Uber привлек $1,7 млрд для нового робототехнического стартапа ATOMS Архив рубрики ~Лента новостей~ Уязвимости SonicWall SMA1000 в процессе активной эксплуатации Архив рубрики ~Лента новостей~ Как механизмы защиты от угроз со стороны ИИ препятствуют работе исследователей в области наступательной кибербезопасности Архив рубрики ~Лента новостей~ Модель ведет себя хорошо, потому что знает, что ее тестируют: почему зеленый safety-бенч не значит зеленый прод Архив рубрики ~Лента новостей~ ИИ-хостес: Яндекс представил ИИ-агента для приема звонков и бронирования Архив рубрики ~Обо всем~ Заметки из окопов: взгляд вычислительного биолога на цифровую революцию в разработке лекарств. Архив рубрики ~Лента новостей~ Чаты пользователей DeepSeek, которыми они поделились с помощью прямой ссылки, оказались доступны в Google

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 43