Perplexity AI запустила Secure Intelligence Institute под руководством Ninghui Li.
Команда сосредоточена на рисках AI-агентов: подмена инструкций, ошибки делегирования и цепные сбои. В первой работе описана модель угроз и защита в несколько слоёв — фильтрация входа, ограничения модели, изоляция и контроль действий. Это показывает сдвиг: безопасность становится частью архитектуры агентных систем, а не внешним дополнением. Работает с криптографией, безопасностью, машинным обучением, приватностью данных и оценкой уязвимостей сложных систем.
