Как не нарваться на prompt-injection или зачем нам проверять скиллы?

В прошлой статье говорили про использования LLM хакерами, и обещал как раз продолжение, как защищить свое рабочее пространство, ну в общем, к делу 🙂

Когда последний раз вы проверяли библиотеку на уязвимости? Или софт, что вы ставите и используете — проверяли? Ну, вот и я также — почти что никогда (раньше)

Суть вот в чем, мы в одной из прошлых статей то и обсуждали, что разработка своих скиллов — это естественная история, но и использование oss скилов — аналогично, особенно когда эти скиллы не просто MD файл, а полноценный инструмент взаимодействия

Но, проблема в том, что скилл это не конфиг и не просто “промпт” в SKILL.md — это буквально может быть и исполняемым кодом и самое важное — с твоими правами 🙂

Читать далее

Источник: habr.com