OpenAI представила режим блокировки для защиты конфиденциальных данных от атак с использованием мгновенной инъекции.
Вкратце
Опубликовано:
OpenAI представила режим блокировки для защиты конфиденциальных данных от атак с использованием мгновенной инъекции.
Компания OpenAI анонсировала новую функцию, которая, по ее словам, обеспечит дополнительную защиту от атак с внедрением вредоносных инструкций в чат-боты, когда такие инструкции скрываются на веб-страницах и в других источниках контента.
В частности, режим блокировки отключит просмотр веб-страниц в режиме реального времени (так что вы сможете получить доступ только к кэшированному контенту), получение и отображение изображений из интернета (вы по-прежнему сможете создавать изображения), углубленный анализ и режим агента.
Компания заявляет, что даже при включенном режиме блокировки ChatGPT всё ещё может быть уязвим для внедрения подсказок, которые, например, могут «появляться в кэшированном веб-контенте или в загруженном файле и всё ещё могут влиять на поведение или точность ответа».
Но цель состоит в том, чтобы снизить вероятность того, что конфиденциальные данные будут переданы третьим лицам в процессе.
«Режим блокировки предназначен не для всех», — заявляет OpenAI. «Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят обеспечить более строгую защиту от рисков утечки данных, связанных с быстрой инъекцией».
Компания заявляет, что в настоящее время внедряет режим блокировки для самообслуживаемых бизнес-аккаунтов ChatGPT, а также для соответствующих личных аккаунтов.
Источник: techcrunch.com
Оцените материал:
