OpenAI представила режим блокировки для защиты конфиденциальных данных от атак с использованием мгновенной инъекции.

Вкратце

Опубликовано:

• Энтони Ха

OpenAI представила режим блокировки для защиты конфиденциальных данных от атак с использованием мгновенной инъекции.

Компания OpenAI анонсировала новую функцию, которая, по ее словам, обеспечит дополнительную защиту от атак с внедрением вредоносных инструкций в чат-боты, когда такие инструкции скрываются на веб-страницах и в других источниках контента.

В частности, режим блокировки отключит просмотр веб-страниц в режиме реального времени (так что вы сможете получить доступ только к кэшированному контенту), получение и отображение изображений из интернета (вы по-прежнему сможете создавать изображения), углубленный анализ и режим агента.

Компания заявляет, что даже при включенном режиме блокировки ChatGPT всё ещё может быть уязвим для внедрения подсказок, которые, например, могут «появляться в кэшированном веб-контенте или в загруженном файле и всё ещё могут влиять на поведение или точность ответа».

Но цель состоит в том, чтобы снизить вероятность того, что конфиденциальные данные будут переданы третьим лицам в процессе.

«Режим блокировки предназначен не для всех», — заявляет OpenAI. «Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят обеспечить более строгую защиту от рисков утечки данных, связанных с быстрой инъекцией».

Компания заявляет, что в настоящее время внедряет режим блокировки для самообслуживаемых бизнес-аккаунтов ChatGPT, а также для соответствующих личных аккаунтов.

Источник: techcrunch.com