Предлагаю нулевой срок хранения данных для перспективных моделей | OpenAI

Предварительный просмотр системы обработки персональных данных для обеспечения личной безопасности, которая усиливает гарантии безопасности при взаимодействии с пользователями, сохраняя при этом совместимость с ZDR.

• Почему системы безопасности нуждаются в развитии
• Как работает обработка заявлений на получение услуг частной охранной компании
• Конфиденциальность и безопасность, разработанные совместно с нашими клиентами и для наших клиентов.

• Почему системы безопасности нуждаются в развитии
• Как работает обработка заявлений на получение услуг частной охранной компании.
• Конфиденциальность и безопасность, разработанные совместно с нашими клиентами и для наших клиентов.

Принцип «нулевого хранения данных» дает соответствующим клиентам API четкое обещание: OpenAI не сохраняет их запросы или ответы моделей после обработки запроса. Контент клиентов недоступен для проверки сотрудниками OpenAI¹ , а данные корпоративных клиентов не используются для обучения наших моделей, если клиенты явно не дали на это согласие.

По мере того, как модели берутся за более сложные и продолжительные задачи, некоторые серьезные риски могут проявляться только в рамках множественных взаимодействий. Существующие системы безопасности, совместимые с ZDR, оценивают каждое взаимодействие индивидуально. Сегодня мы представляем предварительную версию Private Safety Processing, которая предназначена для выявления закономерностей в связанных взаимодействиях без предоставления сотрудникам OpenAI доступа к базовому содержимому.

В системах ZDR контент клиента остается на инфраструктуре, контролируемой клиентом. Мы также разрабатываем вариант, в котором контент хранится на инфраструктуре OpenAI и шифруется ключами, контролируемыми клиентом. В обоих случаях автоматизированные системы могут выявлять потенциальные случаи неправомерного использования и возвращать ограниченные сигналы безопасности, не раскрывая персоналу OpenAI скрытые подсказки или ответы.

Почему системы безопасности нуждаются в развитии

Наиболее серьезные риски для безопасности ИИ не всегда видны в рамках одного взаимодействия. Часто потенциально опасные намерения становятся очевидными только при одновременном анализе нескольких взаимодействий. Аналогичные риски могут возникать, когда злоумышленники неоднократно проверяют средства защиты, координируют свои действия между учетными записями или маскируют угрозы под обычное исследование. Риски также могут развиваться в ходе выполнения агентской задачи — например, если система начинает действовать не в соответствии с намерениями пользователя, продолжая действовать после получения команды остановиться.

Поскольку системы искусственного интеллекта берут на себя более длительные и сложные задачи, этот более широкий контекст становится все более важным для различения законной деятельности от злоупотреблений и обеспечения того, чтобы агенты ИИ оставались в рамках своих предполагаемых полномочий.

В некоторых недавних проектах по внедрению передовых моделей от клиентов требовалось разрешить своему поставщику ИИ хранить конфиденциальную информацию для мониторинга безопасности. Для многих организаций такие требования противоречат их обязательствам в области безопасности или обязательствам перед людьми, которым они оказывают услуги.

Система обработки данных по вопросам частной безопасности разработана таким образом, чтобы мы могли продолжать предоставлять услуги ZDR.

Как работает обработка заявлений на получение услуг частной охранной компании.

Технология Private Safety Processing основана на автоматизированных средствах защиты, уже используемых в ZDR и других системах. Существующие системы безопасности, совместимые с ZDR, оценивают взаимодействия по отдельности. Private Safety Processing распространяет эти средства защиты на связанные взаимодействия, позволяя автоматизированным системам выявлять закономерности без доступа персонала OpenAI к сохраненному контенту клиентов.

Технология Private Safety Processing использует контент клиента независимо от места его хранения — будь то инфраструктура, контролируемая клиентом (развертывания ZDR), или хранилище, предоставляемое OpenAI. При использовании хранилища, предоставляемого OpenAI, контент клиента шифруется с помощью ключей, контролируемых клиентом. Сотрудники OpenAI не имеют копии этих ключей, поэтому они не могут получить доступ к базовому контенту.

При выявлении риска OpenAI получает четко определенный сигнал, указывающий на тип связанной с ним деятельности, аналогично существующим сегодня системам безопасности. Этот сигнал может быть использован для определения необходимости принятия мер. Сотрудники OpenAI не получают доступа к контенту клиентов, даже если он помечен как потенциально опасный.

Клиенты могут проверять оповещения и решения о применении мер принуждения, используя информацию, доступную в их собственных системах. Если они хотят подать апелляцию, уточнить законные действия или поддержать расследование подтвержденных нарушений, они могут поделиться соответствующей информацией с OpenAI.

В настоящее время функция защиты частной информации проходит тестирование с участием первых клиентов. Мы публикуем эту предварительную версию сейчас, потому что наши клиенты четко услышали, что им необходима предсказуемость в отношении того, как будет защищен их контент по мере развития систем искусственного интеллекта.

Конфиденциальность и безопасность, разработанные совместно с нашими клиентами и для наших клиентов.

Наша миссия — обеспечить, чтобы искусственный интеллект приносил пользу всему человечеству. Сотрудничество с клиентами и партнерами имеет решающее значение для создания эффективных мер защиты. Как ясно показывают наши принципы , ни одна лаборатория ИИ не может в одиночку справиться с возникающими рисками. Private Safety Processing отражает этот подход и формируется при участии клиентов из разных отраслей, регионов и компаний различного размера.

Организации, с которыми мы работаем, обрабатывают одну из самых конфиденциальных информаций в своих отраслях, включая финансовые отчеты, медицинские данные, секретные бизнес-планы и результаты собственных исследований. Защита этой информации имеет важное значение для выполнения нормативных требований, поддержания доверия клиентов и сохранения конкурентных преимуществ.

Их отзывы помогают нам создавать более надежные средства защиты, сохраняя при этом контроль над их информацией.

«Внедрение ИИ на предприятиях полностью зависит от контроля клиента над данными, без прямого или косвенного использования за пределами выбранной услуги. Отсутствие необходимости в обучении и нулевой уровень риска для данных (ZDR) позволяют Glean с уверенностью использовать OpenAI в своих проектах. По мере того, как модели становятся более совершенными, OpenAI демонстрирует, что безопасность может повышаться без ущерба для конфиденциальности и контроля, которые поддерживают доверие предприятий».

— Сунил Агравал, директор по информационной безопасности компании Glean

Мы продолжим работать с клиентами над техническими и операционными деталями нашего подхода. Мы планируем начать внедрение системы обработки персональных данных для частных лиц и опубликовать технический документ в сентябре. Мы будем информировать клиентов на каждом этапе, предоставляя заблаговременные обновления, объясняя, что они означают для существующих обязательств, и оказывая клиентам необходимую поддержку и время для планирования.

Источник: openai.com