Прочитайте предыдущую версию
Модель Sora 2 и приложение Sora предлагают самые современные возможности для создания видео и новый способ совместного творчества, при этом мы с самого начала позаботились о безопасности. Наш подход основан на конкретных мерах защиты:
- Отличительная особенность контента, созданного с помощью ИИ . Каждое видео, созданное с помощью Sora, содержит как видимые, так и невидимые сигналы происхождения. Все видео Sora также содержат метаданные C2PA — стандартную отраслевую сигнатуру, — и мы поддерживаем внутренние инструменты обратного поиска изображений и аудио, которые позволяют с высокой точностью отслеживать происхождение видео с помощью Sora, опираясь на успешные системы генерации изображений ChatGPT и Sora 1. Многие выходные файлы также содержат видимые, динамически перемещающиеся водяные знаки, включающие имя создателя.
- Видеомонтаж с использованием реальных людей . По мере того, как мы усиливаем меры безопасности Sora, мы расширяем возможности для творческого самовыражения и взаимодействия, включая создание видеороликов из фотографий семьи и друзей. Пользователи могут загружать изображения с людьми для создания видеороликов в Sora, предварительно подтвердив наличие согласия от изображенных людей и прав на загрузку медиафайлов. Создание видеороликов с использованием изображений и людей подчиняется особенно строгим правилам безопасности, даже более строгим, чем те, которые разрешены для персонажей Sora (ранее известных как функция «камео»). Изображения, содержащие детей и молодых людей, подлежат еще более строгой модерации и ограничениям на то, что можно из них создавать. При публикации такие видеоролики всегда будут содержать водяные знаки.
- Использование персонажей на основе согласия . Мы создали персонажей (открывается в новом окне) , чтобы дать вам полный контроль над вашим внешним видом в Sora. Внешний вид включает в себя вашу внешность и голос. У нас есть механизмы защиты, призванные гарантировать, что ваши аудио- и видеоизображения, запечатленные в персонажах, используются с вашего согласия. Только вы решаете, кто может использовать ваших персонажей, и вы можете отозвать доступ в любое время. Мы также принимаем меры по блокировке изображений публичных личностей, за исключением тех, кто использует функцию персонажей. Видео, содержащие ваших персонажей, включая черновики, созданные другими пользователями, всегда видны вам. Это позволяет вам легко просматривать и удалять (и, при необходимости, сообщать о нарушениях) любые видео с вашим персонажем. Мы также применяем дополнительные меры безопасности к любому видео с персонажем, и вы даже можете включить еще более строгий набор ограничений, которые ограничивают типы использования. Это включает в себя ограничение существенных изменений вашей внешности, попадание вас в неловкие ситуации и поддержание общей согласованности вашей личности.
- Защита для подростков . Sora включает в себя усиленную защиту для юных пользователей, в том числе ограничения на контент для взрослых. Лента новостей разработана таким образом, чтобы соответствовать возрасту всех пользователей Sora, а контент, который может быть вредным, небезопасным или неподходящим по возрасту, фильтруется для подростковых аккаунтов. Подростковые профили не рекомендуются взрослым, и взрослые не могут отправлять сообщения подросткам. Родительский контроль в ChatGPT позволяет родителям управлять тем, могут ли подростки отправлять и получать личные сообщения, а также выбирать неперсонализированную ленту в приложении Sora. По умолчанию для подростков также установлены ограничения на то, сколько времени они могут непрерывно прокручивать ленту в Sora.
- Фильтрация вредоносного контента . Sora использует многоуровневую защиту, чтобы обеспечить безопасность ленты, оставляя при этом место для творчества. На этапе создания защитные механизмы стремятся заблокировать небезопасный контент до его публикации — включая материалы сексуального характера, террористическую пропаганду и призывы к членовредительству — проверяя как подсказки, так и выходные данные по нескольким видеокадрам и аудиозаписям. Мы провели «красную команду» для изучения новых рисков и ужесточили политику в отношении генерации изображений, учитывая повышенный реализм Sora и добавление движения и звука. Помимо генерации, автоматизированные системы сканируют весь контент ленты на соответствие нашим Глобальным правилам использования и отфильтровывают небезопасный или неподходящий по возрасту контент. Эти системы постоянно обновляются по мере обнаружения новых рисков и дополняются проверкой человеком, сосредоточенной на наиболее опасных видах вреда.
- Защита аудиоконтента . Добавление аудио в Sora повышает уровень безопасности, и хотя идеальную защиту сложно обеспечить, мы продолжаем серьезно инвестировать в эту область. Sora автоматически сканирует расшифровки сгенерированной речи на предмет потенциальных нарушений правил, а также блокирует попытки создания музыки, имитирующей современных исполнителей или существующие произведения. Наши системы разработаны для обнаружения и предотвращения подобных попыток, и мы выполняем запросы на удаление контента от создателей, которые считают, что контент, созданный в Sora, нарушает их авторские права.
- Пользовательский контроль и возможность защиты своих прав. Вы сами выбираете, когда и как делиться своими видео, и можете удалить опубликованный контент в любое время. Видео будут публиковаться в ленте только по вашему желанию. На каждое видео, профиль, личное сообщение, комментарий и персонажа можно пожаловаться за нарушения, при этом предусмотрены четкие меры защиты в случае нарушения правил. Вы также можете в любое время заблокировать учетные записи, что предотвратит просмотр вашего профиля или публикаций другими пользователями, использование вашего персонажа и связь с вами через личные сообщения.
Источник: openai.com
✅ Найденные теги: OpenAI, Sora, Безопасное, новости, Проекты, Создание
