OpenAI поддерживает законопроект Калифорнии, направленный на повышение безопасности ИИ для молодежи | OpenAI

• Надежная основа для ИИ, соответствующего возрасту.
• Создание более безопасных и полезных условий для подростков.

• Надежная основа для ИИ, соответствующего возрасту.
• Создание более безопасных и полезных условий для подростков.

Энн О'Лири, вице-президент по глобальной политике.

OpenAI поддерживает законопроект Сената Калифорнии № 1119, который устанавливает действенные гарантии того, как молодые люди используют ИИ, сохраняя при этом их доступ к инструментам, которые могут помочь им учиться, творить и готовиться к будущему. Эта поддержка основана на обязательствах, взятых на себя в прошлом году Сэмом Альтманом, соучредителем и генеральным директором OpenAI, когда он изложил принципы компании в отношении подростков.

В отсутствие федеральных мер у Калифорнии есть возможность установить строгие стандарты безопасности искусственного интеллекта для молодежи.

В нашем письме губернатору Ньюсому (открывается в новом окне) мы выражаем ему, а также сенатору Стиву Падилье, членам Ассамблеи Баффи Уикс и Ребекке Бауэр-Кахан и законодательному собранию Калифорнии за их лидерство в этом важном вопросе. Законопроект SB 1119 основывается на мерах по обеспечению безопасности молодежи, которые OpenAI поддерживала посредством своих продуктов, глобальных политических принципов, лоббирования в Калифорнии и работы над Законом о безопасности родителей и детей в сфере ИИ. Мы призываем губернатора Ньюсома подписать этот законопроект.

Подростки — первое поколение, растущее с искусственным интеллектом. Почти девять из десяти подростков, использующих ChatGPT, обращаются к нему за обучением, информацией, развитием навыков или повышением продуктивности в течение недели. Эта возможность влечет за собой очевидную ответственность: подростки должны получать опыт, разработанный с учетом их индивидуальных потребностей развития, с надежной защитой по умолчанию и соответствующими возможностями для обучения, творчества и исследований.

Наш недавно запущенный ChatGPT для подростков отражает этот подход. Он разработан, чтобы помочь пользователям младше 18 лет учиться, критически мыслить и создавать, одновременно способствуя здоровому использованию, предоставляя встроенные средства защиты и дополнительные возможности контроля для родителей. Если наша система определяет, что пользователю меньше 18 лет, или он указывает свой возраст от 13 до 17 лет, он автоматически помещается в ChatGPT для подростков. Эти меры защиты являются частью базового функционала, а не дополнительными настройками, которые пользователи могут отключить.

В более широком смысле, мы считаем, что подростки могут извлечь пользу из ИИ, не жертвуя при этом безопасностью, и именно эта цель лежит в основе законопроекта SB 1119.

Надежная основа для ИИ, соответствующего возрасту.

Законопроект SB 1119 сочетает в себе надежную защиту с сохранением доступа к полезным инструментам искусственного интеллекта. Мы решительно поддерживаем следующие ключевые требования:

• Определите возраст пользователя;
• Выявите и устраните риски для безопасности, прежде чем предоставлять продукт молодым людям;
• Пройти независимую проверку;
• Защитить молодежь от вредного контента, включая контент, связанный с членовредительством, сексуальной эксплуатацией и другими рискованными взаимодействиями;
• Предоставьте родителям инструменты для руководства и ограничения использования детьми этих веществ;
• Обеспечивать молодым людям доступ к ресурсам кризисной поддержки при возникновении серьезных угроз безопасности; и
• Ограничьте целевую рекламу и защитите личную информацию молодых людей.

Для пользователей в возрасте от 13 до 17 лет эти меры защиты должны применяться автоматически. Данный законопроект объединит значимую подотчетность с гарантиями, которые помогут защитить молодых людей при использовании ИИ.

Законопроект SB 1119 также справедливо признает, что ИИ — это не социальные сети. Законопроект устанавливает меры защиты, призванные помочь молодым людям использовать ИИ для обучения, творчества и исследований. При разработке этой структуры политики стремились сохранить доступ к образовательным и критически важным для безопасности функциям, включая ответственное использование функции запоминания ChatGPT, одновременно способствуя более безопасному и соответствующему возрасту опыту для подростков.

Создание более безопасных и полезных условий для подростков.

ChatGPT для подростков включает в себя набор функций, специально разработанных для помощи подросткам в обучении, таких как викторины, визуализация учебного материала и режим обучения, разработанные совместно с педагогами и экспертами в области обучения, чтобы шаг за шагом направлять учащихся в решении задач. Эти инструменты призваны углубить понимание и способствовать формированию более прочных учебных навыков. Функции, использующие контекст из предыдущих разговоров, включая память, помогают последовательно применять меры предосторожности, распознавать тревожные закономерности и оказывать более эффективную поддержку в обучении с течением времени.

Контекст также помогает этим инструментам безопасности и обучения работать более стабильно с течением времени. Благодаря таким функциям, как память, ChatGPT может сохранять соответствующую информацию и предпочтения из предыдущих разговоров, позволяя подросткам продолжать долгосрочные учебные проекты, не начиная все заново. Такая непрерывность также помогает избежать закрепления вредных моделей поведения и способствует более эффективному реагированию, когда молодому человеку может потребоваться дополнительная помощь или ресурсы.

Сочетание безопасности и обучения для нас не новость. За последний год мы добавили родительский контроль , прогнозирование возраста , наш план обеспечения безопасности подростков и принципы для лиц младше 18 лет в наши спецификации моделей — правила, определяющие поведение наших моделей, — чтобы установить новые стандарты взаимодействия с молодыми людьми. Они запрещают романтические отношения, поощрение эмоциональной зависимости и утверждения о том, что ChatGPT — это человек или разумное существо. Мы также предлагаем родительский контроль, который позволяет семьям управлять ключевыми настройками для своих подростков и получать уведомления в ситуациях высокого риска.

Законопроект SB 1119 создает надежную основу для обеспечения безопасности молодежи в сфере искусственного интеллекта в Калифорнии. Дальнейшее изучение и сотрудничество в процессе внедрения помогут улучшить ключевые положения и сохранить эффективность этой основы по мере развития технологий. OpenAI с нетерпением ждет возможности поддержать эту работу и продолжить создание решений на основе ИИ, которые будут относиться к подросткам как к подросткам, обеспечивая более надежную автоматическую защиту и предоставляя значимые возможности для обучения и развития.

Источник: openai.com