Повышение безопасности и расширение возможностей для молодежи посредством глобального лидерства | OpenAI

OpenAI призывает к глобальным действиям по обеспечению безопасности молодежи в сфере ИИ посредством создания специализированного Института безопасности ИИ.

Искусственный интеллект может стать мощным инструментом для молодежи. Он может помочь студентам понять сложную концепцию, попрактиковаться в новом языке, подготовиться к собеседованию, исследовать творческие идеи или освоить новый навык. Подобно тому, как движение за повышение грамотности распространилось по всему миру в середине XX века, потребовав массового распространения печатных текстов и доступа к квалифицированным учителям, сегодня предоставление доступа к безопасному ИИ откроет новые возможности для персонализированного обучения, поможет снизить барьеры для социально незащищенных групп населения и повысит готовность к работе.

Поскольку потенциальные преимущества настолько значительны, крайне важно, чтобы молодые люди имели доступ к ИИ безопасным, соответствующим возрасту и способствующим здоровому развитию способом. Эта ответственность не должна ложиться в первую очередь на родителей или самих молодых людей. Компании, включая OpenAI, несут ответственность за создание продуктов с надлежащими мерами безопасности по умолчанию, одновременно предоставляя семьям инструменты и информацию, которые помогут им правильно использовать ИИ.

Когда главы государств соберутся на саммите лидеров G7 в Эвиане, Франция, в конце этого месяца, тема безопасности ИИ для молодежи станет одним из ключевых направлений. OpenAI присоединится к обсуждению, чтобы обсудить более тесное сотрудничество в области безопасности молодежи, способы совместной работы по повышению отраслевых стандартов, а также новый призыв OpenAI к созданию международного института безопасности молодежи.

Саммит лидеров G7 представляет собой редкую возможность для глобальной координации в вопросах безопасности молодежи. Однако создание специализированного института обеспечило бы преемственность и последующие действия, необходимые после завершения одного саммита, помогая правительствам, исследователям, гражданскому обществу и промышленности продолжать совместную работу по обмену данными, разработке рекомендаций и повышению стандартов с течением времени.

Существует несколько надежных способов сделать это: через новый международный институт или путем предоставления существующему или вновь созданному национальному институту ИИ глобального мандата на обмен исследованиями, данными и рекомендациями с партнерами по всему миру. Наиболее важна выполняемая им функция. Безопасность молодежи в сфере ИИ требует постоянного внимания, надежных данных и практических рекомендаций, которые могли бы идти в ногу с развитием технологий.

Подобный институт может опираться на новые инициативы, такие как Институт безопасности ИИ для молодежи от Common Sense Media, поддерживаемый фондом OpenAI, а также на практическое сотрудничество с педагогами, включая работу OpenAI с Американской федерацией учителей . Он также должен использовать опыт реальных внедрений, например, национальное развертывание ChatGPT в школах Эстонии, где OpenAI сотрудничает со Стэнфордским университетом и эстонскими исследователями для изучения влияния и разработки более безопасных и эффективных способов использования в обучении.

OpenAI приветствует возможность сотрудничества с правительством Франции, правительствами других стран «Большой семерки», а также партнерами из гражданского общества, академических кругов и промышленности в этой важной работе и в целях повышения глобальных стандартов безопасности молодежи.

Установление глобального стандарта безопасности ИИ для молодежи

Мы считаем, что надежные механизмы обеспечения безопасности молодежи в сфере искусственного интеллекта, включая любые потенциальные соглашения, достигнутые на встречах G7, должны основываться на принципах, которые мы здесь излагаем.

1. Компании должны знать, является ли пользователь несовершеннолетним, и применять соответствующие возрасту меры защиты. Это означает, что поставщики услуг должны требовать использования таких средств, как эффективная, обеспечивающая конфиденциальность оценка возраста, чтобы отличать несовершеннолетних от взрослых, и применения защитных мер по умолчанию, когда возраст пользователя определить невозможно. Без этой основы даже самые благие намерения по защите несовершеннолетних могут оказаться недостаточными для тех молодых людей, которых они призваны защищать.
2. Компании должны регулярно оценивать как риски, так и преимущества для молодежи и принимать меры по их устранению — до того, как будет причинен вред. Это означает, что поставщики услуг должны ежегодно проводить оценку рисков для безопасности молодежи и внедрять соразмерные меры защиты, основанные на выявленных рисках. Такие оценки должны учитывать риски для молодежи с учетом стадии их развития, эмпирических данных, полученных в ходе фактического использования, а также соответствующих исследований или нормативных рекомендаций. При оценке следует учитывать не только потенциальный вред, но и то, способствует ли ИИ достижению позитивных результатов, таких как обучение, творчество, развитие навыков и доступ к возможностям.
3. Родителям и опекунам должны быть доступны и просты в использовании средства управления, которые помогут им направлять действия своих детей, поддерживая при этом их самостоятельность, соответствующую возрасту. Эти средства должны включать инструменты для управления ключевыми настройками, включая память, использование данных и временные ограничения. Необходимо активно продвигать такие инструменты для родителей, чтобы они знали об их существовании и понимали, как ими пользоваться.
4. Семьи заслуживают четкой и понятной информации о том, как компании защищают юных пользователей, и должны предоставлять содержательную информацию как о преимуществах, так и о рисках использования ИИ молодыми людьми. Компании должны публиковать политики безопасности, которые объясняют, какие меры защиты принимаются для защиты молодежи, какие инструменты родительского контроля доступны и как обновляются меры защиты по мере развития рисков. Такая прозрачность укрепляет доверие и помогает родителям принимать обоснованные решения.
5. Компании должны иметь четкие протоколы для реагирования на серьезные ситуации, связанные с безопасностью, включая членовредительство, эксплуатацию, совращение несовершеннолетних, контент сексуального характера и другие взаимодействия высокого риска. Эти протоколы должны включать в себя поддержку на рабочем месте, направление к соответствующим ресурсам и своевременное уведомление родителей, когда это необходимо. Компании также должны разработать свои системы таким образом, чтобы предотвратить создание контента, небезопасного или не соответствующего возрасту детей, включая графические материалы сексуального или насильственного характера.
6. Системы искусственного интеллекта, используемые молодежью, должны быть разработаны для поддержки обучения, развития и реальных взаимоотношений, а не для их замены. ИИ должен служить инструментом, помогающим молодым людям учиться, творить, развивать навыки и готовиться к будущему. В то же время компании должны установить четкие границы в областях, где здоровое развитие зависит от человеческого суждения, реальных взаимоотношений и профессиональной поддержки.
7. Личная информация несовершеннолетних должна быть защищена. Это означает запрет на целевую рекламу, нарушающую конфиденциальность молодежи, и запрет компаниям продавать личную информацию.
8. Системы обеспечения безопасности молодежи должны способствовать расширению возможностей, повышению грамотности и защите. Молодые люди должны иметь доступ к инструментам искусственного интеллекта, которые поддерживают обучение, творчество, развитие навыков и открывают новые возможности в будущем, а также обладать знаниями и навыками критического мышления, необходимыми для безопасного и ответственного использования ИИ. Это включает в себя повышение уровня грамотности в области ИИ и помощь молодым людям в понимании возможностей и ограничений систем ИИ, чтобы они могли уверенно и ответственно взаимодействовать в цифровом пространстве.
9. Для обеспечения эффективности этих мер защиты на практике необходимы надежные механизмы подотчетности, включая независимые аудиты. Аудиты должны основываться на наборе общих стандартов, позволяющих проводить совместимые аудиты в разных юрисдикциях. Законодательные рамки должны включать меры надзора и правоприменения, позволяющие правительствам оценивать, насколько эффективно компании внедряют меры защиты молодежи, снижают выявленные риски и соблюдают обязательства по обеспечению безопасности и конфиденциальности молодежи.

Эти принципы отражены в том, как мы создаем и используем ChatGPT, начиная от поведения моделей и дизайна продукта и заканчивая экспертной оценкой и поддержкой в реальных условиях. Мы усилили защиту пользователей младше 18 лет, внедрили родительский контроль с проактивными уведомлениями и усовершенствовали системы прогнозирования возраста , чтобы ChatGPT мог применять более надежные меры защиты, когда пользователь может быть младше 18 лет. Наша спецификация моделей, описывающая поведение наших моделей, также включает в себя специальные принципы для пользователей младше 18 лет (открывается в новом окне) , уделяя приоритетное внимание безопасности подростков, соответствующему возрасту опыту, поддержке в реальных условиях и четким ожиданиям. На практике это означает более строгие меры защиты от самоповреждения, опасных действий, графического контента, проблем с образом тела и конфиденциальности, а также поощрение обращения за надежной поддержкой в офлайн-режиме или к ресурсам кризисной помощи в случае необходимости. Когда возраст неизвестен, мы по умолчанию применяем более надежные меры защиты.

Искусственный интеллект, разработанный с учетом надежных мер безопасности и предлагаемый с четкими инструкциями и поддержкой со стороны семей и педагогов, может помочь молодым людям безопасно использовать инструменты, расширяющие возможности обучения, творчества и карьерного роста. ИИ может помочь учащимся понимать сложные концепции, практиковать языки, улучшать навыки письма, учиться программировать, организовывать исследования, изучать творческие идеи и готовиться к профессиям, которые уже претерпевают изменения. В рамках программы «Образование для стран » OpenAI сотрудничает с правительствами и педагогами в разработке и внедрении решений, основанных на исследованиях, локализованных инструментов обучения и подготовке учителей, чтобы внедрение ИИ основывалось на фактических данных и реальных потребностях в классе. Эта работа уже поддерживает национальные образовательные инициативы в странах-партнерах, включая Эстонию , Грецию и Сингапур .

OpenAI на саммите G7

Помимо участия в Саммите лидеров, мы проведем в Париже Форум OpenAI (открывается в новом окне) , чтобы организовать практическую дискуссию о том, как правительства, исследователи, гражданское общество, педагоги и представители промышленности могут превратить общие цели в области безопасности молодежи в конкретные меры защиты, стандарты и практические методы реализации. Посол Франции по вопросам ИИ и цифровых технологий Клара Шаппаз присоединится к главному глобальному директору OpenAI Крису Лехану, лидерам в области безопасности молодежи из iRaise/Everyone.AI и другим экспертам для обсуждения того, как молодые люди могут извлечь пользу из ИИ, одновременно снижая риски.

Источник: openai.com