Почему подростки заслуживают доступа к безопасному ИИ | OpenAI

Мы делимся информацией о мерах безопасности, политике и экспертах, с которыми сотрудничаем, чтобы определить наш подход к безопасному использованию ИИ подростками.

• Создание условий для обучения, а не просто для получения ответов.
• Защита подростков с помощью встроенных средств безопасности
• Работа с внешними экспертами, организациями, разработчиками и регулирующими органами.
• Взгляд в будущее

• Создание условий для обучения, а не просто для получения ответов.
• Защита подростков с помощью встроенных средств безопасности
• Работа с внешними экспертами, организациями, разработчиками и регулирующими органами.
• Взгляд в будущее

Подростки — первое поколение, растущее с искусственным интеллектом, и эта технология во многом определит их будущее. Сегодня почти 9 из 10 подростков на ChatGPT используют его для обучения, получения информации, развития навыков или повышения продуктивности в течение одной недели. Именно поэтому мы считаем, что доступ к ИИ для подростков крайне важен. Запрет на использование ИИ до совершеннолетия был бы подобен требованию к предыдущему поколению избегать интернета или поисковых систем до 18 лет, что сделало бы их менее подготовленными к использованию одной из определяющих технологий своего времени. Но доступ должен сопровождаться защитой, разработанной специально для подростков.

В ходе недавней конференции OpenAI Academy (открывается в новом окне) Ориана Маккензи рассказала, как ChatGPT помог ей стать лучшей в классе старшей школы, благодаря более эффективному обучению и грамотному распределению учебной нагрузки, что позволило ей уделять время любимым спортивным и школьным занятиям. Ее история иллюстрирует, чего можно достичь, когда подростки получают доступ к искусственному интеллекту, который помогает им учиться и творить.

Для максимального использования этих преимуществ подросткам необходима более надежная защита, разработанная с учетом их возраста, включая автоматизированные механизмы, позволяющие им исследовать, учиться и строить с уверенностью, одновременно обеспечивая меры безопасности, адаптированные к их возрасту. По мере развития ИИ наша задача — сочетать широкий доступ с защитой, соответствующей возрасту, чтобы подростки могли извлекать выгоду из этой технологии по мере ее развития.

За прошедший год это означало усиление защиты по умолчанию для подростков, внедрение функции прогнозирования возраста , расширение родительского контроля , создание дополнительных семейных ресурсов (открывается в новом окне) , чтобы помочь родителям поддерживать здоровое и ответственное использование, а также внедрение обучающих функций, способствующих более глубокому пониманию, а не просто предоставляющих ответы.

В своей работе мы руководствуемся четырьмя ключевыми принципами :

• Мы ставим безопасность подростков на первое место, даже если это может противоречить другим целям.
• Мы призываем оказывать реальную поддержку в трудные времена.
• Мы относимся к подросткам как к подросткам.
• Мы обеспечиваем прозрачность, четко устанавливая ожидания.

Создание условий для обучения, а не просто для получения ответов.

Обучение — один из самых очевидных способов, которыми подростки получают пользу от ИИ, поэтому мы создаем инструменты, которые поощряют активное участие, критическое мышление и более глубокое понимание. Режим обучения (открывается в новом окне) был разработан в сотрудничестве с учителями, специалистами по науке об обучении и экспертами в области педагогики, чтобы помочь учащимся шаг за шагом решать задачи, используя наводящие вопросы, структурированные объяснения и возможности для размышления, не просто предоставляя готовый ответ. Предварительная оценка таких инструментов, как режим обучения, показала многообещающие результаты в успеваемости учащихся , что помогает нам в более широких исследованиях того, как ИИ может поддерживать результаты обучения.

Хотя подростки могут включать этот режим самостоятельно, теперь родители, у которых есть связанные учетные записи подростков, могут включать режим обучения непосредственно в настройках родительского контроля . При включении он активируется по умолчанию каждый раз, когда подросток начинает новый чат, предоставляя семьям еще один способ контролировать использование ChatGPT для выполнения школьных заданий и учебы.

Мы также недавно ввели ориентированные на образование вводные задания для подростков, чтобы им было проще начинать выполнять такие задачи, как разбивка темы на простые этапы, превращение заметок в учебное пособие, создание карточек или практических вопросов, а также проверка доказательств и ясности изложения.

Мы также продолжаем расширять интерактивные возможности обучения . Исследования неизменно показывают , что люди учатся эффективнее, когда могут активно взаимодействовать с концепциями, а не пассивно потреблять информацию. С момента запуска в начале этого года 18 миллионов пользователей еженедельно взаимодействуют с интерактивными материалами по математике и естественным наукам в ChatGPT, и мы расширили эти возможности, добавив более 250 новых тем, от интегралов и митоза до фаз Луны, фотосинтеза и многого другого. Мы также представили функцию распознавания произношения, которая использует аудио, чтобы помочь людям научиться произносить слова на более чем 61 языке.

Защита подростков с помощью встроенных средств безопасности

Если наша система определяет, что пользователь ChatGPT младше 18 лет, мы автоматически предоставляем ему более подходящий по возрасту контент (открывается в новом окне) . Подростки по-прежнему могут использовать ChatGPT для обучения, творчества и исследований, но с дополнительными мерами защиты, призванными снизить воздействие контента, который может быть для них неприемлемым. Это включает в себя более строгие меры защиты от графического насилия, членовредительства, рискованных вирусных челленджей, контента, пропагандирующего нездоровый образ тела, и опасных романтических или сексуальных ролевых игр. Главная цель — обеспечить, чтобы ChatGPT оставался инструментом для обучения и творчества, а не заменой реальных отношений.

Мы также разрабатываем ChatGPT таким образом, чтобы поощрять здоровые привычки. Подростки, проводящие много времени в ChatGPT, теперь будут получать более частые напоминания о перерывах , которые побуждают их сделать паузу и отвлечься. Эти напоминания призваны помочь молодым людям выработать сбалансированные технологические привычки, одновременно предоставляя им свободу использовать ИИ для обучения, творчества и решения проблем.

Мы считаем, что лучшие инструменты безопасности могут помочь семьям вместе справляться с онлайн-активностью подростков. Мы разработали средства родительского контроля и уведомлений , которые позволяют устанавливать тихие часы, отключать голосовой режим, управлять доступом к созданию изображений и получать уведомления в определенных ситуациях повышенного риска, таких как признаки потенциального самоповреждения.

Мы расширяем систему уведомлений, включая случаи, когда связанный с аккаунтом подростка аккаунт был деактивирован за нарушение наших правил использования , касающихся угроз насилия или актов насилия в интернете. Такой подход помогает родителям узнать о серьезных происшествиях, уважая при этом конфиденциальность подростков и поощряя общение и поддержку вне сети.

При разработке этих функций мы консультировались с несколькими экспертами, включая Moonshot (открывается в новом окне) , ведущую организацию в области предотвращения онлайн-насилия, чтобы убедиться, что эти меры будут продуманными, эффективными и направленными на оказание помощи семьям в трудные времена.

Мы также хотим обеспечить родителей, подростков и педагогов четкими рекомендациями о том, как наилучшим образом ответственно использовать ИИ. Мы публикуем образовательные ресурсы более чем на 50 языках, включая «Семейное руководство по ответственному использованию ИИ подростками » (открывается в новом окне) , «Советы по разговору с подростком об ИИ » (открывается в новом окне) и «Советы родителям по использованию ChatGPT » (открывается в новом окне) .

Работа с внешними экспертами, организациями, разработчиками и регулирующими органами.

Обеспечение безопасности молодежи в интернете — задача, с которой не справится ни одна компания в одиночку. Мы тесно сотрудничаем с подростками, родителями, педагогами, экспертами по безопасности детей, специалистами в области психического здоровья, исследователями, правительствами и организациями гражданского общества. Это партнерство помогает нам лучше понимать потребности молодежи, выявлять возникающие риски, оценивать эффективность наших мер защиты и гарантировать, что наша политика основывается на независимой экспертизе.

Эта работа охватывает наш подход как к обучению, так и к благополучию молодежи. Мы сотрудничаем с педагогами, включая Американскую федерацию учителей , студентами и образовательными организациями, чтобы лучше понять, как ИИ может поддерживать преподавание и обучение, одновременно укрепляя активное участие и критическое мышление. Мы также тесно сотрудничаем с экспертами в области психического здоровья, развития детей и безопасности молодежи, включая Американскую психологическую ассоциацию (открывается в новом окне) , нашу Глобальную сеть врачей и наш Экспертный совет по благополучию и ИИ .

Наша работа по созданию более здоровой цифровой экосистемы выходит за рамки наших собственных продуктов. Мы призываем к разработке масштабируемых глобальных стандартов безопасности ИИ для молодежи посредством создания специального Института безопасности ИИ, открытых политик и инструментов , которые разработчики могут интегрировать в свои собственные системы ИИ, а также сотрудничаем с такими организациями, как Common Sense Media (открывается в новом окне) и everyone.ai (открывается в новом окне), для обмена опытом и передовыми практиками.

В этом году мы также присоединились к Институту безопасности семьи в интернете (Family Online Safety Institute, FOSI), давнему стороннику безопасного использования интернета для семей и молодежи. Мы будем работать вместе, чтобы обеспечить молодым людям возможность извлекать пользу из ИИ, при этом в центре внимания будут родители, обладающие необходимыми полномочиями, и ответственная отраслевая практика. Мы надеемся, что это партнерство поможет продвинуть общее понимание того, что работает, укрепить соответствующие возрасту меры защиты и родительские инструменты, а также поддержать общеотраслевые усилия, позволяющие молодым людям безопасно и ответственно использовать ИИ.

Взгляд в будущее

Защита молодежи в интернете требует постоянного прогресса. В ближайшие месяцы мы продолжим укреплять меры защиты, соответствующие возрасту, предоставлять родителям больше инструментов и контроля, улучшать защиту от серьезного вреда, продвигать исследования в области здорового использования ИИ и создавать больше возможностей, которые помогут подросткам активно учиться и уверенно использовать ИИ.

Мы знаем, что предстоит еще многое сделать, и мы полны решимости продолжать нашу работу в сотрудничестве с подростками, родителями, педагогами, экспертами и сообществами по всему миру, чтобы обеспечить подросткам безопасный и широкий доступ к образованию.

Источник: openai.com