Представляем ChatGPT для подростков: создан для обучения, с защитой от угроз | OpenAI

Мы представляем ChatGPT для подростков — сервис, разработанный, чтобы помочь подросткам учиться, критически мыслить, углублять понимание и уверенно использовать ИИ. Он обеспечивает более надежную встроенную защиту для подростков, включая функции, способствующие здоровому использованию, и дополнительные средства контроля для родителей. Если наша система определяет, что пользователю меньше 18 лет, или он указывает свой возраст от 13 до 17 лет, он автоматически помещается в ChatGPT для подростков.

Этот запуск является продолжением работы, проделанной для поддержки подростков на нашей платформе, включая: внедрение родительского контроля , обновление спецификации модели для лиц младше 18 лет , создание нашей В рамках плана обеспечения безопасности подростков внедряется функция прогнозирования возраста и расширяются возможности для поддержки обучения и здорового использования ИИ подростками . В этой работе мы руководствовались четырьмя принципами: ставить безопасность подростков на первое место, поощрять реальную поддержку, относиться к подросткам как к подросткам и быть прозрачными в отношении того, как должны работать наши системы. Мы укрепляем и развиваем эти принципы в ChatGPT для подростков, уделяя особое внимание обучению и внедряя еще более надежные встроенные средства защиты.

Создано для поддержки обучения

Мы считаем, что ИИ должен расширять образовательные возможности, поэтому мы разработали ChatGPT для подростков, чтобы поддерживать их в ситуациях вне класса, когда помощь не всегда доступна, и при этом вовлекать подростков в активный и совместный процесс обучения. Например, подросток, готовящийся к тесту, может попросить ChatGPT объяснить незнакомую концепцию, решить тренировочную задачу и проверить свое понимание. Если ему нужен быстрый ответ, ChatGPT для подростков может направить его к шагам и вопросам, которые помогут ему самостоятельно разобраться. Этот опыт объединяет:

• Режим обучения, использующий наводящие вопросы и пошаговую поддержку, помогает подросткам понять материал.
• Новые напоминания о выполнении домашних заданий, которые позволяют распознать, когда подросток пытается упростить себе задачу, и перенаправить его в режим обучения для пошагового совместного решения задач.
• Тесты и обучающие визуализации предоставляют подросткам больше возможностей для практики, проверки своих знаний и более наглядного представления сложных концепций для проверки понимания.
• А благодаря новой функции «Учебные часы» подростки или родители могут выбирать время, когда учебный режим включен по умолчанию, что упрощает превращение полезных учебных привычек в привычку.

Когда мы представили режим обучения , он был разработан совместно с учителями, учеными и экспертами в области педагогики и опирался на многолетние исследования в области науки об обучении . Он использует направляющие вопросы, вспомогательные средства, метакогнитивные подсказки и проверки знаний, чтобы помочь учащимся решать задачи шаг за шагом, а не просто получать готовое решение. Такая конструкция соответствует более широким исследованиям эффективных методов обучения (открывается в новом окне) , показывающим, что активное извлечение информации и самообъяснение могут способствовать лучшему пониманию и более длительному запоминанию, чем просто пассивный обзор. Наша собственная предварительная оценка таких инструментов, как режим обучения, также показала многообещающие результаты в успеваемости учащихся .

Искусственный интеллект должен поддерживать обучение, а не сокращать его, и преподаватели должны сохранять контроль над использованием ИИ в классах. В этом духе ChatGPT for Teens разработан для поддержки обучения вне класса, в то время как ChatGPT for Teachers продолжает предоставлять преподавателям и школьным округам безопасный, управляемый учреждением доступ к ИИ и практическую поддержку для его эффективного использования.

Сотрудничество с CodeAI для подготовки подростков

Чтобы помочь подготовить первое поколение студентов к использованию ИИ, OpenAI и CodeAI объявляют о знаковом партнерстве , которое предоставит студентам и преподавателям доступ к инструментам и ресурсам, которые помогут им научиться использовать ИИ и извлекать из него пользу. Партнерство будет сосредоточено на образовании, связанном с этой технологией: помочь подросткам понять, как работает ИИ, направлять его, задавать вопросы и создавать с его помощью — при этом учителя будут играть важную роль в формировании того, как ИИ будет внедряться в учебный процесс.

Что создают подростки с помощью ИИ

Подростки уже используют ИИ не только для учебы, но и для создания инструментов, самостоятельного освоения новых навыков и решения проблем в своих сообществах. Именно такие способы использования призван развивать ChatGPT for Teens: мощный, ориентированный на обучение ИИ, который помогает молодым людям переходить от понимания идей к их применению.

В Вирджинии Рушил Кукрея, Архан Мента и Наэль Рехман разработали WiFind (открывается в новом окне) — систему поиска и спасения, которая использует существующие сигналы Wi-Fi для обнаружения выживших, оказавшихся под завалами после стихийных бедствий. Проект вырос из волонтерской работы в местной поисково-спасательной организации и простого вопроса о том, как спасателям узнать, где искать в первую очередь. Для команды искусственный интеллект помог ускорить работу по изучению результатов исследований, быстрому созданию прототипов и превращению многообещающей концепции в инструмент, предназначенный для служб экстренного реагирования. Кристал Янг из Техаса использовала ChatGPT для разработки и масштабирования Audemy (открывается в новом окне) — платформы, создающей аудиообразовательные игры для слепых учеников, до 200 000 пользователей и 50 игр.

Хотя каждый подросток использовал ChatGPT по-своему, все они указывают на те виды применения, которые мы хотим поддерживать: обучение на основе сложного материала, конструирование под руководством и применение новых навыков для решения реальных проблем. Подростки должны иметь возможность исследовать этот потенциал с помощью инструментов, которые являются функциональными, соответствуют возрасту и разработаны с учетом четких мер безопасности.

Более надежная защита, включена по умолчанию.

Для подростков защита является частью стандартного пользовательского опыта. Для пользователей младше 18 лет ChatGPT for Teens применяет соответствующие возрасту меры защиты, призванные снизить воздействие контента, который может быть вредным или не соответствующим их возрасту, сохраняя при этом возможность учиться, творить и исследовать.

Эти меры защиты основаны на наших принципах защиты лиц младше 18 лет, изложенных в Спецификации модели , которые разработаны на основе научных исследований в области развития и рекомендаций экспертов. На практике это означает использование моделей, соответствующих возрасту, и вмешательство в процесс разработки продукции в областях повышенного риска, таких как членовредительство, насилие, расстройства пищевого поведения, опасные виды деятельности и откровенный сексуальный или графический контент.

Эта работа также развивает семейные инструменты, которые мы представили ранее, включая родительский контроль и уведомления . Родители, имеющие связанные учетные записи подростков, могут устанавливать «тихие часы», управлять выбранными настройками и получать уведомления о безопасности в ограниченном количестве ситуаций повышенного риска. Мы добавляем дополнительные уведомления, связанные с расстройствами пищевого поведения, ограничивая при этом объем передаваемой информации и сосредотачиваясь на моментах, когда поддержка вне сети может быть наиболее важна.

Поддержка здорового и сбалансированного использования

Мы разработали ChatGPT для подростков, чтобы поддерживать реальные отношения и здоровые привычки, с напоминаниями о перерывах, которые побуждают подростков отвлечься, и подсказками, которые постоянно идентифицируют ChatGPT как приложение с искусственным интеллектом.

Мы продолжаем ужесточать правила поведения в ChatGPT для пользователей младше 18 лет. Обновленные правила для пользователей младше 18 лет (открывается в новом окне) выходят за рамки блокировки романтических или сексуализированных ролевых игр: ChatGPT не должен использовать романтическую лексику, поощрять эмоциональную зависимость или подразумевать наличие чувств или сознания. Эти более строгие меры защиты призваны укрепить здоровые, реальные отношения.

Мы также добавляем подсказки и элементы управления, призванные снизить риски в конкретной ситуации и указать подросткам на полезные инструменты и средства защиты, в том числе:

• Напоминания о загрузке изображений конфиденциальной информации предостерегают подростков от публикации личных или конфиденциальных изображений.
• Специально разработанная программа адаптации для подростков знакомит их с функциями обучения и обеспечения безопасности с самого начала.
• Простые параметры настройки, такие как акцентные цвета и варианты голоса, помогают сделать взаимодействие с инструментом более персонализированным, не размывая при этом грань между полезным инструментом и человеческими отношениями.

Продолжаются исследования по безопасному использованию ИИ подростками.

Эти меры защиты подкрепляются постоянными исследованиями безопасности, основанными на научных данных о развитии, мнениях экспертов и тестировании защитных механизмов наших моделей в областях, где подростки могут сталкиваться с особыми или повышенными рисками. Эта работа помогает нам совершенствовать нашу политику в отношении пользователей младше 18 лет, усиливать защиту продукции и улучшать методы оценки прогресса с течением времени.

Мы начинаем публиковать результаты этой работы, начиная с новых оценок для лиц младше 18 лет, которые мы добавили в наши системные карточки (открывается в новом окне). Эти оценки показывают, как наши модели работают в соответствии со стандартами, разработанными специально для подростков, в сложных случаях, связанных с деликатным контентом. Оценки охватывают такие области, как членовредительство, расстройства пищевого поведения, насилие, товары и услуги с возрастными ограничениями, а также сексуальный контент, и призваны способствовать лучшему пониманию эффективности моделей в обеспечении безопасности подростков.

Взгляд в будущее

Мы продолжим разрабатывать дополнительные функции, чтобы подростки могли извлекать пользу из ИИ, а также измерять и публиковать результаты наших исследований. Подростки должны иметь возможность использовать ИИ для обучения, творчества и исследований. Но этот доступ должен сопровождаться защитой, учитывающей их возраст, укрепляющей реальные отношения и способствующей здоровому использованию с течением времени. ChatGPT для подростков — это наш следующий шаг на пути к достижению этого стандарта.

Источник: openai.com