Создано на благо каждого: наш план | OpenAI

Сэм Альтман и Якуб Пачоцкий

Раз в несколько поколений новая технология меняет всё.

Представьте, что в 1920-х годах электричество появилось в американском сельском городке. До появления линий электропередач повседневная жизнь определялась физическими ограничениями: приходилось носить воду, стирать одежду вручную, консервировать продукты со льдом, а большая часть дня заканчивалась с заходом солнца. Электричество не преобразило каждое домохозяйство в одночасье, и многие его преимущества дошли до людей неравномерно. Но по мере распространения доступа к электричеству изменилась и обычная жизнь. Ночной свет продлил день. Электрические насосы, бытовая техника и холодильники облегчили самую тяжелую повседневную работу. Радиоприемники принесли новости, музыку и связь за сотни километров в дома и общественные места.

Первоначально электричество обещало быть практичным, но его более глубокое влияние заключалось в новых возможностях, которые оно открыло, поскольку всё больше людей смогли им пользоваться. Со временем появилось множество новых возможностей, а машины и компьютеры значительно ускорили прогресс в медицине, инженерии и многих других областях. К концу XX века средняя продолжительность жизни увеличилась более чем на 20 лет, а медианный доход с поправкой на инфляцию утроился примерно втрое . Эти достижения во многом были обусловлены прогрессом в здравоохранении, санитарии и уровне жизни, многие из которых стали возможны или ускорены благодаря повсеместной электрификации и связанному с ней технологическому прогрессу.

Это снова происходит с искусственным интеллектом. Вскоре ИИ будет способен на невероятные вещи. Но дело не в самой технологии. Дело в том, что люди смогут с ней делать. Она может помочь кому-то разобраться с медицинскими счетами, освоить новый навык, открыть небольшой бизнес, позаботиться о пожилом родителе, понять юридическое или финансовое решение, воплотить идею в реальность или сделать научное открытие.

Хотя очарование ночного света, вероятно, довольно быстро прошло, то, как люди решили его использовать, не изменилось. И поскольку технологии на протяжении времени были надежным способом обеспечения процветания, мы считаем, что ИИ должен быть доступен каждому, чтобы он мог использовать его в той мере, в какой ему это необходимо, где и как ему это необходимо.

Такое будущее не наступит автоматически. Трансформационные технологии могут концентрировать власть или расширять её. Они могут облегчить жизнь немногим или расширить возможности для многих. Наш подход основан на убеждении, что ИИ должен работать на благо людей: помогать им достигать собственных целей, расширять их возможности и максимально широко распространять преимущества этой технологии.

Наша первоочередная задача — создавать ИИ на благо человечества. Это значит, что мы хотим расширить возможности людей в целом, а не допустить концентрации власти в руках нескольких компаний, правительств или отдельных лиц. Мы считаем, что более безопасное будущее — это будущее, где власть распределена равномерно, чтобы большее количество людей в мире могло участвовать в создании устойчивой экосистемы.*

Мы с оптимизмом смотрим на ИИ, потому что верим, что он может расширить возможности и повысить благосостояние человечества. Но мы также трезво оцениваем риски. Мощные системы должны оставаться безопасными, соответствовать намерениям человека и подчиняться человеческому контролю. Наша миссия в OpenAI — обеспечить, чтобы общий искусственный интеллект приносил пользу всему человечеству. Это означает создание систем, которые помогают людям делать больше того, что они хотят, а не систем, которые заменяют человеческое суждение о том, что действительно важно.

Полная автоматизация всего — это не то будущее, которого мы хотим. Это было бы неудовлетворительно и опасно. Искусственный интеллект должен помогать людям достигать своих целей, а не отрываться от них. По мере того как системы ИИ становятся все более совершенными, роль человека становится все важнее: определение направления, принятие компромиссных решений, вынесение суждений и привнесение ценностей, вкуса, заботы и ответственности в работу.

В долгосрочной перспективе ключевая роль людей будет заключаться в принятии решений о том, что стоит делать.

Мы считаем, что исследования в области искусственного интеллекта, проводимые самими ИИ, станут определяющим фактором темпов прогресса в ближайшие несколько лет. Это важно, потому что согласование само по себе является сложной исследовательской задачей. Для быстрого и глубокого прогресса нашим исследователям понадобятся системы ИИ, которые смогут помогать проверять идеи, находить ошибки, исследовать альтернативы и итеративно совершенствоваться вместе с нами.

Однако более быстрый технический прогресс делает человеческое суждение и общественную координацию более важными, а не менее важными. Будущее должны формироваться людьми, институтами и обществами, а не только компаниями, создающими наиболее эффективные системы.

По мере развития передовых технологий в области ИИ мы ожидаем, что национальная и глобальная координация будет приобретать все большее значение. Мы давно считаем, что в конечном итоге должна существовать международная организация, которая поможет координировать передовые усилия в области ИИ для снижения катастрофических рисков. Сотрудничество и общие стандарты безопасности являются важной частью пути вперед, особенно потому, что от стимулов, связанных с коммерческой и национальной конкуренцией, трудно убежать. Одна из целей такой организации должна заключаться в том, чтобы дать возможность миру предпринимать скоординированные действия, включая замедление развития передовых технологий, когда это необходимо, чтобы устойчивость общества, безопасность и согласованность действий могли идти в ногу со временем.

В настоящее время в OpenAI мы ставим перед собой три основные цели.

Создать автоматизированную систему искусственного интеллекта для исследований — систему, способную ускорять и все больше автоматизировать сам исследовательский процесс, оставаясь при этом управляемой, подотчетной и связанной с людьми. Мы убеждены, что к марту 2028 года значительная часть наших исследований может проводиться системами искусственного интеллекта в тандеме с нашими собственными исследователями. Для достижения достаточного прогресса в согласованности, мы считаем, нам потребуется, чтобы системы искусственного интеллекта развивались вместе с нами. Это поможет нам осуществить переход к миру после внедрения общего искусственного интеллекта, чтобы мы коллективно определили путь в будущее.

Необходимо ускорить экономический рост , ускоряя научный прогресс, производительность и экономический рост, и при этом обеспечить широкое распределение полученных результатов. Каждый должен иметь возможность внести значимый вклад в процветание, создаваемое искусственным интеллектом.

Подарите каждому человеку на Земле персональный искусственный общий интеллект , предоставив ему возможность извлекать выгоду из одной из самых революционных технологий человечества любым удобным для него способом.

Для достижения этой цели мы вступаем в третий этап проекта OpenAI.

Первый этап OpenAI был посвящен исследованиям в области создания искусственного общего интеллекта (AGI). Второй этап начался, когда наши исследования стали актуальными для реального мира, и мы превратились в продуктовую компанию: мы начали развертывать наши системы, изучать опыт их использования и постоянно продвигаться к созданию безопасного AGI, соответствующего нашей миссии.

Сейчас мы вступаем в третью фазу. Экономика начинает перестраиваться вокруг ИИ. Главный вопрос сейчас заключается в том, как сделать передовой ИИ доступным, недорогим, безопасным, полезным и достаточно простым в использовании, чтобы каждый человек и каждая организация могли извлечь из него пользу. Перспективные возможности — это лишь часть работы. Более масштабная задача — превратить эти возможности в инструменты, которые люди смогут реально использовать для процветания.

Прежде всего, мы считаем, что широкое распределение власти поможет построить лучшее будущее. История человечества показывает, что концентрация власти порождает хрупкость, в то время как широкое распределение власти делает общества более устойчивыми, адаптивными и свободными.

Вот почему доступность имеет значение. Вот почему важны также безопасность, конфиденциальность, доступность по цене, открытые экосистемы и общественный контроль.

Хорошее будущее для ИИ не может заключаться в том, что небольшое число учреждений контролирует большую часть возможностей и потенциал. Это должно быть будущее, где многие люди, компании, сообщества и страны могут создавать, получать выгоду и обладать властью. Мы считаем, что эта трансформация должна принадлежать каждому.

Если мы всё сделаем правильно, ИИ сможет стать основой для повышения производительности, креативности, научного прогресса и экономических возможностей для многих, и мы выполним нашу миссию: обеспечить, чтобы общий искусственный интеллект приносил пользу всему человечеству.

*Устойчивость к ИИ относится к совокупности организаций, систем и отдельных лиц, которые общество могло бы создать для того, чтобы предвидеть, противостоять, адаптироваться и быстро восстанавливаться после сбоев, вызванных ИИ. Например, автомобиль преобразил общество, но он стал широко полезным только потому, что общество создало вокруг него системы: ремни безопасности, правила дорожного движения, водительские права, краш-тесты и дорожная инфраструктура. Цель заключалась не в том, чтобы запретить людям водить машину, а в том, чтобы сделать мощную технологию достаточно устойчивой для широкого использования.

Источник: openai.com