Цукерберг подробно рассказывает о личной стратегии Меты в области сверхинтеллекта на основе искусственного интеллекта.

Искусственный интеллект и мы

Цукерберг подробно рассказывает о личной стратегии Меты в области сверхинтеллекта на основе искусственного интеллекта.

Марк Цукерберг опубликовал в Wall Street Journal статью, в которой утверждает, что сверхинтеллект должен быть доступен отдельным людям, а не только нескольким учреждениям.

Глава компании Meta опубликовал статью скорее как изложение философии компании, чем как анонс продукта. В ней нет дат выпуска, данных о результатах испытаний или названий моделей. Зато в ней содержится аргумент о том, что главный вопрос, стоящий перед отраслью, заключается не в том, появится ли сверхинтеллект, а в том, кто сможет его использовать после того, как он появится.

Цукерберг считает, что выбор бинарный: системы, сосредоточенные в небольшом количестве учреждений, или системы, распределенные в виде инструментов, которыми непосредственно управляют отдельные лица. Он называет свой предпочтительный вариант «персональным сверхинтеллектом» и обязывает компанию Meta строить его на основе трех заявленных принципов: расширение прав и возможностей личности как источник процветания, изобретение как основная цель сверхинтеллекта и баланс сил как основа безопасности.

Компания Meta нацелилась на конкурирующие лаборатории, занимающиеся разработкой сверхинтеллекта в области искусственного интеллекта.

В редакционной статье больше времени уделяется критике тона индустрии, чем описанию собственной технической работы Meta.

Цукерберг пишет, что «удивительно, что дискурс многих разработчиков искусственного интеллекта настолько полон пессимизма», и задается вопросом, почему кто-либо, убежденный в том, что ИИ «уничтожит большинство рабочих мест и значительную часть значимости человечества», спешит его создавать.

Он идет еще дальше, называя саму идею о том, что опасность ИИ оправдывает концентрацию власти в руках немногих, «опасной», и добавляет, что «надежда на то, что абсолютная власть благосклонно позаботится о человечестве, если оно будет достаточно просвещенным, не привела к безопасным или позитивным результатам».

В статье не упоминаются конкретные лаборатории, но я уверен, что читатели сами догадаются об этом. В целом, статья устанавливает определенную позицию: Meta хочет, чтобы ее воспринимали как компанию, выступающую за широкое распространение своей продукции в условиях, которые, по ее мнению, тяготеют к централизации.

Чтобы проиллюстрировать свою точку зрения, Цукерберг предлагает читателям представить себе человека, имеющего доступ к сверхинтеллектуальному адвокату, который получает «несправедливое преимущество в суде — даже если его позиция по существу дела неверна», что, по его словам, «привело бы к ухудшению общества».

Однако затем Цукерберг переворачивает ситуацию с ног на голову: у каждого есть сверхинтеллектуальный адвокат, и «правосудие будет осуществляться гораздо справедливее и эффективнее, чем сегодня».

Это мысленный эксперимент, а не реальное применение. В исходных материалах нигде не упоминаются пилотная программа, судебная система или партнер по юридическим услугам, и статью следует рассматривать как аналогию, подтверждающую более широкое утверждение Цукерберга о том, что широкий доступ ограничивает концентрацию власти, а не как описание чего-либо, что компания Meta разработала или протестировала.

Та же закономерность прослеживается и в его исторических отсылках. Он приводит в пример «братьев из велосипедной мастерской, которые верили, что люди могут летать», «ученика переплетчика без образования, который придумал, как генерировать электричество» и «мальчишку из гаража, который считал, что персональные компьютеры доступны каждому», как доказательство того, что прогресс, как правило, достигается отдельными людьми, а не учреждениями.

В статье поднимается вопрос, имеющий непосредственное отношение к планированию предприятий: баланс между ИИ как инструментом автоматизации и инструментом расширения возможностей. Цукерберг пишет, что «если баланс сместится в сторону автоматизации, это может негативно сказаться на рабочих местах и экономике».

Цукерберг же утверждает, что широкое распространение сверхинтеллекта создает больше рабочих мест, а не меньше, главным образом потому, что становится возможным открытие бизнеса «без привлечения больших объемов капитала». Он ожидает, что экономика будет смещаться в сторону «большего числа людей, работающих в малых предприятиях, а не в крупных компаниях».

Категории рисков, связанных с ИИ, рассматриваются неравномерно.

Цукерберг действительно различает типы рисков, и это различие полезно для тех, кто пытается понять, что Meta считает управляемым, а что требует внешней координации.

В отношении кибербезопасности он утверждает, что «история программного обеспечения с открытым исходным кодом показала, что предоставление всем полного доступа к мощным системам будет лучшим способом обеспечить безопасность и защиту в долгосрочной перспективе». В отношении биологических рисков его позиция иная: он призывает к «более тесной координации между правительствами и другими учреждениями в вопросах ответственного внедрения эффективных моделей».

Это существенное разделение. Одна категория получает аргумент в пользу открытого доступа, основанный на истории программного обеспечения; другая — признание необходимости координации со стороны правительства. В статье не объясняется, как компания, стремящаяся к широкому распространению, на практике решает вопросы второй категории, да и не требуется это для целей колонки мнений.

В статье ничего не говорится о том, как будет организовано, оценено или регулироваться «персональное сверхразумное мышление» внутри организации. Нет упоминания о корпоративном контроле, обработке данных, архитектуре развертывания или уровнях доступа к моделям.

В заключение Цукерберг заявляет, что «Meta привержена принципам расширения прав и возможностей личности, изобретательности и баланса сил», что является скорее заявлением о намерениях, чем планом действий. В статье изложена позиция Цукерберга, но не говорится, что именно Meta планирует выпустить, когда и на каких условиях управления.

См. также: Meta, Microsoft, Nvidia, IBM и другие поддерживают ИИ с неограниченным весом.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com