Как искусственный интеллект превращается из «простых» помощников в потенциального архитектора нашего будущего — даже генеральных директоров и губернаторов
Делиться
Мы наблюдаем сверхбыструю эволюцию искусственного интеллекта от простого инструмента исполнения до агента оценки… и, потенциально, лидерства. По мере того, как системы ИИ начинают осваивать сложные рассуждения, мы *должны* столкнуться с глубоким вопросом: какой следующий шаг? Здесь я исследую провокационную возможность ИИ в качестве лидера, то есть менеджера, координатора, генерального директора или даже главы государства. Давайте обсудим огромный потенциал утопического гиперэффективного, управляемого данными, беспристрастного общества, одновременно оценивая неотъемлемые опасности алгоритмической предвзятости, неконтролируемого наблюдения и размывания человеческой ответственности. Затем возникает более сбалансированная система, в которой ИИ проводит мозговой штурм с децентрализованным человеческим управлением, чтобы максимально сбалансировать прогресс с благоразумием.
Не новость, что искусственный интеллект стремительно и непрерывно меняется и развивается. Но давайте остановимся и подумаем об этом подробнее. Мы уже далеко ушли от первоначального восторга от чат-ботов и генераторов изображений к гораздо более сложным системам ИИ, проникшим во все сферы науки, технологий и индустрии развлечений. И теперь мы приближаемся к моменту весьма глубоких дискуссий о роли ИИ в принятии сложных решений. Уже с прошлого года были предложены и продолжают разрабатываться весьма продвинутые системы, способные оценивать очень сложные объекты, даже качество серьёзных научных исследований, инженерных задач и программирования. И это лишь вершина айсберга. По мере роста возможностей ИИ не составит большого труда представить, что эти системы возьмут на себя функции менеджеров проектов, координаторов и даже «управляющих» в различных областях — в крайнем случае, возможно, даже генеральных директоров, президентов и тому подобное. Да, я знаю, это звучит жутковато, но именно поэтому нам лучше поговорить об этом сейчас!
ИИ в лаборатории: новая научная революция
Если вы меня понимаете, то знаете, что я из академического мира, точнее, из мира, вращающегося вокруг молекулярной биологии, которая проводится как на компьютерах, так и в лабораторных условиях. Поэтому я лично наблюдаю, как академический мир ощущает влияние ИИ и автоматизации. Я был там в качестве эксперта CASP, когда DeepMind представил свои модели AlphaFold. Я был свидетелем революции в области предсказания структуры белков, которая распространилась и на их дизайн (см. мой комментарий о Нобелевской премии по этой теме в журнале Nature's Communication Biology).
Новые стартапы предлагают автоматизированные лаборатории (честно говоря, всё ещё во многом зависящие от экспертов-людей, но они всё ещё работают) для масштабного тестирования новых молекул, что даже позволяет проводить соревнования среди разработчиков белков — большинство из них основано на той или иной системе ИИ для молекул. Я сам использую возможности ИИ для обобщения информации, мозгового штурма, получения и обработки информации, кодирования и многого другого.
Я также слежу за рейтингами и поражаюсь постоянно совершенствующимся возможностям рассуждения, мультимодальным системам искусственного интеллекта и всем новым, что появляется, многие из которых применимы к планированию проектов, их выполнению и, возможно, даже к управлению — последний ключ к обсуждению, которое я здесь представляю.
В качестве конкретного, совсем недавнего примера можно привести конференцию Agents4Science 2025, на которой будут представлены статьи и обзоры, полностью подготовленные агентами ИИ. Эта «песочница» позволит исследователям сравнить науку, основанную на ИИ, с исследованиями, проводимыми людьми, и понять сильные и слабые стороны этих систем. Всё это напрямую соответствует чьему-то видению будущего, где ИИ — не просто помощник или специализированный агент, а настоящий планировщик и, почему бы и нет, (со)руководитель.
И нет нужды говорить, что это не просто теоретическое упражнение. Новые стартапы, такие как QED, разрабатывают платформы, использующие «критическое мышление ИИ» для оценки научных рукописей, разбивая их на утверждения и раскрывая лежащую в их основе логику для выявления слабых мест. Я опробовал этот подход на некоторых рукописях, и он впечатляет, хотя, честно говоря, не идеален, но, несомненно, будет совершенствоваться. Этот автоматизированный подход может помочь снизить огромную нагрузку на рецензентов и ускорить темпы научных открытий. Как говорит Одед Рехави, создатель QED, необходимы альтернативы издательской системе, которая часто характеризуется задержками и произвольными рецензированиями. И такие инструменты, как QED, могли бы обеспечить столь необходимую скорость и объективность.
Google, как и все технологические гиганты (хотя я всё ещё жду, что будет с Apple…), также расширяет границы возможностей ИИ, способного развивать и совершенствовать научное программное обеспечение, в некоторых случаях превосходя передовые инструменты, созданные людьми. Вы пробовали их новый режим ИИ для поиска и как можно отслеживать результаты? Я пользуюсь этой функцией уже неделю и до сих пор в восторге.
Все эти наблюдения, которые я привожу из академического мира, но, безусловно, также есть и у большинства (если не у всех) читателей TDS, указывают на будущее, в котором ИИ не только оценивает науку (и любую другую человеческую деятельность или достижения в мире), но и активно способствует её развитию. Ещё одним подтверждением этого является развитие систем ИИ, способных создавать «собственные» алгоритмы обучения, достигая высочайшей производительности в задачах, с которыми им ранее не приходилось сталкиваться.
Конечно, были и трудности. Вспомните, например, как проект «Галактика» от Meta был закрыт вскоре после выхода из-за его тенденции генерировать правдоподобную, но в основном неверную информацию — подобно галлюцинациям современных систем LLM, но на порядок хуже! Это была настоящая катастрофа, которая служит важным напоминанием о необходимости надёжной проверки и человеческого контроля по мере интеграции ИИ в научный процесс, особенно если мы оказываем ему всё большее доверие.
От ИИ как программиста до ИИ как менеджера
Конечно, и здесь вы почувствуете себя более уверенно, если сами занимаетесь программированием, мир разработки программного обеспечения радикально изменился благодаря появлению множества помощников на базе искусственного интеллекта. Эти инструменты могут генерировать код, выявлять и исправлять ошибки и даже объяснять сложные фрагменты кода на естественном языке. Это не только ускоряет процесс разработки, но и делает его более доступным для более широкого круга людей.
Принципы оценки и выполнения задач с помощью ИИ также применяются в сфере бизнеса и управления. Инструменты управления проектами на базе ИИ становятся всё более распространёнными, позволяя автоматизировать планирование задач, распределение ресурсов и отслеживание прогресса. Эти системы способны обеспечить уровень эффективности и контроля, недостижимый для руководителя-человека в одиночку. ИИ может анализировать исторические данные по проектам для создания оптимизированных графиков и даже прогнозировать потенциальные препятствия до их возникновения. Некоторые специалисты утверждают, что к 2030 году 80% работы в сфере управления проектами будет устранено, поскольку ИИ возьмёт на себя традиционные функции, такие как сбор данных, отслеживание и составление отчётов.
Управление с помощью алгоритмов ИИ?
Идея «автоматизированного управления» — увлекательная и противоречивая. Но… если ИИ вскоре сможет управлять сложными проектами и способствовать научным открытиям, сможет ли он также играть роль в управлении нашими обществами?
С одной стороны, ИИ может обеспечить беспрецедентную эффективность и принятие решений на основе данных в сфере управления. Он способен анализировать огромные массивы данных для разработки более эффективной политики, устранения человеческой предвзятости и коррупции, а также предоставления персонализированных услуг. Система на базе ИИ может даже помочь предвидеть и предотвращать кризисы, такие как вспышки заболеваний или сбои в работе инфраструктуры. Мы уже видим это на практике: Сингапур использует чат-боты на базе ИИ для обслуживания граждан, а Япония — систему на базе ИИ для прогнозирования землетрясений. Эстония также является лидером в области цифрового управления, применяя ИИ для улучшения государственных услуг в сфере здравоохранения и транспорта.
Однако риски столь же значительны. Серьёзную озабоченность вызывают предвзятость алгоритмов, непрозрачность систем «чёрного ящика» и возможность массового наблюдения. Было обнаружено, что система одобрения кредитных карт крупного банка, основанная на ИИ, устанавливает для женщин более низкие кредитные лимиты, чем для мужчин с аналогичным финансовым положением. Это наглядный пример того, как предвзятые исторические данные могут приводить к дискриминационным результатам. Возникает также вопрос ответственности: кто несёт ответственность, если система ИИ совершает ошибку?
Гибридное будущее: децентрализованное управление с использованием человека и искусственного интеллекта
Возможно, наиболее реалистичное и желаемое будущее — это будущее «дополненного интеллекта», где ИИ поддерживает людей, принимающих решения, а не заменяет их. Вдохновение можно черпать из существующих политических систем, например, швейцарской модели коллективного главы государства. Швейцарией управляет Федеральный совет из семи членов, где пост президента сменяется ежегодно. Эта система призвана предотвратить концентрацию власти и способствовать принятию решений на основе консенсуса. Можно представить себе будущее, в котором аналогичная модель будет использоваться для управления с участием человека и ИИ: совет экспертов-людей мог бы работать вместе с группой «губернаторов» ИИ, каждый из которых обладает своей областью компетенции. Это позволило бы сделать процесс принятия решений более сбалансированным и надёжным, а люди обеспечивали бы этические рекомендации и понимание контекста, чего в настоящее время не хватает ИИ. Например, люди могли бы быть частью совета, который принимает решения коллективно, консультируясь со специализированными системами ИИ, а затем последние планировали бы, реализовывали и управляли их реализацией.
Идея децентрализованного управления уже исследуется в мире блокчейна на примере децентрализованных автономных организаций (ДАО). Эти организации работают на основе блокчейн-протоколов, правила которых закодированы в смарт-контрактах. Решения принимаются сообществом участников, часто с использованием токенов управления, предоставляющих право голоса. Эта модель устраняет необходимость в центральном органе власти и обеспечивает более прозрачную и демократичную форму управления.
Децентрализованный характер этой системы также поможет снизить риски сосредоточения слишком большой власти в руках одного субъекта, будь то человек или машина.
Дорога к этому будущему ещё длинна, но фундамент для него закладывается уже сегодня, и именно поэтому, возможно, стоит провести подобные мозговые штурмы уже сейчас. Поскольку ИИ продолжает развиваться, крайне важно открыто и честно обсуждать, какую роль он должен играть в нашей жизни. Потенциальные преимущества огромны, но и риски огромны. Действуя осторожно и разрабатывая системы, которые дополняют, а не заменяют человеческий интеллект, мы можем гарантировать, что ИИ станет силой добра в мире.
Ссылки и дополнительная литература
Вот некоторые материалы, на которых я основываю этот пост:
Все доклады на этой конференции были написаны и прорецензированы ИИ-ботами. Nature 2025
Официальная страница и блог на qedscience.com
Швейцария отмечает самую странную систему правления в Европе на Spiegel.de
20 лучших инструментов-помощников ИИ-кодирования по состоянию на август 2025 г.
5 лучших инструментов управления проектами ИИ
Институт глобального управления Европейского Союза
Искусственный интеллект открыл алгоритм обучения, превосходящий алгоритмы, разработанные людьми. Nature 2025
Цель Google AI — сделать лучшее в своём классе научное программное обеспечение ещё лучше. Nature 2025
Открытая конференция агентов искусственного интеллекта для науки 2025
Уроки 2024 года по использованию искусственного интеллекта в науке и бизнесе в 2025 году
Как компании и ученые внедряют инновации в использование языковых моделей для исследований и разработок
Источник: towardsdatascience.com
