Главный ресурс агентского ИИ

Чему мы учит чрезмерную зависимость от внешних консультантов в отношении наших естественных мыслей машинами.

Делить

Читая последние статьи, аналитические материалы и прогнозы от консультантов и поставщиков решений в области ИИ, все они уверенно предсказывают скорое вытеснение человеческого труда агентом ИИ, я недавно вспомнил свой первый год в Имперском колледже Лондона в 2009 году. Наш преподаватель вводного курса по программирования часто советовал нам сначала набрасывать задания на бумагу, прежде чем кодировать их на компьютере, потому что этот более медленный, обдуманный процесс написания и рисования руками помогает углубить понимание предмета и приводит к лучшим решениям.

Сегодня этот совет кажется более актуальным, чем когда-либо. Заманчивые обещания ИИ будут привлекать как отдельных людей, так и организации и правительство. Студент отправляет эссе, сгенерированное ИИ, с помощью когнитивной рекомендации, в соответствии с которой письмо преобразуется в понимание. Компания заменяет сотрудников-людей-агентами ИИ, отказываясь от неявных институциональных знаний, необходимых для оценки результатов работы ИИ. Суд выполняет решения о вынесении приговора непрозрачными и обеспечивает предвзятыми алгоритмами повышения риска. Какова бы ни была мотивация в каждом конкретном случае, передача когнитивных функций, суждений и ответственности ИИ вполне может стать нормой по умолчанию со временем, пока наша ситуация со стороны ИИ — и участников его более устойчивых экосистем — не укоренится и не станет настолько нормальной, что ее отмена окажется ни жизнеспособной, ни жизнеспособной. Это утро человеческого человека само по себе достаточно тревожно. Еще более тревожным является то, что отполированные на вид результаты работы ИИ, которым доверяют, при ближайшем рассмотрении часто имеют лишь незначительное значение, а иногда и просто неверны.

Здесь прослеживается показательная параллель с индустрией управленческого консалтинга, которая использует яркий трюк с обманом, или «мошенничество». Консультанты обычно оформляют общие аналитические данные в отполированные презентации и проявляют гораздо большую уверенность в своих рекомендациях, чем это оправдывается доказательствами. Организации, которые полностью полагаются на внешних консультантов, постепенно добиваются возможности мыслить самостоятельно. Консультанты могут ошибаться как в выводах, так и в своем нынешнем поведении, системе искусственного интеллекта, по своей сути, являющихся вероятностными алгоритмами парламентских шаблонов, не обладающих своей внутренней значимостью и не несущие ответственности за результаты своей работы. И те, и другие черпают свои данные не столько из доказанной правильности, сколько из асимметрии между уверенностью, с которой они дают рекомендации, и более слабой функцией клиента оспаривать их.

индивидуально, организационном и общественном уровне и предлагает методы восстановления субъектности на каждом из уровней, превосходящие нашу способность к этому безвозвратно исчезнуть.В 2023 году экономисты Мариана Маццукато и Рози Коллингтон опубликовали книгу «Большой обман», в которой доказали, что сочетание различных систем стимулирования, информационной асимметрии и институционального давления в отрасли управленческого консалтинга приносит прибыль, превышающую производящую прибыль. Очевидно, что искушенные клиенты просто перестают нанимать дорогие фирмы, которые не оправдывают ожиданий? Не совсем так, поскольку клиент, передающий стратегическую функцию на аутсорсинг на многие годы, может уже не представлять собой внутреннюю экспертизу для оценки обоснованности получаемых требований, что является ключевым фактором, поддерживающим сотрудничество. Примечательная параллель с современными решениями поставщиков в области ИИ: глубокая интеграция, высокие затраты и клиентская база, которая постепенно становится все менее способной оценить то, что она продает.

Несмотря на конспирологический подтекст, главная проблема, которую освещает «Большая афера», носит скорее структурный, чем моральный характер. Многие консультанты, описанные Маццукато и Коллингтоном, искренне стремились оказать благотворное влияние, а многие чиновники, нанимавшие их, делали все возможное, чтобы действовать ответственно в условиях бюджетного и кадрового давления. Такая договоренность не требует ни цинизма со стороны консультантов, ни халатности со стороны клиентов, а лишь незначительное многократное увеличение потенциала для достижения успеха. В конечном итоге «Большая афера» предлагает не столько критику какой-либо отрасли или отдельного человека, сколько бы предупреждение о том, что рынки вознаграждают стабильную динамику роста. Аутсорсинг как мера «рационализации» может создавать ложно выгодную финансовую картину в краткосрочной перспективе, антилиц, принимая другие решения, путем перекладывания ответственности на других, и подрывать способность к стратегическому планированию и реализации. Это корпоративный эквивалент управления в физической форме с помощью дорогих тренеров вместо развития привычек к самостоятельным занятиям спортом: в конечном итоге тренеры могут принести реальную пользу, но они также могут создать (чрезмерную) тенденцию, а не самодостаточность.

В основе этого механизма лежит нечто сродни темной стороны, которое ученые-менеджеры называют «разучиванием посредством бездействия». Чем меньше организация выполняет какую-либо функцию внутри себя, тем меньше она знает, как ее выполнять; чем меньше она знает, тем больше ей нужна внешняя помощь; и чем больше она платит за внешнюю помощь, тем меньше она накапливает знаний, которые в конечном итоге были бы ненужной внешней помощью. Реформаторское движение, охватившее государственное управление с 1980-х годов в США и за их поведение, популяризировало именно эту логику под лозунгом «больше управляй, меньше греби». Но Маццукато и Коллингтон показывают, почему такой подход обернулся против них в тех областях, где действие и управление не могут быть четко разделены. Как они представились: «Чем меньше [организация] гребет, тем меньше она учится, тем менее продуктивной она становится: тем меньше она может управлять». Риск особенно высок для важных функций, поскольку после того, как эти функции переходят во внешнюю структуру, их восстановление может занимать годы.

Общая закономерность коренится в теориях сравнительных преимуществ. В сложном, специализированном мире сосредоточьтесь на том, что у тебя все получается лучше, а все остальное поучить другим. Люди нанимают сантехнику и электриков. Компания привлекает специалистов по налоговым и юридическим вопросам. заключают контракты с частными компаниями, обладающими более глубокими знаниями. Каждое решение оправдано для себя. Однако проблема возникает, когда логика сравнительных преимуществ имеет не только второстепенные задачи, но и существенную, стратегическую работу, определяющую сущность человека, организации или государства. Студентка, которая передает на аутсорсинг свои мыслительные процессы, компания, которая передает на аутсорсинг свой эффект, правительство, которое передает на аутсорсинг разработку своей политики: в случае, если каждая делегирующая сторона уступает одну и ту же возможность, которая формирует ее идентичность. В случае с агентным ИИ это утро идет еще дальше, поскольку полномочия переходят к системе, не существует существенной ответственности перед использованием ее организации.История II в 2020-х годах имеет интригующие параллели с реальностью последних тенденций: многообещающие первые успехи, разумное поэтапное развитие и структурная зависимость, которая становится очевидной только тогда, когда ее изменение становится слишком существенным. Первые примеры использования ИИ, от написания текста и кода до обобщения документов и автоматизации рутинных процессов, делаются понятными и дают результаты с трудностями. Порог для первоначального обеспечения кажется ниже, чем для почти любой предшествующей технологии. Широкое распространение генеративного ИИ с момента запуска ChatGPT в конце 2022 года завершилось периодом постепенного институционального развития, который мог бы занять десятилетие или более, до нескольких лет.

Поставщики решений в ИИ решительно стремятся быстро захватить долю рынка и продвинуть масштабные внедрения, чтобы оправдать оценку компаний, ориентированных на рост, поэтому услуги ИИ в настоящее время продаются по ценам значительно ниже предполагаемой стоимости их предоставления. Таким образом, сокращение косвенных экономических выгод, такие как ранние облачные предложения и предложения SaaS, используют субсидированные цены для развития отрасли, что впоследствии привело к переходу к новым болезненным решениям. В связи с этим агентский ИИ готов ускорить процесс вытеснения рутинной работы с такой скоростью и масштабом, что консультирование никогда не выглядело так: если раньше корпоративное программное обеспечение предоставляло инструменты для работы квалифицированных специалистов, то платформа на базе ИИ чаще всего напрямую закрывала бухгалтерские книги, заключала контракты и генерировала стратегические документы, провоцирующие людей из процесса, а также с ними и организационные знания, которые оправдывали сохранение функций внутри компании. class=»wp-block-paragraph»>Прежде чем рассматривать риски, стоит отметить значительные преимущества, которые могут предложить разумное использование ИИ. Автоматизация повторяющихся, основанная на правилах, больших объемов задач освобождает внимание человека для работы, что более интеллектуально стимулирует и требует тщательного принятия решений. Персонализированные инструменты обучения на основе ИИ дают многообещающие результаты — предварительные исследования показывают измеримые улучшения в алгоритмости и наблюдении за пользователями. Грамотно предвидящий партнер по ИИ может оттачивать мышление, а не заменять его; Например, можно заставить аргументировать его противоположную точку зрения, найти самое слабое звено в рассуждениях или аргументах, которые до сих пор не рассматривались. Это то, что Кори Доктороу в своей недавней книге «Руководство обратного кентавра в жизни после ИИ» называет «кентавром»: человек, который выбирает, как и когда использовать ИИ в качестве инструмента, сохраняя при этом контроль над деятельностью. При разумном использовании ИИ, управляемый человек, может сделать людей более способными, и, тем не менее, поэтому возможность добавления этого обстоятельства очевидна.

Однако кривая выгода начинает двигаться в сторону убывающей отдачи, когда усиление ответственности ИИ становится настолько повсеместным и бездумным, что человек больше не может оценивать результаты работы ИИ и принимать обоснованные решения, чтобы отменить их. За этим пределом человек не выполняет, а заменяется, и вместе с этим исчезают организационные знания, необходимые для эффективного управления ИИ — как с точки зрения методов рассмотрения, так и результатов. А там, где люди остаются, от них все чаще требуют служения ИИ (иногда доходя до эксплуатации), фактически превращаясь в то, что Доктороу называют «обратными кентаврами». Индивид, который перестает борьбу с проблемами и просто принимает меры реагирования, организует, инвестирует в автоматизацию процессов под управлением ИИ, не развивает сотрудников, способных понимать и контролировать этот процесс, государственное агентство, которое перестает развивать экспертные знания в области регулирования и просто требует рекомендаций ИИ: в каждом случае использование ИИ приводит к атрофии, и спуск к повышению степени может быть настолько постепенным, что задача остается незамеченной, пока его не становится трудным. вспять.

Тем временем коммерческий подход к внедрению ИИ претерпевает значительные изменения. Поставщики и инвесторы все чаще позиционируют ИИ не только как способ доработать человеческий труд, но и как способ его заменить. Бюджеты на программное обеспечение часто меньше и менее важны, чем бюджеты на оплату труда, поэтому переосмысление ИИ как замены рабочей силы предполагает гораздо больший потенциальный рынок. Естественным плацдармом является аутсорсинг: деятельность с четким соблюдением условий работы, прозрачными бюджетами и организациями, уже привыкшими к внешним решениям. Для этого могут быть рассмотрены более неопределенные и важные важные внутренние роли, поскольку должности будут декомпозированы на задачи, поддающиеся автоматизации с помощью ИИ; более подробное обсуждение см. в книге Сангита Пола Чоудари «Перестановка». При отсутствии тщательного управления этот процесс рискует автоматизировать задачу, где человеческий контроль и обсуждение имеют наибольшее значение.

Существует также потенциальный конфликтный интерес, который консультирует по вопросам изменения. Консалтинговые компании, которые подтолкнули к развитию аутсорсинга рабочей силы, теперь получают выгодные гонорары за консультирование по стратегиям развития ИИ. McKinsey прогнозирует ежегодную прибыль от генеративного ИИ в сообществе от 2,6 до 4,4 триллионов долларов, и этот прогноз удобно подкрепляет аргументы в пользу использования крупномасштабных консультационных проектов. Моральный риск носит структурный характер: любой внешний консультант, получающий плату за помощь в трансформации с помощью ИИ, явно не заинтересован в том, чтобы предоставить клиентам возможность создавать международные возможности, которые в конечном итоге делают проекты ненужными. Для того чтобы этот динамик работал, ни одному отдельному консультанту не нужно действовать недобросовестно. Это логика рынков, а не злой умысел компаний, и это та же логика, которая поддерживала первоначальную аферу консультирования, разработанную Маццукато и Коллингтоном. уровень.

Индивидуальная стоимость

Индивидуальные последствия когнитивного кодирования коварны именно потому, что результаты работы ИИ все чаще могут выдаваться за выводы человеческого анализа. Джордж Оруэлл выявил ключевую закономерность в своем эссе 1946 года «Признания книжного рецензирования», где он установил то, как индустриальное книжное рецензирование превратилось в подобие компьютерности. Рецензент «постоянно выдумывал «Режим на книгу, к которому у него нет никаких спонтанных чувств», выливая «свой бессмертный дух в канализации, по полпинты за раз». ИИ научился превращать всех нас в рецензентов-фабрику Оруэлла. Это явление не новое — люди ставят лайки постам в социальных сетях, которые они не читали, и подписывают петиции, которые не понимают, — но ИИ индустриализует его, что позволяет легко привязать свое имя к инновационной работе, несмотря на минимальное участие. Ценность когнитивной работы заключается не только в том, что производится, но и в том, кем человек становится в процессе ее выполнения. Перекладывая эти рекомендации по ИИ, мы рискуем потерять не только результат, но и возможность к оригинальному мышлению.

В мае 2026 года в мае профессор Массачусетского технологического института Мика Натан написал в The Guardian о студентке, которая представила на семинаре по писательскому мастерству рассказ, созданный искусственным интеллектом. Его поразила природа интеллектуальной капитуляции студентов. Она начала с того, что загрузила свой рассказ в ИИ для проверки грамматики. ИИ предложил исправления построчно, и она их приняла. Затем приступим к структурным правкам. Далее – полная переработка. Это, как писал профессор Натан, было «последовательностью падения наркомана», каждый шаг казался незначительным, каждый следующий происходил более вероятно. Его студентка не ставила перед собой цель полностью победить авторство, но на каждом этапе, когда она могла бы вернуть его себе, страх перед осуждением со стороны сверстников и преподавателей увеличился, и она понизила II взять верх. Как заметил профессор Натан: «Письмо – это не создание просто предложения, это тренировка выносливости посредством привлечения внимания. Это узнать способ, что ты думаешь, пытаясь это выразить». Длительное использование ИИ-помощников ослабляет возможность самостоятельно формировать и формулировать мысль, пока однажды чистый лист бумаги не станет не просто неудобным, но и пугающим, некогда полезный инструмент не превратится в косыль, без которого невозможно представить свою жизнь.

Академические исследования начинают давать эмпирическое обоснование этой проблемы. Недавно опубликованные результаты крупномасштабных рандомизированных контролируемых исследований показывают, что даже серьезная помощь ИИ может ухудшить дальнейшее самостоятельное решение задач. Участники исследования, использовавшие ИИ, не только хуже справились с задачами без посторонней помощи, но и прекратили попытку раньше. Предполагаемый механизм — гедонистическая адаптация, при которой, как только готовые ответы становятся нормой, самостоятельное решение проблемы начинает казаться непропорционально затратным. Другое исследование, проведенное среди почти двух тысяч взрослых профессионалов, показало, что, хотя большинство согласились с тем, что ИИ «выполнял большую часть мыслительной работы» в задачах по исполнительным функциям, они также сообщили, что полученные идеи не казались им полностью собственными. Третье исследование выявило более низкую нейронную связь среди участников, которые использовали ИИ для написания эссе. Исследователи ввели термин «когнитивный долг» для описания «состояний, при которых многократное использование [ИИ] заменяет включенные когнитивные процессы, необходимые для самостоятельного мышления». Хотя эти исследования измерения производительности на уровне конкретных задач, более широкое утверждение о том, что атрофия накопления происходит в процессе выполнения работ, требующих принятия решений, является экстраполяцией, согласующейся с гедонистической адаптацией, и дальнейшим изучением. В заключении данные показывают, что использование агентского ИИ может подорвать как когнитивные навыки, так и стремление к региону, что позволит их восстановить.

Организационные выплаты

Организационные риски связаны с индивидуальными потерями квалификации. Когда многие люди пытаются осуществить когнитивную работу, распределенная институциональная память истончается, структуры управления становятся пустыми без внутренних оценок, на которых основывается, стратегическая автономия исчезает, поскольку только они внутри организации не могут оценить или оспорить поставщика. Если провести аналогию с консалтингом, может развернуться тревожный спад. Агентный ИИ сначала выполняет работу сотрудников, затем темпы найма замедляются, поскольку ИИ считает достаточно большую область, и рост персонала становится труднооправданным, и в конечном итоге — в отсутствии целенаправленного управления — роли упраздняются, а рабочие процессы перестраиваются вокруг агентов ИИ. Жизненно важные институциональные знания, которые несут увольняющиеся сотрудники, уходят вместе с ними и не поддерживаются. Учитывая, что ИИ внедряется в организацию быстрее, чем когда-либо были консалтинговые отношения, этот конечный результат может наступить раньше, чем многие ожидают. Более того, услуги ИИ в настоящее время субсидируются значительно ниже их стоимости для завоевания доли рынка. Когда фокус в конечном итоге сместится на прибыльность, поставщики могут повысить цены (например, перейдя от подписки к использованию «волшебной книги», как мы уже встречались на примере GitHub Copilot). Организации, которые влияют — и, возможно, без разбора — привлекают штатных сотрудников в период действия субсидий, сталкиваются с тем, что отказ от возникающих в зависимости от поставщиков решений в области искусственного интеллекта обойдется им дорого.

Краткосрочные соображения уже вызывают удивление у тех, кто внедряет новые технологии на начальных стадиях. Microsoft (по иронии судьбы, а также крупный поставщик ажиотажа вокруг ИИ и сама являющаяся поставщиком решений в этой области) сократила свои доходы на развитие ИИ в 2026 году, примерно через шесть месяцев после того, как было предложено к последовательному внедрению, сославшись на стремительный рост затрат. Uber исчерпал свой годовой бюджет на разработку II за четыре месяца. Salesforce ожидает появления Anthropic около 300 миллионов долларов только в 2026 году. Вице-президент Nvidia публично признался, что «стоимость вычислительных ресурсов значительно увеличивает затраты на сотрудников». Цены на токены падают, но агентный ИИ потребляет токены со скоростью, опережающей падение цен. Goldman Sachs прогнозирует 24-кратное увеличение потребления к 2030 году, а в некоторых компаниях расходы на токены ИИ уже составляют 10% от суммы затрат на оплату труда. Недавнее исследование, проведенное среди почти 2500 компаний, показало, что на каждый доллар, потраченный на токены ИИ, приходится всего 18 центов, которые носят ощутимые пользователи, в то время как 44 цента уходят на исправление ошибок, внесенных самими цепями ИИ. Кроме того, когда организация отслеживает внедрение и производительность на основе расходов на токены, сотрудники осуществляют «токенмаксингом» (завышением использования показателей путем преднамеренного неэффективного применения ИИ). Таким образом, расходы на токены не только не способствуют соразмерному повышению производительности, но и ресурсов, управляемых инфраструктурой ИИ, не инвестируемых в людей, которые могли бы выполнять ту же работу более экономично, одновременно накапливая необходимые знания организации.

Есть также то, что специалисты называют «налогом за невнимательность». В зависимости от положений (например, в юридических, финансовых, медицинских сферах) организации обычно привлекают внимание людей-экспертов для соблюдения требований ответственности. Организация оплачивает как систему, так и работу эксперта, в то время как независимая способность эксперта неуклонно снижается в рамках ИИ. Контролируемые исследования медицинского скрининга с использованием ИИ показывают, что проявляющаяся атрофия способностей может быть связана с «эффектом страховочной сети», когда люди включают меньшую тенденцию, зная, что ИИ готов выявить их ошибки. Фред Брукс в своей книге «Мифический человеко-месяц» утверждал, что качество зависит от концептуальной концепции: проект должен храниться в соответствии с тем, кто понимает разум. Человек, который впоследствии получил результаты работы ИИ, которую он не создал и не может полностью рассмотреть, отказывается от этого эксперимента. Таким образом, «налог за невнимательность» означает, что прирост производительности преувеличен, ответственность, которую эти достижения должны оправдывать, оказывается менее убедительной, чем кажется.Когда речь идет в школе, суде или правительственном министерстве, ставки высоки. Нормализация использования агентного ИИ в качестве замены критического мышления в сфере образования может привести к появлению поколения выпускников, которые подорвут аварийную ситуацию и культуру и будут более уязвимы для медицинских манипуляций. Судья, которая не может проверить методическую оценку, вычисляющую на основе решений о вынесении приговора, может непреднамеренно (но систематически) ставить в невыгодное положение подсудимых отклонений расы или этнических принадлежностей. Законодательный орган, который оказывает значительное влияние на разработку законопроектов агентам ИИ, может в конечном итоге управлять страной против воли представляемого им народа. Термин «человек в контуре управления» (HITL) был придуман для описания людей, которые контролируют процесс, могут оспаривать действия II и не несут ответственности за результат. Однако на примере это часто означает слепое одобрение результатов работы ИИ в условиях нехватки времени и выполнения того, что аналитик Дэн Дэвис называет «ловушкой для безопасности» — она существует не столько для предотвращения ошибок, сколько для принятия на себя вины за них. Проблема в том, что люди, которые больше всего волнуют социальный результат, как правило, не имеют доступа к логике действий ИИ-агента, в то время как у поставщиков нет институциональных стимулов, оспаривающих собственные системы. Для обеспечения подотчетности необходим человек, мотивированный и подготовленный к действиям. Сегодня HITL часто не дает ни того, ни другого.

Во всем этом есть и геополитический аспект. США и Китай вместе контролируют примерно 90% мировых вычислительных мощностей и 70-80% инвестиций в ИИ. Антон Лайхт недавно завершил завершение того, что он назвал «эрой Энди Уорхола в доступе к ИИ», — короткий период, когда передовые возможности были доступны как богатым, так и бедным пользователям. Формирующаяся структура носит явно иерархический характер: новые передовые возможности сначала поступают в структуру экономической безопасности, затем в крупные, пользующиеся доверием предприятия, затем к избранным международным партнерам, и только потом ко всем вирусам. Страны, основанные на американской рыночной экономике, и низкие цены экономики, полагающиеся на американскую или китайскую платформу, определяют государственный динамический потенциал на фундаменте, который может быть обусловлен, оценен как отключенный или полностью закреплен в соответствии со стратегиями интересов поставщиков. Сингапурский парламентарий Кеннет Тионгнично заметил о стратегии своей страны в области ИИ: «Мы строим центр ИИ, исходя из мнения, которое мы не контролируем».

Этот концептуальный риск возник в июне 2026 года, когда правительство США приказало компании Anthropic приостановить доступ к своим самым передовым моделям, Fable 5 и Mythos 5, для всех иностранных граждан, сославшись на консервативную национальную безопасность. Компания Anthropic, которая публично призывала к усилению государственного надзора за ИИ, оказалась не в состоянии защитить сотни миллионов пользователей от директив, которые она назвала плохо обоснованной и основанной на «устных доказательствах узкой, не универсальной» уязвимости. Компания не оставила выбора, и она внезапно стала ответственной за поддержку моделей для всех клиентов по всему миру, чтобы обеспечить соблюдение требований. Этот эпизод иллюстрирует, что означает зависимость от передового ИИ от одного поставщика замены. Правительство США имеет законное право отдавать распоряжения о приостановке доступа к коммерческим моделям во всем мире, и этот факт независимо сохраняется от того, что было ли это конкретно указано обоснованным. Решения по ценообразованию, доступу и развертыванию, принятые меньшими числами поставщиков ИИ, теперь имеют возможность в одночасье, без рассмотрения, уточнить стратегические возможности целых организаций и правительств по причинам, которые эти организации не могут оспорить.

Статистик и экономист Эрнст Фридрих Шумахер в 1973 году исследовал структурно развитую закономерность, анализируя, что происходит, когда капиталоемкие западные технологии переходят в развивающиеся экономики. Это увеличивает совокупный объем производства, создавая при этом «двойное общество», где выгоды возникают неравномерно между определенными классами, и формируя зависимость от зарубежного опыта, местное общество не может ни поддерживаться, ни воспроизводиться. В условиях агентного ИИ открытые модели частично решают этот риск, вызывая локальное развертывание и адаптацию, но разрыв между открытыми и передовыми функциями остается большим и активно привлекает ведущих поставщиков. Движение за соответствующие технологии, выросшее из работ Шумахера, задало вопрос: увеличивает ли новая технология местную активность или концентрирует выгоды в обществе? Можно ли использовать ее в другом месте без постоянной прибыли в зависимости? Эти вопросы заключаются в том, чтобы их задали сегодня при развертывании ИИ на всех уровнях, от отдельного человека до общества.

Два тупика и попытка путь

Два варианта действий по описанным выше рискам являются весьма заманчивыми, но, скорее всего, ошибочны. Первый — это полный агентский запрет ИИ, как это уже рассматривалось в некоторых юрисдикциях в отношении лиц или автономного оружия. Это влияет на поле деятельности тем, кто, как минимум, склонен к сдерживанию и лишит своих экономических преимуществ, включая достижения в области медицины, научных исследований и образования. Второй — это некритическое внедрение, когда рыночные стимулы и планы развития определяют, наконец, глубоко агентский ИИ проникает в когнитивную и демократическую жизнь. Как предупреждают Райх, Сахами и Вайнштейн в своей книге «Системная ошибка», это не нейтральный выбор. Позволить логике оптимизации рынков — которая безразлична к когнитивной собственности, институциональной памяти и демократической подотчетности — решения, влияющие на людей, само по себе является судебным, принятым по умолчанию. Даже новаторы с благими намерениями могут изменять не те вещи, которые нравятся в больших масштабах, и в конечном итоге навязать настройки значений и выбрать аккаунт, нам это или нет.

Третий путь находится где-то между запретом и лунатизмом и требует активного выбора на каждом из трех уровней анализа, рассмотренных в предыдущих разделах.

На индивидуальном уровне ИИ-агент хорошо подходит для автоматизации рутинной работы и выступает в качестве партнера по обсуждению. Однако обсуждение должно оставаться за человеком-пользователем, который составляет синтез, принимает решение и закрепляет результат. Продуктивную поддержку стоит целенаправленно поддерживать. Исследования среди взрослых специалистов показывают, что работники, которые чаще модифицировали результаты работы ИИ, демонстрировали значительно большую уверенность в своих мышлениях, что вносит изменения в изменения практическим обеспечением сохранения когнитивной активности. Для каждой задачи следует задавать вопрос, оказывать помощь в развитии его способностей или заменять его. В первом случае оцените ее в полной мере. Во втором случае может неожиданное целенаправленное сопротивление.

На организационном уровне институциональную память необходимо рассматривать как стратегические активы, требующие активных инвестиций. Необходимо внедрить практику документирования, структуру наставничества и ротацию персонала по функциям, в которых ИИ оказывает помощь, но это не происходит. Следует целенаправленно диверсифицировать источники ИИ: нестабильность от одного поставщика для любой основной важной когнитивной функции и использовать гибридные схемы, сочетающие небольшие, локально работающие модели для рутинных задач с более крупными моделями для простых рассуждений, чтобы сохранить стратегические возможности. Необходимо обеспечить, чтобы «люди, участвующие в процессе», действительно имели основания и доступ для оспаривания результатов работы ИИ, имели для этого времени и организационную ответственность за принятое решение. И прежде всего, необходимо сделать вопрос структурного суверенитета (сохранение первоначального контроля над результатами, вычислительными результатами, данными и моделями, резервированием в основе основных важных операций) показателей, стоящих на уровне совета директоров.

На общественном уровне государственная политика должна опираться на эти технологические критерии, сформулированные Шумахером: увеличивает ли это внедрение местной самостоятельности? Может ли оно функционировать без постоянной внешней зависимости? экономики, инвестирующей в ИИ для государственных услуг, а также инвестировать в модели с открытыми весами, стандарты интероперабельности и вычислительную инфраструктуру для геополитической экономики. В важных государственных решениях (например, в сфере здравоохранения, здравоохранении, иммиграции) необходимо соблюдать нормы: эксперт должен быть в состоянии объяснить и защитить результат, который он утверждает, а не просто обеспечить свое присутствие при его предъявлении. Область этики ИИ в случае большего признания и должна быть выделена полномочиями для обеспечения строгого управления агентским ИИ в соответствии с принципами, установленными биоэтикой для медицины. Индивидуальная и организационная дисциплина, но не регламентированная. Структурные изменения требуют регулирования, проведения закупок и международной международной торговли в дополнение к индивидуальной решимости. Этот переход не произошел только за счет рыночных сил, которые до сих пор указывали в противоположном направлении — граждане и институты должны его обеспечить.

На всех трех уровнях один и тот же основополагающий принцип: инструменты должны служить людям, которые их используют, а это требует осознанного выбора вещей, чтобы сохранить это положение. Чрезмерная зависимость неизбежна. И за соблюдением порогового уровня данных указывают на значительные риски причинения вреда, даже если общее экономическое воздействие остается спорным. Мы можем признать это, не будучи революционными технологиями. Это та же самая зрелость, которую развила медицина, когда установила нормы дозирования и информированное согласие. Консалтинг и искусственный интеллект имеют своеобразную структурную логику. Можно предположить, что разумное делегирование идеи по краткосрочному росту приводит к тому, что в зависимости от того, что подрывает возможность управлять процессом без необходимости привлечения недобросовестных участников и без полного осознания результатов до тех пор, пока изменение курса не станет слишком. Версия этого процесса в сфере II быстрее, глубже интегрирована и применяется одновременно на индивидуальном, организационном и общественном уровнях.

По иронии судьбы, аналитическая работа, генерация кода и разработка программного обеспечения, которые консалтинговые фирмы долгое время предоставляют как высокооплачиваемые услуги, — это именно та категория, которую поставщики ИИ теперь автоматизируют и напрямую интегрируют в свои платформы. Та же самая логика ограничивает посредников, которые консалтинговая индустрия применяет к корпоративным функциям, теперь применяется и к самой консалтинговой отрасли, о чем свидетельствует резкое падение цен на крупные консалтинговые фирмы с большим количеством персонала (Accenture, Capgemini и др.) за последние несколько месяцев. Таким образом, это приводит к корректному доказательству: замена зависимости, основанной на отношениях, зависимости, основанной на платформе, где рычаги поставщика носят структурный, неличный характер, может на самом деле привести к еще большей зависимости. Однако, скорее всего, логика мошенничества не пощадит мошенников.

В конечном итоге, стоит помнить, что именно мы создаём инструменты искусственного интеллекта, и мы можем решить, как их использовать. Совет, который я запомнил с первого курса программирования, заключался не в том, чтобы подвергнуть воздействию компьютеры, а в том, чтобы сначала подумать. Этот принцип применим и к проектированию компаний и государственных учреждений. Вопрос в том, будем ли мы применять его осознанно или позволять постепенное увеличение удобства унести нас туда, куда никто из нас не собирается попадать.

Чинмай Какаткар: посмотреть все в Чинмай Какаткар

Источник: towardsdatascience.com