Сотрудничество в области искусственного интеллекта под руководством человека
Делиться
Когда я наблюдаю за тем, как люди используют генеративный ИИ на работе, я замечаю повторяющуюся закономерность, которая настолько часто проявляется, что это похоже на повтор ситкома.
Кому-то предстоит принять важное решение: какую модель внедрить, какую архитектуру развернуть, какую политику применить. Они открывают свою любимую программу LLM, вводят один запрос, бегло просматривают ответ на предмет правдоподобности, возможно, пару раз корректируют запрос, а затем копируют «наиболее привлекательное» решение в документ.
Спустя шесть месяцев, когда что-то ломается или работает неэффективно, нет четких записей о том, какие альтернативы рассматривались, насколько неуверенной была команда и почему они выбрали именно этот путь, а не другие. Есть лишь один связный абзац, который когда-то показался убедительным.
Здесь не хватает не большей «мощности ИИ», а привычки к явному человеческому мышлению.
В этой статье я хочу назвать и подробно описать привычку, которую я использую и преподаю в своей работе с моделями с линейной логикой и сложными системами. Я называю её вероятностным многовариантным рассуждением (PMR). Это не новая область математики и уж точно не алгоритм. Рассматривайте это скорее как практический, прикладной метод рассуждения для людей, работающих с генеративными моделями: дисциплинированный способ выявления множества правдоподобных вариантов будущего, обозначения неопределенности, обдумывания последствий и только после этого принятия решения.
PMR предназначен для тех, кто использует LLM для принятия решений, проектирования систем или управления рисками. GenAI просто делает это дешево и быстро. Сама модель применима везде, где приходится делать выбор в условиях неопределенности, где ставки и ограничения действительно имеют значение.
От автоответчика до генератора сценариев
По умолчанию большинство людей используют LLM по принципу «один вопрос — один ответ». Вы задаете вопрос, получаете одно удачное объяснение или вариант, и ваш мозг быстро проверяет: «Кажется ли это разумным?».
Проблема в том, что это скрывает все действительно важное в принятии решения: какие другие варианты были бы правдоподобны, насколько мы не уверены, насколько велики бы последствия, если бы мы ошиблись. Это размывает границы между «тем, что модель считает вероятным», «тем, что стало модным на основе обучающих данных» и «тем, чего мы лично хотели бы видеть правдой».
PMR начинается с простого изменения: вместо того, чтобы рассматривать модель как машину для получения ответов, вы рассматриваете ее как генератор сценариев с весами. Вы запрашиваете несколько различных вариантов. Вы запрашиваете приблизительные вероятности или оценки достоверности, и вы напрямую спрашиваете о затратах, рисках и выгодах простым языком. Затем вы обсуждаете эти цифры и истории, корректируете их, и только после этого принимаете решение.
Иными словами, вы сохраняете за моделью роль механизма формирования предложений, а за собой — роль лица, принимающего решения.
Где хранится математика (и почему она остается на заднем сиденье)
В основе PMR лежат интуитивные принципы из нескольких хорошо известных источников. Если вы не любите формулы, можете смело пропустить этот раздел; остальная часть статьи все равно будет понятна. Математика здесь служит основой, а не является главным действующим лицом.
Во-первых, здесь присутствует байесовский подход: вы исходите из некоторых предварительных представлений о том, что может сработать, видите доказательства (из рассуждений модели, экспериментов, производственных данных) и обновляете свои убеждения. Сценарии модели играют роль гипотез с приблизительными вероятностями. Вам не обязательно проводить полный байесовский вывод, чтобы извлечь пользу из такого подхода, но суть остается той же: убеждения должны меняться по мере появления доказательств.
Затем мы добавляем немного теории принятия решений: одной вероятности недостаточно. Важно приблизительное представление об ожидаемой ценности или ожидаемых потерях. 40-процентная вероятность огромной победы может быть лучше, чем 70-процентная вероятность незначительного улучшения. Крошечная вероятность катастрофического провала может преобладать над всем остальным. Работа над многоцелевым принятием решений в исследовании операций и науке управления формализовала это за десятилетия до появления LLM. PMR — это намеренно неформальная, адаптированная для человека версия этого подхода.
В качестве завершающего штриха присутствует ансамблевый подход, который покажется знакомым многим специалистам по машинному обучению. Вместо того чтобы считать одну модель или один ответ абсолютным истинным ответом, вы объединяете множество несовершенных точек зрения. Случайные леса делают это буквально, когда множество маленьких деревьев голосуют вместе. PMR делает это на уровне человеческого мышления. Несколько различных вариантов, каждый со своим весом, ни один из которых не является неприкосновенным.
PMR не стремится быть чистой реализацией какой-либо одной из этих теорий. Он берет дух вероятностного обновления, практичность мышления на основе ожидаемых значений и скромность ансамблевых методов и преподносит их в виде простой привычки, которую вы можете использовать уже сегодня.
Небольшой числовой пример (чтобы никого не отпугнуть)
Чтобы понять, почему важны как вероятности, так и последствия, рассмотрим вариант выбора модели, который выглядит примерно так.
Предположим, вы и ваша команда выбираете между тремя вариантами моделей для системы обнаружения мошенничества в банке. Один из вариантов, назовем его Модель А, представляет собой простую логистическую регрессию с хорошо изученными признаками. Модель B — это модель градиентного бустинга с более сложными, разработанными признаками. Модель C — это большая модель глубокого обучения с автоматическим обучением признаков и большими потребностями в инфраструктуре. Если вы допустите ошибку, вы либо будете терять реальные деньги в пользу мошенников, либо будете ошибочно блокировать добросовестных клиентов и раздражать всех — от сотрудников колл-центра до финансового директора.
PMR — это всего лишь упрощенная, словесная версия этого. Примерные вероятности, примерные последствия и проверка здравого смысла, чтобы определить, какой вариант имеет наилучшее обоснование для данного решения.
Если вы спросите модель: «Какова вероятность того, что каждый подход достигнет нашей целевой производительности на реальных данных, исходя из типичных проектов, подобных этому?», вы можете получить ответы примерно такого содержания: «Модель А: примерно 60-процентная вероятность достижения цели; Модель B: примерно 75 процентов; Модель C: примерно 85 процентов». Эти цифры не являются истиной в последней инстанции, но они дают отправную точку для обсуждения не только вопроса «какой подход с большей вероятностью сработает?», но и вопроса «какой подход с достаточной вероятностью сработает, учитывая, во сколько нам обойдется неудача?»
Теперь зададим другой вопрос: «Если это удастся, насколько велики будут выгоды, и каковы будут издержки в плане инженерного времени, сложности эксплуатации и масштаба последствий в случае неудачи?» В своей работе я часто сводлю это к приблизительной шкале полезности для конкретного решения. Для этого конкретного клиента и контекста попадание в цель с помощью варианта А может «стоить» 50 единиц, с вариантом В — возможно, 70, а с вариантом С — возможно, 90, но стоимость неудачи с вариантом С может быть намного выше, потому что откат сложнее, а инфраструктура более хрупкая.
Суть не в том, чтобы выдумывать точные цифры. Суть в том, чтобы заставить разговор понять, что сочетание вероятности и влияния меняет рейтинг. Вы можете обнаружить, что вариант B, обладающий «довольно высокой вероятностью успеха и управляемой сложностью», имеет в целом лучшие перспективы, чем вариант C, который имеет более высокую номинальную вероятность успеха, но чрезвычайно дорогостоящий вариант неудачи.
По сути, PMR делает это целенаправленно, а не бессознательно. Вы генерируете варианты. Вы присваиваете каждому из них приблизительные вероятности. Вы присваиваете приблизительные преимущества и недостатки. Вы смотрите на форму кривой риска и вознаграждения, вместо того чтобы слепо следовать единственной наивысшей вероятности или самой красивой архитектурной схеме.
Пример 1: PMR для выбора модели в команде специалистов по анализу данных.
Представьте себе небольшую команду специалистов по анализу данных, работающих над прогнозированием оттока клиентов для продукта, работающего по подписке. Руководство хочет, чтобы модель была запущена в производство в течение восьми недель. Перед командой стоят три реалистичных варианта.
Для начала, простая базовая модель, использующая логистическую регрессию и несколько вручную созданных признаков, известных по предыдущим проектам. Она быстро создается, легко объясняется и проста в мониторинге.
Во-вторых, более сложная машина градиентного бустинга с более богатым набором признаков, возможно, заимствующая некоторые закономерности из предыдущих проектов. Она должна показать лучшие результаты, но потребует большей настройки и более тщательного мониторинга.
В-третьих, модель глубокого обучения, основанная на необработанных последовательностях взаимодействий, привлекательна тем, что «кажется, все остальные уже это делают», но является новой для этой конкретной команды, поскольку предъявляет незнакомые требования к инфраструктуре.
В мире, где все задают вопросы с одним единственным ответом, кто-то может спросить магистра права: «Какова наилучшая архитектура модели для прогнозирования оттока клиентов в SaaS-продукте?», получить в ответ лаконичный абзац, восхваляющий глубокое обучение, и команда в итоге почти инерционно движется в этом направлении.
В мире PMR мои команды выбирают более обдуманный путь, сотрудничая с моделью. Первый шаг — запросить несколько различных подходов и заставить модель различать их, а не просто переделывать одну и ту же идею:
«Предложите три действительно разные стратегии моделирования для прогнозирования оттока клиентов в нашем контексте: одну простую и быструю, одну средней сложности и одну передовую и ресурсоемкую. Для каждой опишите вероятную производительность, сложность реализации, нагрузку на мониторинг и режимы отказов, основываясь на типичном отраслевом опыте».
Теперь команда видит три сценария вместо одного. Уже сложнее полюбить какой-то один сюжет.
Следующий шаг — попросить модель явно оценить приблизительные вероятности и последствия:
«Для каждого из этих трех вариантов укажите приблизительную вероятность достижения целевых показателей эффективности бизнеса в течение восьми недель, а также приблизительную оценку от 0 до 10 для таких параметров, как трудозатраты на внедрение, операционный риск и долгосрочная ремонтопригодность. Четко укажите, какие предположения вы делаете».
Будут ли цифры точными? Конечно, нет. Но они выявят предположения. Возможно, углублённая модель покажет «85-процентную вероятность достижения целевого показателя, но 9 из 10 — трудозатраты на внедрение и 8 из 10 — операционный риск». Возможно, простая базовая модель покажет лишь 60-процентную вероятность достижения целевого показателя, но 3 из 10 — трудозатраты и 2 из 10 — риск.
На этом этапе настало время для споров между людьми. Команда может скорректировать эти вероятности, исходя из своих реальных навыков, инфраструктуры и данных. Они могут сказать: «В наших условиях 85 процентов кажутся чрезмерно оптимистичными» и понизить этот показатель. Они могут сказать: «Мы уже использовали подобные базовые показатели; 60 процентов кажутся низкими» и повысить его.
Для наглядности это можно представить как простой цикл PMR:
В данном случае PMR не обеспечивает математического совершенства. Он структурирует обсуждение. Вместо вопроса «Какая модель звучит круче всего?» вопрос звучит так: «Учитывая наши ограничения, на какое сочетание вероятности и последствий мы действительно готовы согласиться?» Команда вполне может выбрать вариант средней сложности и запланировать конкретные последующие проверки, чтобы убедиться, что базовый вариант действительно достаточно хорош, или что более сложная модель действительно окупает свои затраты.
Запись ваших рассуждений, вариантов, приблизительных вероятностей и аргументов, которые вы записали, гораздо легче просмотреть позже. Когда проходит шесть месяцев и кто-то спрашивает: «Почему мы не перешли сразу к глубокому обучению?», ответ становится ясным и не ограничивается фразой «потому что ИИ казался умным».
Пример 2: PMR для облачной архитектуры и стремительного роста затрат
Теперь переключимся на облачную архитектуру, где разгораются жаркие споры, а счета за услуги беспощадны.
Предположим, вы разрабатываете межрегиональную шину событий для системы, которая должна оставаться работоспособной во время региональных сбоев, но при этом не может удвоить расходы компании на облачные услуги. У вас есть три основных класса вариантов: полностью управляемая межрегиональная служба передачи событий от вашего облачного провайдера; система потоковой передачи, которую вы запускаете самостоятельно на виртуальных машинах или в контейнерах; и гибридный подход, при котором минимальное управляемое ядро дополняется более дешевыми региональными компонентами.
Опять же, путь с единственным ответом может выглядеть так: «Как лучше всего спроектировать межрегиональную шину событий в Cloud X?» Модель возвращает архитектурную диаграмму и убедительное обоснование гарантий надежности, и вы можете приступать к работе.
В фрейме PMR вы бы спросили:
«Предложите три различных архитектуры для межрегиональной шины событий, обслуживающей N событий в секунду, при следующих ограничениях. Для каждой опишите ожидаемую надежность, задержку, сложность эксплуатации и ежемесячную стоимость в этом масштабе. Подробно объясните, что вы выигрываете и что теряете при каждом варианте».
Увидев эти три картинки, вы можете пойти дальше:
«Теперь для каждой архитектуры укажите приблизительную вероятность того, что она будет соответствовать нашему целевому показателю надежности в реальных условиях, приблизительный диапазон ежемесячных затрат и краткий абзац о наихудших сценариях отказов и радиусе поражения».
Здесь модель демонстрирует нечто вроде неформального многокритериального анализа решений: один вариант может быть почти наверняка надежным, но очень дорогим; другой может быть дешевым и быстрым, но хрупким при необычных нагрузках; третий может стать оптимальным решением, но потребовать тщательной дисциплины со стороны оператора. В классическом учебнике по анализу решений описывается систематическое изучение ваших реальных предпочтений в условиях таких противоречивых целей; PMR привносит немного этого подхода в вашу повседневную работу по проектированию, не требуя от вас профессиональных навыков анализа решений.
Это можно рассматривать как облачную архитектуру цикла PMR:
И снова суть в человеческом общении. Возможно, вы по опыту знаете, что у вашей организации плохая репутация в отношении самоуправляемых систем с сохранением состояния, поэтому «дешевый, но ненадежный» вариант гораздо рискованнее, чем предполагают общие вероятности модели. Или же у вас может быть серьезное ограничение по стоимости, которое делает полностью управляемый вариант политически неприемлемым, независимо от того, насколько хороша его надежность.
Цикл PMR заставляет учитывать эти локальные реалии. Модель предоставляет основу, множество вариантов, приблизительные оценки и четкие преимущества и недостатки. Вы и ваши коллеги переоцениваете их в контексте ваших реальных навыков, опыта и ограничений. Вы с меньшей вероятностью будете следовать самой модной модели и с большей вероятностью выберете то, что сможете поддерживать.
PMR за пределами ИИ: общая привычка к рассуждению
Хотя я использую взаимодействие LLM для иллюстрации PMR, эта модель более универсальна. Всякий раз, когда вы замечаете, что вы или ваша команда собираетесь сосредоточиться на одном ответе, вы можете сделать паузу и провести легкий обход PMR с помощью вашего человеческого интеллекта (HI).
Вы можете делать это неформально, выбирая между различными шаблонами параллельного программирования на Go, где каждый шаблон имеет свой профиль безопасности, производительности и когнитивной нагрузки для вашей команды. Вы можете делать это, решая, как сформулировать один и тот же контент для руководителей, для разработчиков и для команд по соблюдению нормативных требований, где ключевое противоречие заключается в балансе между точностью, читаемостью и политическим риском.
Я регулярно использую этот психологический прием, особенно при подготовке к ежеквартальным обзорам деловой активности, взвешивая различные варианты презентаций и оценивая вероятную реакцию каждого руководителя на сообщение. Затем я выбираю путь наименьших затрат и наибольшей выгоды.
Во всех этих случаях степень магистра права полезна, поскольку позволяет быстро перечислить возможные варианты и наглядно представить затраты, риски и выгоды. Но лежащая в основе дисциплина, множество вариантов, явная неопределенность, явные последствия — это достойный способ мышления, даже если вы просто набрасываете свои варианты на доске.
Что плохого в полимиалгии (и почему это должно вас беспокоить)
Любая модель, обещающая улучшить логическое мышление, также открывает новые способы обмануть самого себя, и PMR не является исключением. В моей работе с 16 различными командами, использующими ИИ, я еще не сталкивался с ситуацией, когда для принятия решения с высокими ставками было бы достаточно одной подсказки, поэтому я серьезно отношусь к его режимам отказа.
Ложная точность
Один из очевидных примеров ошибки, ложная точность, возникает, когда вы запрашиваете у LLM вероятности, а он отвечает: «Вариант А: 73 процента, Вариант Б: 62 процента, Вариант В: 41 процент». Очень заманчиво воспринимать эти цифры так, будто они получены из правильно откалиброванной статистической модели или от «Голоса истины». Но это не так. Они получены с помощью механизма, который очень хорошо умеет выдавать правдоподобно выглядящие числа. Если воспринимать их буквально, вы просто меняете один вид чрезмерной самоуверенности на другой. Правильный способ использования этих цифр — это обозначение «примерно высокий, средний, низкий» в сочетании с обоснованиями, которые можно оспорить, а не как факты.
Искусственный интеллект очень умный. Он со мной согласен.
Ещё один пример неудачи — использование PMR лишь как тонкой завесы над тем, что вы уже хотели сделать. Люди склонны влюбляться в одну привлекательную историю, а затем подгонять под неё остальные. Если вы всегда в итоге выбираете вариант, который вам нравился до проверки PMR, и вероятности удобно совпадают с вашим первоначальным предпочтением, то эта закономерность вам не помогает; она просто даёт вам более красивые оправдания.
Здесь полезны конфронтационные вопросы. Заставьте себя спросить: «Если бы мне пришлось отстаивать другой вариант, что бы я сказал?» или «Что убедило бы меня изменить свою точку зрения?». Подумайте о том, чтобы попросить ИИ убедить вас в вашей неправоте. Требуйте как плюсов, так и минусов.
Наличие нескольких вариантов не всегда означает лучшие варианты.
Более тонкая проблема заключается в том, что наличие нескольких вариантов не гарантирует их разнообразия. Если ваша первоначальная формулировка проблемы предвзята или неполна, все варианты будут неверны в одном направлении. «Мусор на входе» всё равно приведёт к «мусору на выходе», просто в нескольких вариантах.
Таким образом, полезная привычка PMR применима не только к ответам, но и к вопросам. Прежде чем запрашивать варианты, спросите модель: «Перечислите несколько способов, которыми это утверждение проблемы может быть неполным, предвзятым или вводящим в заблуждение», и сначала обновите формулировку. Другими словами, проведите PMR для вопроса, прежде чем проводить PMR для ответов.
Ой, что мы пропустили?
Тесно связан с этим риск упустить тот единственный сценарий, который действительно имеет значение. Модель прогнозирования и мониторинга может создать утешительное ощущение «мы исследовали пространство», хотя на самом деле вы исследовали лишь узкий срез. Наиболее важный вариант часто оказывается тем, который вообще никогда не появляется, например, катастрофический режим отказа, который модель никогда не предполагает, или простой вариант «этого делать не следует», который кажется слишком скучным, чтобы о нем упоминать.
Один из практических способов защиты — просто спросить: «Какой из этих вариантов не представлен ни в одном из возможных сценариев?», а затем пригласить экспертов в данной области или рядовых сотрудников для оценки предложенного набора вариантов. Если они скажут: «Вы забыли случай, когда всё рушится одновременно», — вам следует прислушаться. Задайте тот же вопрос искусственному интеллекту. Ответы могут вас удивить или, по крайней мере, позабавить.
Разве ты вчера не был в этой рубашке?
Ещё один сбой происходит на границе между вами и инструментом: искажение контекста и отклонение от первоначальной идеи. Модели, как и люди, любят повторно использовать одни и те же истории. Мои коллеги расскажут вам, как им надоедают одни и те же старые истории и шутки. Искусственный интеллект «обожает» делать одно и то же.
Опасно легко вставить примеры, ограничения или полузабытые факты из другого решения и относиться к ним так, будто они относятся к этому конкретному. Во время написания этой статьи ИИ-помощник уверенно похвалил примеры «модели мошенничества» и «межрегиональной шины событий», которых в документе вообще не было; он незаметно импортировал их из более раннего разговора. Если бы я принял эту критику за чистую монету, я бы ушел толстым, глупым и довольным, убежденный, что эти идеи уже есть на бумаге.
В рамках PMR всегда следует с подозрением относиться к странно конкретным утверждениям или цифрам и задавать вопрос: «Откуда это взялось в описании проблемы?» Если ответ «откуда-то», значит, вы оптимизируете не ту проблему.
Предвзятость, предвзятость, повсюду, но если задуматься, баланса почти нет.
Вдобавок ко всему, PMR наследует все обычные проблемы, связанные с предвзятостью модели и обучающими данными. Вероятности и истории о затратах, рисках и выгодах, которые вы видите, отражают закономерности в корпусе данных, а не в вашей реальной среде. Вы можете систематически недооценивать варианты, которые были редкими или непопулярными в мире обучения модели, и чрезмерно доверять закономерностям, которые работали в других областях или эпохах.
В данном случае, для смягчения последствий следует сравнить результаты модели с вашими собственными данными или с прошлыми решениями и результатами. Рассматривайте оценки модели как первые предположения, а не как априорные данные, которые вы обязаны принять.
Я устал. Сегодня я просто не буду напрягать мозги.
PMR также имеет реальную стоимость. Он требует больше времени и умственных усилий, чем «спросить один раз и вставить». В условиях нехватки времени у команд может возникнуть соблазн пропустить этот этап.
На практике я рассматриваю PMR как инструмент с режимами: полная версия для важных, трудноотменяемых решений и очень упрощенная версия, два варианта, быстрые плюсы и минусы, приблизительная проверка уверенности, для повседневных решений. Если все срочно, то ничего срочного не будет. PMR работает лучше всего, когда вы честно оцениваете, какие решения действительно заслуживают дополнительных усилий.
Побеждает тот, кто наберет больше очков? Верно?
Наконец, существует социальный риск, связанный с тем, что предложения ИИ воспринимаются как более объективные, чем человеческое суждение. У беглости речи есть авторитет. В групповой обстановке опасно легко допустить, чтобы вариант с наивысшим рейтингом в результатах модели стал вариантом по умолчанию, даже если у присутствующих людей есть реальные доказательства обратного.
Я стараюсь четко объяснить, что в PMR модель предлагает решение, а человек принимает решение. Если ваш жизненный опыт противоречит оценке LLM, ваша задача — не отступать, а спорить и пересматривать. Очень красноречивый продавец может убедить многих людей принять неверные решения, потому что он звучит умно, а значит, должен быть прав. Модели могут оказывать на нас такое же воздействие, если мы не будем осторожны. Так устроен человеческий мозг.
Цель изложения этих ограничений состоит не в том, чтобы подорвать эффективность ПМР (прогрессивной мышечной регрессии), а в том, чтобы подчеркнуть, что это инструмент, поддерживающий человеческое суждение, а не заменяющий его. Вам по-прежнему необходимо самостоятельно формировать свои мысли.
Для более глубокого изучения материала, пожалуйста, ознакомьтесь с дополнительной информацией.
Если вас интересуют идеи, лежащие в основе ПМР (прогрессивной мышечной релаксации), то за этой статьей стоит обширная и богатая литература на эту тему.
В работах поведенческой науки о принятии решений, таких как книга Даниэля Канемана «Думай быстро и медленно», исследуется, почему наши быстрые, интуитивные суждения часто оказываются ошибочными и почему структурированное сомнение так ценно. (Википедия)
Байесовские взгляды на вероятность как на «логику правдоподобных рассуждений», такие как книга Э. Т. Джейнса «Теория вероятности: логика науки» и более прикладные тексты, например, «Теория информации, вывод и алгоритмы обучения» Дэвида Маккея, обеспечивают математическую основу для обновления убеждений на основе имеющихся данных. (Институт Байеса)
В области анализа решений книга Ральфа Кини и Говарда Райффы «Решения с множественными целями: предпочтения и компромиссы между ценностью» описывает формальный механизм взвешивания вероятности, ценности и риска по противоречащим критериям таким образом, что это очень похоже на более взрослую версию простых примеров, приведенных здесь. (Cambridge University Press & Assessment)
А если вам нравится мыслить в терминах ансамблей и множества слабых точек зрения, то работы Лео Бреймана о случайных лесах — это приятный математический аналог интуитивного понимания того, что множество разнообразных, несовершенных точек зрения могут быть лучше, чем одна сильная. (SpringerLink)
Я не собираюсь втягивать в эту статью всю эту формальную логику. Я просто заимствую её дух и превращаю его в привычку, которую вы можете использовать уже сегодня.
Попробуйте это в следующий раз, когда возьметесь за эту модель.
В следующий раз, когда вы откроете свою любимую магистерскую программу, чтобы принять действительно важное решение, сопротивляйтесь желанию попросить дать единственный «лучший» ответ. Вместо этого сделайте что-то вроде этого:
Если вы не сделаете ничего, кроме этого — три варианта, приблизительные вероятности, явный взаимный обмен мнениями, короткий человеческий аргумент — вы уже будете мыслить яснее, чем большинство людей, которые молчаливо доверяют свои рассуждения любому готовому ответу, появившемуся на экране (или покупают эту подержанную развалюху!).
Генеративный ИИ будет и дальше совершенствоваться в умении уверенно звучать. Это не освобождает нас от обязанности думать. Вероятностное многовариантное рассуждение — один из способов сохранить контроль над тем, что считается хорошей причиной и хорошим решением, одновременно используя возможности машины по генерации сценариев в масштабе, недостижимом при использовании любой сессии на доске.
Я не пытаюсь превратить вас в ходячую машину принятия решений на основе байесовского подхода. Я надеюсь на нечто более простое и гораздо более полезное. Я хочу, чтобы вы помнили, что всегда существует более чем одно правдоподобное будущее, что неопределенность имеет форму, и то, как вы рассуждаете об этой форме, по-прежнему остается вашей задачей .
(c) Алан В. Нехом 2026
Источник: towardsdatascience.com
