Доступное введение в причинно-следственный анализ и машинное обучение.
Делиться
Введение: Ограничения машинного обучения
В современную цифровую эпоху специалисту по анализу данных необходимо уметь отвечать на самые разные вопросы, выходящие далеко за рамки простого распознавания образов. Типичное машинное обучение основано на ассоциациях; оно стремится найти закономерности в существующих данных для прогнозирования будущих наблюдений, предполагая, что базовая система остается неизменной. Если вы обучаете модель прогнозированию цен на жилье, вы просите алгоритм найти наиболее вероятную цену, учитывая набор характеристик.
Однако причинно-следственный анализ вводит компонент «что если». Он выходит за рамки простого наблюдения и задаёт вопрос, как бы система отреагировала, если бы мы активно изменили переменную. В этом разница между наблюдением, что люди, покупающие дорогие латте, также с большей вероятностью покупают спортивные автомобили, и пониманием того, приведёт ли снижение цены на этот кофе к увеличению продаж автомобилей. В мире причинно-следственного анализа мы, по сути, пытаемся изучить основные законы деловой или социальной системы, что позволяет нам предсказывать результаты действий, которые мы ещё не предприняли.
Причинно-следственный анализ имеет решающее значение в самых разных областях, когда нам необходимо выйти за рамки простого наблюдения за закономерностями для принятия решений, особенно в таких сферах, как здравоохранение, маркетинг и государственная политика. Рассмотрим медицинского исследователя, оценивающего новое лекарство от артериального давления и его влияние на тяжесть инфаркта. На основе исторических данных можно увидеть, что у пациентов, принимающих это лекарство, инфаркты на самом деле протекают тяжелее. Стандартная модель машинного обучения (МО) предположила бы, что препарат вреден. Однако это, вероятно, связано с влиянием посторонних факторов: врачи назначают это лекарство только пациентам с уже имеющимся слабым здоровьем. Чтобы найти истину, мы должны отделить фактическое воздействие препарата от шума, создаваемого существующими заболеваниями пациентов.
В этой статье я в доступной форме познакомлю вас с некоторыми важными понятиями и инструментами причинно-следственного машинного обучения. Я буду использовать только библиотеки, которые управляют данными, вычисляют вероятности и оценивают параметры регрессии. Эта статья не является учебным пособием, а лишь отправной точкой для тех, кто интересуется методами причинно-следственного вывода, но испытывает к ним опасения. Меня вдохновила онлайн-книга Матеуса Факуре Алвеса «Причинно-следственный вывод для смелых и верных». Примечание: для тех, кто не знаком с теорией вероятности, E[X] обозначает среднее значение случайной величины x.
Рамочная модель потенциальных результатов
Когда мы начинаем причинно-следственное исследование, вопросы, которые мы задаем, гораздо более конкретны, чем минимизация потерь или точность прогнозирования. Обычно мы начинаем со среднего эффекта воздействия (ATE), который показывает нам среднее влияние вмешательства или действия на всю популяцию.
В нашем медицинском примере мы хотим узнать разницу в тяжести инфаркта миокарда, если бы вся популяция принимала препарат, и если бы вся популяция его не принимала. Для математического определения этого мы используем модель потенциальных результатов. Сначала давайте определим несколько переменных:
Y: Результат (например, оценка тяжести инфаркта миокарда от 0 до 100).
Т: Индикатор лечения. Это бинарный «переключатель»:
T = 1 означает, что пациент принял препарат.
T = 0 означает, что пациент не принимал препарат (контрольная группа).
Y(1): Результат, который мы увидим, если пациенту будет оказано лечение.
Y(0): Результат, который мы бы наблюдали, если бы пациент не получал лечения.
Теоретический средний эффект лечения (ATE) — это ожидаемая разница между этими двумя потенциальными исходами для всей популяции:
ATE = E[Y(1) — Y(0)]
Для решения дилеммы ненаблюдаемых результатов исследователи используют концепцию потенциальных результатов. В рамках этой концепции мы предполагаем, что для каждого индивида существуют два «потенциальных» результата: Y(1) и Y(0). Мы наблюдаем только одно из этих двух значений, что известно как фундаментальная проблема причинно-следственного вывода.
Если пациент принимает лекарство (T=1), мы видим его фактический результат, Y(1). Его результат без лекарства теперь является контрфактическим, состоянием мира, которое могло бы существовать, но не существовало.
Ограничение причинно-следственного вывода заключается в том, что для любого конкретного человека мы наблюдаем только одно из этих двух значений. Если пациент принимает лекарство, мы видим его фактический результат, Y(1), в то время как его результат без лекарства Y(0) остается контрфактическим, состоянием, которое могло существовать, но не существовало.
ATE в идеальном мире
Поскольку индивидуальный эффект воздействия представляет собой разницу между этими двумя значениями, он остается для нас скрытым. Это смещает всю цель причинно-следственной оценки от отдельного человека к группе. Поскольку мы не можем вычесть контрфактическое значение из фактического для одного человека, мы должны найти хитрые способы сравнения групп людей.
Если группа, получающая лечение, статистически сопоставима с группой, которая его не получает, мы можем использовать средний наблюдаемый результат одной группы в качестве замены отсутствующего контрфактического результата другой. Это позволяет нам оценить средний эффект лечения, вычислив разницу между средним результатом группы, получавшей лечение, и средним результатом контрольной группы:
{ATE} = E[Y|T=1] — E[Y|T=0]
Предположим, что у тех, кто принимал препарат, средняя тяжесть инфаркта составила 56/100, по сравнению с 40/100 у тех, кто его не принимал. Если мы попытаемся оценить причинно-следственную связь, взяв простую разницу средних значений, данные покажут, что прием препарата привел к увеличению тяжести инфаркта на 16 пунктов.
E[Y|T=1] = 56, E[Y|T=0] = 40 -> ATE_BIASED = 16
Если только этот препарат не относится к числу самых опасных из когда-либо созданных, вероятно, здесь действует другой механизм. Это расхождение возникает потому, что мы можем интерпретировать простую разницу средних значений как средний эффект лечения только в том случае, если лечение проводилось в рамках рандомизированного контролируемого исследования (РКИ), которое гарантирует полную случайность распределения групп лечения. Без рандомизации группы лечения и контроля не взаимозаменяемы и различаются таким образом, что прямое сравнение затруднено.
Рандомизация
Причина, по которой рандомизированное контролируемое исследование (РКИ) является методом по умолчанию для расчета среднего эффекта лечения (ATE), заключается в том, что оно помогает исключить систематическую ошибку отбора. В нашем медицинском примере наблюдаемый нами вред в 16 баллов, вероятно, произошел потому, что врачи назначали препарат пациентам с самым высоким риском. В этом сценарии группа, получавшая лечение, уже была предрасположена к более высоким показателям тяжести заболевания до того, как приняла таблетку. При использовании РКИ мы исключаем человеческий фактор выбора. Благодаря такому рандомизированному отбору мы гарантируем, что пациенты высокого и низкого риска будут распределены равномерно между обеими группами.
С математической точки зрения, рандомизация гарантирует, что назначение лечения не зависит от потенциальных результатов.
Теперь мы можем предположить, что средний результат в группе, получавшей лечение, является идеальным показателем того, что произошло бы, если бы лечение получила вся популяция. Поскольку группы «лечения» и «контроля» изначально являются статистическими клонами друг друга, любые различия, которые мы видим в конце исследования, должны быть вызваны самим препаратом.
Наблюдательные данные и факторы, влияющие на результаты.
В реальном мире нам часто приходится работать с данными наблюдений. В таких ситуациях простая разница средних значений оказывается неэффективной из-за наличия искажающих факторов. Искажающий фактор — это переменная, которая влияет как на лечение, так и на результат, создавая «обходной путь», позволяющий возникновению не причинно-следственной связи между ними.
Для визуализации этих скрытых взаимосвязей исследователи причинно-следственных связей используют направленные ациклические графы (DAG). DAG — это специализированный граф, где переменные представлены узлами, а причинно-следственные связи — стрелками. Направленные стрелки имеют определенное направление, указывая на односторонний причинно-следственный поток от причины к следствию. Ациклические графы не содержат циклов; нельзя следовать последовательности стрелок и вернуться к первой переменной, главным образом потому, что переход от одного узла к другому должен представлять собой временной промежуток. Фактор, влияющий на результат, проявится в DAG благодаря своей направленной связи как с лечением, так и с результатом, как показано ниже.
После того как мы определили факторы, влияющие на результат, с помощью направленного ациклического графа (DAG), следующим шагом является их математический учет. Если мы хотим изолировать истинный эффект препарата, нам необходимо сравнить пациентов, которые во всем похожи, за исключением того, принимали ли они лекарство. В причинно-следственном анализе наиболее важным инструментом для этого является линейная регрессия. Включив фактор, влияющий на результат, в качестве независимой переменной, модель вычисляет взаимосвязь, сохраняя при этом исходное состояние здоровья пациента постоянным. Для нашего примера я сгенерировал фиктивный набор данных.
где назначение лечения зависело от исходного состояния здоровья (ИСЗ). Это видно в приведенном ниже коде, где как вероятность получения препарата, так и тяжесть заболевания зависят от исходного показателя состояния здоровья.
Согласно этой точке зрения, у лиц, принимавших препарат, среднее увеличение тяжести симптомов составило 3,47 балла. Для проверки достоверности результатов мы использовали модель множественной линейной регрессии методом наименьших квадратов (МНК) для контроля…
для первоначальной оценки состояния здоровья участников.
Наиболее важным результатом здесь является коэффициент переменной лечения (препарата). Хотя исходные данные указывали на вредность препарата, наш коэффициент составляет приблизительно -9,89. Это говорит о том, что при учете фактора, влияющего на исходное состояние здоровья, прием препарата фактически снижает тяжесть инфаркта почти на 10 пунктов. Это очень близко к нашему истинному эффекту, который составил ровно 10 пунктов!
Этот результат в большей степени соответствовал нашим ожиданиям, и это потому, что мы устранили значительный источник систематической ошибки отбора, контролируя влияние искажающих факторов. Преимущество линейной регрессии в данном контексте заключается в том, что её постановка аналогична типичной задаче регрессии. Можно применять преобразования, строить диагностические графики и интерпретировать наклоны как нормальные. Однако, поскольку мы включаем в нашу модель искажающие факторы, их влияние на результат не будет учитываться в коэффициенте лечения, что, как уже упоминалось, называется корректировкой или устранением систематической ошибки.
Сопоставление и оценка склонности
Хотя множественная линейная регрессия является мощным инструментом для устранения систематической ошибки, она в значительной степени опирается на предположение о линейной зависимости между факторами, влияющими на результат, и самим результатом. Во многих реальных ситуациях экспериментальная и контрольная группы могут быть настолько принципиально разными, что регрессионная модель вынуждена угадывать результаты в областях, где у нее нет фактических данных.
Для решения этой проблемы исследователи часто прибегают к методу сопоставления (Matching), который смещает акцент с математической корректировки на реструктуризацию данных. Вместо использования формулы для поддержания постоянного состояния здоровья, метод сопоставления ищет в контрольной группе «близнеца» для каждого пациента, получавшего лечение. Когда мы сопоставляем пациента, принимавшего препарат (T = 1), с пациентом с почти идентичным исходным состоянием здоровья, который его не принимал (T = 0), мы фактически сокращаем наш набор данных до синтетического рандомизированного контролируемого исследования (СКИ).
В этом сбалансированном подмножестве группы, наконец, взаимозаменяемы, что позволяет нам напрямую сравнивать их результаты и выявлять истинный средний эффект лечения (ATE). Создается впечатление, что каждая пара позволяет нам наблюдать как фактическое, так и контрфактическое состояние для одного типа наблюдений. Когда мы думаем о том, как сопоставить две записи в наборе данных, следует учитывать, что каждая запись представлена вектором в n-мерном пространстве, где n − 1 — количество признаков или факторов, влияющих на результат.
На первый взгляд кажется, что мы могли бы просто вычислить расстояние между этими векторами, используя евклидово расстояние. Однако проблема такого подхода заключается в том, что все ковариаты имеют одинаковый вес, независимо от их фактического причинного влияния. В многомерном пространстве, в условиях, известных как «проклятие размерности», даже наиболее близкий аналог может принципиально отличаться по тем параметрам, которые действительно важны для лечения.
В нашем моделируемом наборе данных, рассматривая участников с самыми низкими показателями здоровья, мы видим, что у участника 74, получавшего лечение, и у участника 668, не получавшего лечения, исходные показатели здоровья практически идентичны. Поскольку здесь мы имеем дело только с одним фактором, влияющим на результат, эти два участника идеально подходят для сопоставления. Однако по мере увеличения размерности становится невозможно найти такие совпадения, просто глядя на цифры, а простое евклидово расстояние не позволяет определить приоритетность переменных, которые действительно определяют смещение выборки.
На практике этот процесс чаще всего выполняется в виде сопоставления «один к одному», когда каждая обработанная единица сопоставляется со своим ближайшим соседом в контрольной группе. Для обеспечения высокой точности таких сопоставлений…
Для оценки качества мы используем показатель склонности (Propensity Score): одно число, представляющее вероятность того, что участник получит лечение с учетом его характеристик, P (T = 1|X). Этот показатель объединяет наши данные высокого качества.
Преобразуем многомерное пространство в одномерное, которое конкретно отражает вероятность лечения при заданном наборе ковариат. Затем используем алгоритм k-ближайших соседей (k-NN) для выполнения «нечеткого» поиска.
по этому поводу.
Чтобы избежать некорректных совпадений, мы можем выбрать пороговое значение, которое будет служить максимально допустимым расстоянием для сопоставления. Мы можем рассчитать вероятность несколькими способами, наиболее распространенным из которых является логистическая регрессия, но другие методы машинного обучения, способные выдавать вероятности, такие как XGBoost или Random Forest, также подойдут. В приведенном ниже коде я рассчитал вероятность, построив модель логистической регрессии, которая предсказывает участие в употреблении наркотиков, основываясь только на исходном состоянии здоровья. На практике в вашей модели будет больше факторов, влияющих на результат.
Как уже упоминалось, первым шагом сопоставления по показателю склонности является вычисление этого показателя. В нашем примере в качестве фактора, влияющего на результат, присутствует только исходное состояние здоровья, поэтому оно будет единственной ковариатой в нашей простой логистической регрессии.
Как и ожидалось, участникам 74 и 668 был присвоен очень схожий показатель склонности, и их, вероятно, можно было бы сопоставить. Также часто полезно построить так называемый график общей поддержки, который отображает плотность рассчитанных показателей склонности, разделенных на группы лечения и контроля. В идеале мы хотим видеть как можно больше совпадений и симметрии, поскольку это означает, что сопоставление единиц будет менее сложным. Как показано ниже, в нашем наборе данных присутствует систематическая ошибка отбора. Было бы полезно изучить приведенный выше код генерации данных и определить, почему.
Хотя в одномерном случае это и не обязательно, мы можем использовать алгоритм k-NN для сопоставления пациентов, получавших лечение, с пациентами, не получавшими лечение, на основе их показателя склонности.
Как вы помните, ранее наша линейная регрессия дала значение ATE -9,89 по сравнению с нашим нынешним расчетным значением -10,16. По мере увеличения сложности и количества ковариат в нашей модели, значение ATE, полученное с помощью сопоставления по показателю склонности, вероятно, будет все ближе и ближе к базовому причинно-следственному эффекту, равному -10.
Временные инвариантные эффекты с использованием метода разности разностей
Хотя метод сопоставления отлично подходит для устранения систематической ошибки на основе видимых переменных, он оказывается неэффективным, когда существуют скрытые факторы, такие как генетическая предрасположенность пациента или специфический стиль управления в больнице, которые мы не зафиксировали в наших данных. Если эти ненаблюдаемые факторы, влияющие на результат, не изменяются во времени (то есть остаются постоянными в течение периода исследования), мы можем использовать метод разности разностей (DiD) для их устранения.
Вместо сравнения экспериментальной группы с контрольной группой в один момент времени, метод разности разностей (DiD) рассматривает две группы за два периода: до и после лечения. Логика проста, но элегантна: мы вычисляем изменение в контрольной группе и предполагаем, что экспериментальная группа изменилась бы на ту же величину, если бы не получила лечения. Любое дополнительное изменение, наблюдаемое в экспериментальной группе, приписывается самому лечению. Уравнение для оценки DiD выглядит следующим образом:
Хотя эта формула на первый взгляд может показаться сложной, лучше всего понимать её как разницу в изменениях, происходящих до и после воздействия. Например, представьте два магазина мороженого в разных городах. До выходных магазин А (наша экспериментальная группа) продаёт 200 рожков, а магазин Б (наша контрольная группа) — 300. В субботу в городе магазина А начинается жара, а в городе магазина Б — нет. К концу дня продажи магазина А подскакивают до 500, а продажи магазина Б — до 400. Простой анализ продаж магазина А показал бы, что жара привела к увеличению на +300. Однако в контрольном магазине (магазин Б) продажи выросли на +100 за тот же период без жары, возможно, из-за праздника или общей летней погоды.
Метод разности разностей вычитает этот естественный временной тренд в +100 единиц из общего роста продаж магазина А. Он эффективно нейтрализует любые неизменяющиеся во времени факторы, влияющие на результаты, — такие как местоположение магазина или его базовая популярность, которые в противном случае исказили бы наши результаты. Это показывает, что истинное причинно-следственное влияние жары составило +200 единиц.
Существенным ограничением базового метода разности разностей (DiD) является то, что он не учитывает факторы, изменяющиеся со временем. Хотя логика «изменения в изменении» успешно исключает статические, неизменные во времени факторы, влияющие на результат (например, генетическую историю пациента или географическое местоположение больницы), она остается уязвимой для факторов, изменяющихся во времени. Это факторы, которые меняются в течение периода исследования и по-разному влияют на экспериментальную и контрольную группы.
Например, в нашем исследовании инфаркта миокарда даже анализ методом разности разностей (DiD) может быть искажен, если в больницах, где применялся препарат, также произошли значительные кадровые изменения или было модернизировано оборудование в период «после» применения препарата. Если мы не учтем эти изменяющиеся переменные, оценка методом DiD неверно припишет их влияние самому препарату, что приведет к «загрязненной» причинно-следственной оценке.
Важно отметить, что простая структура данных поперечного сечения, которую мы использовали для регрессии и сопоставления, недостаточна для этого метода. Для расчета «изменения изменения» нам необходимо временное измерение в нашем наборе данных. В частности, нам нужна переменная, указывающая, произошло ли наблюдение в период до или после лечения как для группы, получавшей лечение, так и для контрольной группы.
Для решения этой проблемы мы выходим за рамки простого вычитания и применяем метод разности разностей (DiD) в рамках множественной линейной регрессии. Это позволяет нам явно «контролировать» изменяющиеся во времени факторы, эффективно изолируя эффект воздействия, сохраняя при этом внешние сдвиги постоянными.
Модель регрессии определяется следующим образом:
Ниже представлен новый синтетический набор данных, отражающий требуемую структуру. Для демонстрации я также добавил переменную «Качество медицинской помощи». Полный код моделирования не приведён из-за его объёма, но он, по сути, изменяет предыдущую логику, дублируя наши наблюдения за два разных периода времени.
Поскольку наши данные представлены в правильном формате, мы можем построить модель линейной регрессии, используя только что упомянутые параметры.
Значение коэффициента детерминации R², равное 0,324, указывает на то, что модель объясняет приблизительно 32,4 процента дисперсии тяжести инфаркта миокарда. В причинно-следственном анализе это распространенное явление, поскольку многие неучтенные факторы, такие как
Генетические факторы рассматриваются как шум. Значение пересечения оси Y, равное 48,71, представляет собой базовую тяжесть заболевания в контрольной группе в период до начала лечения. Коэффициент влияния препарата, равный 12,75, подтверждает наличие систематической ошибки отбора, показывающей
У группы, получавшей лечение, изначально были более высокие показатели тяжести заболевания. Кроме того, коэффициент качества медицинской помощи показывает, что каждое увеличение этого показателя на единицу соответствует снижению тяжести заболевания на 2,10 балла.
Взаимодействие «лекарство:после» дает оценку методом разности разностей, которая показывает предполагаемый эффект препарата в -6,58. Это говорит о том, что лекарство снизило тяжесть заболевания после корректировки на различия между группами и временные тенденции, хотя оценка заметно ниже истинного эффекта в -10. Это расхождение возникает из-за того, что качество медицинской помощи улучшилось именно для группы, получавшей лечение, в постлечебный период, благодаря процессу сбора данных. Поскольку эти два изменения произошли одновременно в одной и той же группе, они идеально коррелированы, или коллинеарны.
Модель, по сути, сталкивается с математическим тупиком, когда она не может определить, связано ли улучшение с лекарством или с более качественным лечением, поэтому она делит заслугу между ними. Как и в любой линейной регрессии, если две переменные идеально коррелированы, модель может полностью исключить одну из них или дать крайне нестабильные оценки. Тем не менее, все переменные сохраняют значения p, равные 0,000, что подтверждает, что, несмотря на разделение заслуг, результаты остаются статистически значимыми. В реальных данных и анализе мы будем сталкиваться с подобными ситуациями, и важно знать все инструменты, имеющиеся в вашем арсенале в области анализа данных, прежде чем браться за решение проблемы.
Заключение и итоговые мысли
В этой статье мы исследовали переход от стандартного машинного обучения к логике причинно-следственного вывода. На синтетических примерах мы показали, что, хотя простые различия в средних значениях могут вводить в заблуждение из-за систематической ошибки отбора, такие методы, как линейная регрессия, сопоставление по показателю склонности и метод разности разностей, позволяют нам исключить искажающие факторы и выделить истинное влияние.
Наличие этих инструментов в нашем арсенале недостаточно. Как показал пример нашей финальной модели, даже сложные методы могут создавать проблемы, когда вмешательства перекрываются. Хотя эти методы эффективны для корректировки влияния искажающих факторов, они требуют глубокого понимания их основных механизмов. Опора на результаты модели без учета реальности коллинеарности или изменяющихся во времени факторов может привести к ошибочным выводам.
В то же время, знание того, когда и как применять эти инструменты, может стать ценным навыком для любого специалиста по анализу данных. На мой взгляд, одним из главных преимуществ статистического программирования для причинно-следственного анализа является то, что большинство методов основаны на нескольких фундаментальных статистических моделях, что делает их реализацию проще, чем можно было бы ожидать.
В реальном мире, несомненно, много сложностей и проблем с данными, и редко удается наблюдать идеально чистый причинно-следственный сигнал. Причинно-следственное машинное обучение в конечном итоге сводится к использованию правильных данных при уверенности в том, что наши переменные позволяют проводить истинную корректировку. Эта статья — мой первый шаг в документировании моего пути в области причинно-следственного анализа, и я планирую выпустить вторую часть, которая углубится в другие темы, включая инструментальные переменные (IV), панельную регрессию, двойное машинное обучение (DML) и мета-обучающие модели.
Рекомендуемая литература
Факуре, Матеус. Причинно-следственный вывод для смелых и верных. Доступно по адресу: https://matheusfacure.github.io/python-causality-handbook/
Источник: towardsdatascience.com
