Малые данные, большие карты: обучение геопространственных моделей машинного обучения при ограниченном объеме выборки.

Когда изображений, мозаик и массивов данных существует в изобилии, но метки полей дороги, редки и подвержены ошибкам измерения.

Делиться

В геопространственном машинном обучении самым большим узким местом почти никогда не является объем памяти графического процессора или размер модели. Это ограниченное количество полевых образцов, к которым у вас есть доступ на обширной, дорогостоящей и логистически сложной территории. Эта статья выросла из постоянных обсуждений и практического опыта работы с данными из тропических лесов Амазонки, где эта проблема проявляется в своей самой острой форме: густые леса, затрудненный доступ и бюджеты, которые не соответствуют масштабам территории.

Цель здесь — обсудить, как создавать геопространственные модели машинного обучения, когда сбор большего количества полевых данных слишком дорог, слишком медленен или просто нецелесообразен. И «дорог» здесь — не метафора: один участок лесной инвентаризации в отдаленном районе может стоить столько же, сколько современный компьютер для обучения модели машинного обучения. В центре внимания не готовый рецепт, а практические компромиссы: что упростить, где использовать регуляризацию, как проводить валидацию и как сообщать о неопределенности, когда набор данных значительно меньше, чем хотелось бы.

Эта проблема часто встречается в приложениях, связанных с охраной окружающей среды, лесным хозяйством и дистанционным зондированием, но она не ограничивается этими контекстами. Логика применима к любой непрерывной пространственной переменной, где изображения, мозаики и массивы данных существуют в изобилии, но метки полей дороги, редки и несовершенны.

Структурные проблемы геопространственных данных

Сбор полевых данных об окружающей среде всегда обходится дорого. Он требует планирования, логистики, оборудования, персонала и зачастую узких сезонных периодов. В отдаленных регионах, таких как тропические леса Амазонки, затраты резко возрастают: доступ требует использования лодок, длительных поездок и сложных разрешений. Все это делает каждый дополнительный образец очень дорогим, что также относится к тропическим лесам, засушливым районам, горным вершинам и океанам. Спутниковые пиксели и спектральные производные получить относительно легко, но надежные полевые измерения сопряжены с логистическими трудностями.

Типичный сценарий знаком любому, кто работает с данными об окружающей среде: огромная область интереса, большой набор изображений, индексов, моделей рельефа и других продуктов дистанционного зондирования, а также ограниченное количество опорных точек или участков, собранных в ходе различных кампаний, иногда с интервалом в несколько лет.

На первый взгляд, количество выборок от 100 до 200 может показаться разумным для построения полезной модели. Проблема в том, что в геопространственных исследованиях размер выборки практически никогда не отражает всей картины. То, что в совокупности выглядит относительно удобным набором данных, может оказаться довольно ограниченным, как только начнётся исследование неоднородности окружающей среды.

Шаг 1 – Извлечение дополнительной информации из каждого образца

Когда меток мало, наиболее продуктивным путем редко бывает переход сразу к самой сложной доступной модели. Наилучший результат обычно достигается за счет увеличения информационного содержания каждого образца путем интеграции данных и инженерии признаков.

На практике это означает попытку представить каждую опорную точку с помощью небольшого, но информативного набора дополнительных сигналов. Вместо того чтобы полагаться на один источник, стоит комбинировать показатели оптических датчиков, структурную информацию, полученную с помощью лидара или радара, топографические переменные, полученные из ЦМР, и временной контекст, когда важна сезонная динамика, например, наводнения и засухи в Амазонии.

Идея состоит в том, чтобы не перегружать матрицу признаков всем доступным набором данных. При малом объеме данных это почти всегда увеличивает вероятность того, что модель выявит ложные взаимосвязи. Цель состоит в том, чтобы свести различные физические измерения ландшафта к небольшому набору полезных переменных.

Шаг 2 – Выбор моделей, учитывающих фактический масштаб проблемы.

При работе с небольшими наборами данных выбор модели меньше зависит от того, «кто победит в сравнительном тесте», и больше — от контроля дисперсии. Высокогибкие модели могут показаться привлекательными, но при малом количестве размеченных примеров риск запоминания локального шума и случайных пространственных закономерностей быстро возрастает.

По этой причине алгоритмы на основе деревьев решений остаются во многих случаях надежной точкой равновесия: случайный лес как устойчивый базовый алгоритм, градиентный бустинг, такой как XGBoost, когда требуется больший контроль и гибкость, и более сложные ансамбли только тогда, когда есть реальные доказательства стабильного улучшения. Их преимущество не в магии, а скорее в разумной способности обрабатывать нелинейности, взаимодействия и умеренную мультиколлинеарность, предлагая при этом четкие механизмы регуляризации.

В этом контексте постоянно возникают компромиссы: более глубокие модели улавливают больше деталей, но запоминают больше шума; больше признаков увеличивает описательную способность, но повышает риск переобучения. При небольшом объеме данных цель состоит не в максимизации производительности на одном благоприятном разбиении, а в поиске конфигурации, достаточно стабильной, чтобы сохранять смысл, когда модель выходит за пределы окрестности точек выборки.

Шаг 3 – Подтверждение, которое вам не лжет.

Самый простой способ обмануть себя в геопространственном машинном обучении — это применить случайную перекрестную проверку к пространственно автокоррелированной задаче. Когда соседние точки имеют общие элементы окружения, историю и артефакты датчиков, разделение соседних выборок между обучающей и тестовой выборками, как правило, искусственно завышает показатели.

Это тот тип ошибки, который приводит к отличным показателям валидации в лаборатории, но полностью искажает карты на практике. На бумаге кажется, что модель обобщает данные; в действительности же она просто интерполирует в пределах области, уже очень похожей на ту, которую она видела во время обучения.

Таким образом, пространственная валидация является обязательной. Точный формат может варьироваться, но логика проста: пространственно близкие блоки должны оставаться вместе, чтобы тестовый набор действительно представлял регионы, которые модель не видела косвенно. Это изменение почти всегда ухудшает показатели по сравнению со случайной валидацией, но этот кажущийся недостаток на самом деле является повышением достоверности.

Шаг 4 – Проблема дисбаланса скрытых классов

Даже после применения пространственной валидации остается одна деталь, которая часто остается незамеченной. Начальный объем в 100-200 образцов может показаться достаточным, если исследуемая область рассматривается как однородная.

Однако при более тщательном анализе окружающей среды выявляется еще один уровень сложности: ландшафт не представляет собой единую систему. На практике территория состоит из различных экологических слоев или фитофизиономий, каждый из которых имеет свою собственную структуру, динамику и пространственные характеристики.

Это полностью меняет интерпретацию размера выборки. Этот объем данных больше не представляет собой единую проблему; он распределен по множеству экологических областей с различными особенностями поведения. Модель обучается не на сотнях эквивалентных примеров, а на меньших, несбалансированных и крайне неоднородных подмножествах.

Именно здесь рушится ощущение методологической уверенности. Некоторые слои оказываются достаточно представленными, в то время как другие находятся на грани минимальной надежности для обучения и валидации. Совокупная средняя производительность может по-прежнему выглядеть приемлемой, но неопределенность возрастает именно там, где охват выборки наиболее слаб или где экологическое поведение наиболее отчетливо проявляется. Рассмотрение средних показателей вводит в заблуждение: в неоднородных сценариях хорошее глобальное среднее значение не гарантирует стабильного поведения во всех частях карты.

Шаг 5 – Рассмотрение неопределенности как основного результата (и информирование об ограничениях)

Если пространственная неоднородность фрагментирует эффективный размер выборки, неопределенность перестает быть методологической примечанием и становится центральной частью результата. Притворство в равномерной точности игнорирует реальную вариацию ошибок в пространстве.

Таким образом, карту неопределенности следует рассматривать как основной продукт, а не как необязательное приложение. Это инструмент, показывающий, где модель подтверждается достаточными доказательствами, а где она выходит за рамки того, что могут выдержать данные. В зависимости от используемого алгоритма, эту неопределенность можно аппроксимировать изменчивостью между деревьями, дисперсией по валидационным фолдам или пространственным анализом остатков вне фолдов.

Пользователь не должен получать лишь сплошную поверхность прогнозируемых значений. Более ответственный подход заключается в прозрачности и четком разъяснении следующего:

• Модель была проверена с учетом пространственной согласованности.
• Различные экологические слои демонстрируют различные уровни погрешности.
• Покрытие выборки напрямую влияет на локальную надежность.
• Неопределенность — это часть продукта, а не сноска.

Такой подход повышает точность технической интерпретации и предотвращает неправильное использование карт, которые кажутся точными, но на самом деле не всегда достоверны.

Когда сбор дополнительных данных невозможен

Рекомендация «собрать больше данных» методологически верна, но практически бесполезна во многих контекстах. В отдаленных районах затраты, время и логистика накладывают ограничения, гораздо более жесткие, чем хотелось бы признать в любых рекомендациях по моделированию.

Именно поэтому геопространственные задачи требуют прагматизма. Когда расширение набора данных нецелесообразно, альтернативой является более эффективная работа с имеющимися данными: честная проверка достоверности, снижение сложности там, где это необходимо, извлечение большей информации из ковариат и четкое информирование о неопределенности. Небольшой объем данных в геопространственной работе — это не просто количественная проблема; это одновременно проблема количества, неоднородности и пространственного распределения.

Уроки, извлеченные из опыта

• Размер выборки — это иллюзия : важен эффективный размер выборки в каждом реальном слое или подсреде рассматриваемой проблемы.
• Пространственная валидация является обязательным условием : случайная валидация маскирует переобучение, игнорируя пространственную автокорреляцию.
• Разработка признаков превосходит сложность : интеллектуальная интеграция датчиков дает больше преимуществ, чем сложные архитектуры, при работе с небольшими наборами данных.
• Использование карты, отражающей неопределенность, необходимо: ее следует предоставлять вместе с прогнозом, чтобы обозначить области экстраполяции и пробелы в выборке.

Когда объём данных не может расти, единственный честный путь — это сделать неопределённость видимой и позволить ей стать частью ответа, а не оправданием для неё.

Джесси Бурламак Посмотреть все от Джесси Бурламак

Источник: towardsdatascience.com