К развенчанию мифов о креативности моделей распространения.
Мы показываем, что креативность диффузионной модели (ее способность генерировать новые данные, а не просто запоминать свой обучающий набор) является математическим следствием обучения нейронных сетей «сглаженной» версии функции оценки, что заставляет модель интерполировать между точками обучающих данных вдоль скрытого многообразия данных.
Быстрые ссылки
- Бумага
- Код
- Делиться
В настоящее время диффузионные модели являются одним из наиболее мощных инструментов для решения генеративных задач, требующих сложных и локальных структур, таких как генерация изображений и поиск молекул. Они продемонстрировали впечатляющую способность к обобщению за пределы обучающих данных и, в этом смысле, проявляют «креативность». Например, после обучения на наборах данных реальных изображений они могут преобразовывать случайные шумовые образцы в новые высококачественные изображения.
Хотя эта творческая способность впечатляет, она поднимает интригующий вопрос: откуда она берется? Понимание ответа на этот вопрос является важным шагом на пути к развенчанию мифов о «черном ящике» генеративного ИИ, основанного на диффузии.
С этой целью в докладе «Об интерполяционном эффекте сглаживания оценок в диффузионных моделях», представленном на ICLR 2026, мы углубляемся в математику диффузионных моделей, чтобы ответить на этот вопрос. Мы показываем, что креативность модели — это не случайность. Вместо этого она является следствием того, как обучение нейронной сети естественным образом «сглаживает» преобразование шума обратно в данные в процессе генерации.
Понимание принципов шумоподавления
Обучение модели диффузии начинается с того, что берут набор реальных обучающих данных — например, фотографии кошек — и намеренно искажают их шумом до тех пор, пока они не станут совершенно неузнаваемыми. Затем модель обучается поэтапному устранению этого искажения, чтобы она могла восстановить реалистично выглядящее изображение из чистого шума — процесс, называемый шумоподавлением.
Если модель научится идеально выполнять этот процесс шумоподавления, основываясь только на своих обучающих выборках, она должна будет создавать их точные копии и во время развертывания (это поведение известно как запоминание). В этом сценарии модель выступает в роли инструмента поиска, а не в роли творческого механизма, способного генерировать новые результаты.
Однако на практике диффузионные модели обычно делают больше, чем просто запоминают; они обобщают данные, генерируя новые выборки.
Чтобы понять, как диффузионные модели на самом деле подавляют шум в данных, представьте случайный шум как облако газовых частиц, рассеянных по комнате, где «силовое поле» притягивает каждую частицу в определенном направлении, пока они не примут осмысленную форму. В диффузионной модели движущиеся частицы — это отдельные точки данных, подвергающиеся подавлению шума. «Силовое поле» — это функция оценки (ФО), которая обучается на основе обучающих данных и определяет, куда должны двигаться частицы в любой заданный момент времени.
Если модель основана на функции оценки, идеально обученной на основе обучающих данных, то силовое поле будет перемещать частицы в положения, точно повторяющие точки обучающих данных (т.е., произойдет запоминание).
Функция оценки управляет процессом шумоподавления, который преобразует чистый шум в осмысленные данные (например, изображения).
Модель диффузии креативности: одномерный пример
Мы обнаружили, что креативность диффузионных моделей на самом деле проистекает из приблизительного характера обучения нейронных сетей: несовершенное обучение из-за регуляризации естественным образом приводит к небольшому размытию изученной функции оценки в процессе, называемом «сглаживанием оценки». Это, в свою очередь, приводит к тому, что процесс шумоподавления генерирует данные, которые интерполируют (другими словами, попадают в пространство между) обучающими точками, создавая таким образом новые и правдоподобные выборки данных.
Представьте одномерный мир всего с двумя точками обучающих данных: +1 и -1. На поздних этапах процесса шумоподавления «идеальная» функция оценки выглядит как изогнутая серая линия на рисунке ниже, которая резко меняет знак посередине между двумя точками, что означает быстрое изменение направления притяжения к 0. Другими словами, все пространство почти резко делится на две части: частицы слева притягиваются к -1, а частицы справа — к +1. В конце концов, каждая частица сходится к одной из двух точек обучающих данных, и, таким образом, происходит запоминание.
Функция «идеального» результата заставляет процесс шумоподавления сворачиваться на обучающие данные, что приводит к запоминанию (цвет фона и его непрозрачность указывают направление и силу воздействия: красный — вправо, синий — влево).
Однако на практике диффузионные модели не имеют доступа к «идеальной» функции оценки, а используют приблизительную версию, изученную нейронной сетью. Из-за эффекта регуляризации, вызванного уменьшением весов во время обучения, нейронным сетям трудно изучать функции с такими резкими скачками. Вместо этого они, как правило, изучают более плавные версии «идеальной» функции оценки, сглаживая крутой спад и превращая его в более пологий склон. Чтобы проиллюстрировать это, мы провели эксперимент по обучению двухслойных нейронных сетей ReLU для аппроксимации функции оценки в одномерном примере, при этом параметры нейронных сетей были оптимизированы популярным алгоритмом AdamW при различных степенях уменьшения весов (WD).
Нейронные сети, обученные с использованием регуляризации, изучают более сглаженные версии функции оценки.
Чем сильнее затухание веса, тем более плавной становится обученная функция оценки в средней области, а это значит, что частицы в этой области движутся медленнее, чем раньше, и в конечном итоге окажутся в «зоне интерполяции» между двумя точками обучающих данных.
Сглаживание оценок создает «зону интерполяции» между точками обучающих данных.
В данной работе мы количественно оцениваем эту связь, объединяя теорию функционального пространства регуляризации нейронных сетей с математикой шумоподавления. Кроме того, наши эксперименты также показывают, что даже без явных стратегий регуляризации, таких как уменьшение весов, сглаживание оценок может также быть результатом неявного эффекта регуляризации, обнаруженного в нейронных сетях, обученных с помощью алгоритмов на основе градиента.
Сглаживание оценок значительно облегчает восстановление.
В реальном мире сложные данные, такие как изображения высокого разрешения, существуют в многомерном пространстве пикселей, а не в простом одномерном мире. Однако подавляющая часть этого пространства представляет собой случайный шум, бессмысленный для человеческого глаза. Лишь небольшая часть точек данных в этом пространстве соответствует узнаваемым изображениям, и они находятся в так называемом многообразии данных (подобно листу, помещенному в большее пространство). Форма и местоположение многообразия данных заранее неизвестны модели. Таким образом, генерацию изображений можно рассматривать как задачу восстановления многообразия, где модели необходимо определить, как выглядит скрытое многообразие данных, основываясь на конечном числе обучающих данных, взятых из него, а затем найти новые точки на многообразии, которые будут соответствовать новым и значимым изображениям. Оказывается, сглаживание оценок имеет решающее значение для диффузионных моделей, чтобы достичь этой цели.
Примечательно, что в многомерных условиях эффект сглаживания оценок проявляется в зависимости от направления. Вдоль направлений, параллельных (или «касательных») скрытому многообразию данных, он вызывает аналогичное замедление, как и в одномерном сценарии. Однако вдоль направлений, направленных к многообразию, «идеальная» функция оценок уже относительно гладкая (фактически, просто прямая линия, если многообразие плоское), и дальнейшее сглаживание не вносит существенных изменений.
Таким образом, вместо того чтобы тормозить поток частиц во всех направлениях (что привело бы к их застреванию в шумном пустом пространстве и размытию итоговых изображений), сглаживание оценок не замедляет их движение к многообразию, а лишь уменьшает их склонность к схлопыванию в направлении обучающих данных вдоль касательных направлений. Таким образом, модель достигает баланса между качеством и новизной: изображения выглядят одновременно реалистично (поскольку они успешно достигли значимого многообразия данных) и новыми (поскольку они расположились в пустых пространствах между исходными точками обучающих данных).
воспроизведение видео без звука зацикливание пауза видео без звука зацикливание включение звука видео выключение звука
В многомерных условиях сглаживание оценок вызывает эффект интерполяции, который аппроксимирует обучение на многообразиях.
Заключение
Наши результаты показывают, что то, что мы называем «креативностью» диффузионных моделей, на самом деле может быть предсказуемым математическим результатом. Поскольку нейронные сети никогда не бывают «идеально» точными, они создают мосты, которые интерполируют между известными данными. В генерации изображений или разработке лекарств это может означать, что диффузионная модель не просто запоминает два разных изображения кошек или молекул лекарств, которые ей были показаны; она исследует пространство вокруг них, чтобы предложить третье, совершенно новое изображение или молекулярную конфигурацию, которая объединяет следы обоих.
Наша работа представляет собой лишь первоначальную попытку прояснить этот механизм, и еще предстоит выяснить, что произойдет, когда распределение данных или архитектура нейронных сетей станут более сложными. Тем не менее, показав, что это поведение в корне обусловлено тем, как нейронные сети обучаются, мы можем начать целенаправленно создавать модели, которые являются лучшими «интерполяторами», чтобы гарантировать, что они остаются творческими механизмами, избегая при этом ловушек слепого запоминания. Мы также опубликовали код для численных экспериментов, использованных для создания рисунков в нашей статье.
Благодарности
Мы благодарим Сриниваса Голлапуди и Рави Кумара за поддержку проекта, а также Марка Симборга и Кимберли Шведе за помощь в подготовке этой публикации в блоге.
Источник: research.google
Оцените материал:
