Генеративный ИИ начал деградировать из-за отсутствия новых данных

Генеративный искусственный интеллект опирается на огромные массивы человеческого контента, собранного из открытых интернет?источников. Однако учёные всё чаще задаются тревожным вопросом, что случится, когда оригинальный материал начнёт иссякать и модели станут обучаться преимущественно на данных, созданных другими ИИ.

Исследования уже демонстрируют тревожную закономерность: нейросети постепенно «поедают» собственный контент, и это приводит к неуклонной деградации качества. С каждой новой итерацией генерируемые результаты становятся всё более шаблонными и искажёнными, теряя разнообразие и выразительность.

В недавней работе, опубликованной в журнале Patterns, международная группа исследователей смоделировала этот процесс. Они объединили генератор изображений с системой автоматического описания картинок и запустили их в замкнутый цикл — без привлечения новых данных, созданных человеком. Спустя несколько итераций система начала выдавать крайне безликие изображения, лишённые индивидуальности. Авторы метко окрестили их «визуальной музыкой для лифта» — предсказуемой, невыразительной и лишённой творческой искры.

Этот эксперимент вскрыл фундаментальный феномен: даже без дополнительного обучения автономные петли обратной связи в ИИ естественным образом дрейфуют к общим аттракторам — усреднённым шаблонам, которые кажутся системе наиболее «безопасными» с точки зрения статистики. Вместо развития модель постепенно схлопывается в зону максимальной предсказуемости и минимального риска, утрачивая способность к генерации оригинальных решений.

Профессор компьютерных наук Университета Рутгерса Ахмед Элгаммал расценивает эти результаты как тревожное свидетельство нарастающей «культурной стагнации», порождаемой генеративным ИИ. Особенно тревожит то, что коллапс разнообразия произошёл без какого?либо переобучения: модель просто многократно перерабатывала собственные выходные данные, неизбежно скатываясь к шаблонам.

Ситуация осложняется тем, что алгоритмы уже активно продвигают ИИ?контент в топ поисковых и рекомендательных систем, вытесняя человеческие творения. Хотя сторонники технологии настаивают, что человек останется «финальным судьёй творчества», реальность оказывается сложнее. Медиация культуры через ИИ всё чаще фильтрует поток контента в пользу знакомого и предсказуемого. Сам механизм работы статистических моделей подталкивает их к усреднению: система естественным образом выбирает наиболее вероятные, а значит — наиболее шаблонные решения. В результате возникает замкнутый цикл самоподкрепления, где каждое новое поколение контента становится ещё более обезличенным.

Чтобы предотвратить культурную стагнацию, исследователи подчёркивают необходимость принципиальных изменений в подходе к разработке ИИ. Ключевым условием сохранения творческого разнообразия становится активное вовлечение человека в процесс генерации. Именно коллаборация человека и машины способна противостоять дрейфу к усреднённым результатам. При этом важно проектировать ИИ?модели так, чтобы они не просто воспроизводили статистические паттерны, а сознательно отклонялись от них, сохраняя пространство для неожиданности и оригинальности.

Кроме того, требуется тщательный контроль источников данных: недопустимо допускать замкнутых циклов, где ИИ обучается исключительно на синтетическом контенте. Необходимо разрабатывать комплексные метрики качества, которые учитывали бы не только техническую точность генерации, но и культурную ценность, эмоциональную глубину и оригинальность создаваемого контента.

Без таких мер генеративный ИИ рискует превратиться из инструмента творчества в механизм его усреднения. Вместо обогащения культурного ландшафта он будет воспроизводить и усиливать шаблоны, постепенно сводя на нет разнообразие человеческого выражения.

Источник: www.goha.ru

Источник: ai-news.ru