Проблема однообразия, лежащая в основе этих непривлекательных меню, сгенерированных искусственным интеллектом.

Когда это происходит с вами впервые, вы думаете, что сошли с ума. Вы заходите в кафе и смотрите на меню с разнообразными сэндвичами с бейглом, но каждая иллюстрация выглядит пугающе безупречной, идеально симметричной и странно гладкой, вызывая интуитивное ощущение, что что-то не так. Вы можете подумать, что у вас паранойя, но вы не сходите с ума. Генеративные меню на основе искусственного интеллекта ворвались в ресторанный бизнес благодаря моделям, обученным на узкой, «приятной» эстетике, которая кажется неправильной, даже когда вы не можете объяснить, почему.

Иногда эти иллюстрации выглядят вопиюще фальшивыми, например, буррито с таким пузырчатым и расплавленным сыром, что оно больше похоже на авангардное произведение искусства, чем на обед. Чаще всего они настолько обыденны, что вы замечаете что-то неладное только тогда, когда присматриваетесь внимательнее.

«Это почти как если бы инопланетянин пытался приготовить пиццу, не понимая её основных принципов», — сказал технический директор Reality Defender Алекс Лайл в интервью TechCrunch. (Сама компания Reality Defender входит в растущую категорию стартапов, продающих инструменты для обнаружения объектов с помощью ИИ и проверки контента — бизнес, который существует отчасти благодаря таким проблемам, как эта.)

Лайл говорит, что способ построения этих моделей может помочь объяснить, почему иллюстрации, кажется, придерживаются такой специфической эстетики — где каждый шарик мороженого идеально круглый, а креветки, похоже, были генетически модифицированы, чтобы поедать собственные хвосты, создавая новые «лавкрафтовские пищевые ужасы».

Большие языковые модели (LLM) и модели распространения — те самые модели искусственного интеллекта, которые делают возможным создание, казалось бы, всезнающих чат-ботов и генераторов изображений, таких как ChatGPT и Midjourney, — обучаются на огромных массивах данных. Затем модели выявляют закономерности в наборах данных, чтобы предсказать, что ищет пользователь, когда задает вопрос, например: «Составьте мне меню для бургерной».

«Многое из этого напоминает меню Chili's 2015 года, и на это есть причина», — сказал Лайл. «Именно из этого набора работ [модели] черпали вдохновение для своей работы».

Новые обучающие данные бесценны для компаний, разрабатывающих модели ИИ — даже выяснилось, что Amazon закупает редкие книги для сканирования и добавления в свои обучающие данные, а затем уничтожает эти книги после загрузки. Неизбежно, что некоторый контент, сгенерированный ИИ, проникнет в эти непостижимо большие наборы данных. Но когда модели ИИ обучаются на слишком большом количестве собственного контента, сгенерированного ИИ, они рискуют рухнуть.

«Крах модели — это почти как коровье бешенство… когда вы возвращаете результаты одной модели в саму себя, в конечном итоге инбридинг становится слишком сильным, и вся система рушится», — объяснил Лайл. «То, что мы видим здесь, — это конвергенция, которая не обязательно означает коллапс модели».

Конвергенция — это менее радикальный подход, который ухудшает качество результатов работы ИИ, не делая его полностью бесполезным.

Если кто-то попросит модель искусственного интеллекта сгенерировать меню для ресторана быстрого питания, модель, скорее всего, будет использовать меню Wendy's, Burger King, McDonald's или другой популярной сети. Эти меню уже имеют схожий стиль, а это значит, что сгенерированные ИИ результаты будут имитировать тот же стиль, и этот стиль будет ещё больше усиливаться, если сгенерированное ИИ меню окажется в обучающих данных.

Но меню и реклама еды всегда будут выглядеть лучше, чем реальность, например, Биг Мак в рекламе McDonald's, где каждый слой сэндвича расположен дизайнером так, чтобы выглядеть максимально аппетитно. Этот эффект может стать еще более заметным в результатах работы ИИ.

«Оптимизация наборов данных направлена на то, чтобы сделать их приятными на вид или, скажем так, не оскорбительными, и поэтому это в некотором смысле приводит к гомогенизации», — сказал Ли Рейни, директор Центра «Представление о цифровом будущем» в Университете Элона, в интервью TechCrunch. «Известно, что ИИ, работая как с изображениями, так и с языком, сглаживает острые углы».

В более локальном масштабе такое сглаживание изображений, по-видимому, происходит, когда вы используете генератор изображений на основе ИИ для создания меню и вносите в него изменения. На X пользователь под ником Labtec показал, что происходит, когда вы создаете меню в ChatGPT, а затем редактируете его 100 раз, чтобы увидеть, как еда все меньше и меньше соответствует своему первоначальному виду. (Мы повторили эксперимент и получили аналогичные результаты.)

«В конечном итоге это меня действительно беспокоит», — написала компания Labtec.

Рестораны, вероятно, становятся жертвами этой проблемы, постоянно пересматривая свои меню, созданные с помощью ИИ, изменяя мелкие детали, такие как цены или названия блюд. Кажется, с каждой правкой изображения блюд становятся чуть более округлыми и гладкими.

«У людей есть почти необъяснимое ощущение, когда они видят что-то, созданное искусственным интеллектом, в отличие от чего-то реального», — сказала Рейни. «Есть такое чувство, которое людям иногда трудно выразить словами, но они как бы узнают это, когда видят, и я думаю, что это одна из причин, почему некоторые из первых сообщений о негативной реакции [на рестораны, использующие меню, созданные с помощью ИИ] так сильно выражены».

За нашей неприязнью к этим меню, созданным искусственным интеллектом, стоит научное объяснение. Исследователи из Университета Дуйсбург-Эссен в Германии обнаружили, что изображения еды, созданные ИИ, демонстрируют эффект «зловещей долины», когда изображения еды, которые выглядят почти как настоящие, вызывают больше отвращения и дискомфорта, чем изображения, которые явно являются подделками. Эта брезгливость только усиливается в свете культурного контекста, окружающего ИИ.

Если люди так негативно реагируют на эти изображения, то, вероятно, этого достаточно, чтобы рестораны перестали пытаться внедрять меню, созданные с помощью искусственного интеллекта. Но проблемы, благодаря которым у нас получаются идеально подрумяненные булочки для гамбургеров, выходят за рамки обеденного стола.

«Всегда считалось, что лучше один раз увидеть, чем сто раз услышать, до такой степени, что даже наши судебные системы полностью привыкли к тому, что золотым стандартом доказательств являются записанные на пленку признания и видеозаписи», — сказал Лайл. «Но теперь это уже не так. Мир коренным образом изменился, к лучшему или к худшему».

Источник: techcrunch.com