Хэнк Грин обнаружил проблему с искусственным интеллектом, которую не могут выявить метки YouTube.

«Некачественная жижа» — не единственная проблема.

Модель ИИ, погруженная в размышления, на желтом фоне. Концепция машинного обучения и искусственного интеллекта. Векторная иллюстрация. Источник: Getty Images . Модель ИИ, погруженная в размышления, на желтом фоне. Концепция машинного обучения и искусственного интеллекта. Векторная иллюстрация. Источник: Getty Images

В настоящее время YouTube требует от создателей контента сообщать зрителям, «когда они используют ИИ для существенного изменения или создания фотореалистичного контента».

Эта политика устанавливает некоторые странные границы. Она применяется к «музыке, созданной с помощью ИИ» (не фотореалистичной), но не к «езде на единороге по фантастическому миру» (это может быть фотореалистично, хотя и неправдоподобно). Затем YouTube резюмирует политику по-другому: «Реалистичный контент, созданный с помощью ИИ, и существенные изменения требуют раскрытия информации, в то время как нереалистичные или незначительные изменения — нет».

Однако использование ИИ, не требующее раскрытия информации, может включать в себя все, от «генерации идей» до «помощи в производстве, например, использование инструментов генеративного ИИ для создания или улучшения плана видеоролика, сценария, эскиза, заголовка или инфографики». Создатели могут свободно клонировать свои собственные голоса для озвучивания. Они также могут использовать «сгенерированную или измененную с помощью ИИ анимацию ракеты в полностью анимированном видеоролике».

Это приводит к довольно странным ситуациям. Захватывающее 10-секундное видео, где я еду на своем созданном ИИ коне по болотам Сойлентиуса IV, где царит атмосфера, когда лошади умирают от газов? Никакого разглашения информации, хотя все видео создано ИИ. Но когда я добавляю созданную ИИ балладу на лютне о серьезных опасностях, с которыми я столкнулся в этих болотах? Разглашение информации становится обязательным.

Разрыв в политических взглядах становится еще более существенным, если представить себе 30-минутное видео, пытающееся повлиять на мнение людей о геополитике. Искусственный интеллект мог бы сгенерировать предпосылку, провести исследование и написать план. Моя собственная клонированная с помощью ИИ голосовая модель могла бы прочитать сценарий, составленный ИИ. Я даже мог бы использовать сгенерированные ИИ анимации ракет. Должен ли я раскрывать повсеместное использование ИИ, которое стало движущей силой всего этого проекта? По-видимому, нет.

Однако помощь ИИ в подобных ситуациях придает проектам определенный характер и логику, даже если конечный результат не полностью «сгенерирован ИИ». Люди, работающие над темами без ИИ, могут находить источники совершенно другими путями, им, возможно, придется прочитать и обработать больше материала, чтобы добраться до них, что даст им иное понимание. Они также могут отмечать совершенно другие важные моменты, создавая таким образом разные схемы одного и того же материала. Они могут добавлять в сценарий шутки или отступления, которые обычно не предлагаются ИИ. И они могут читать сценарий вслух более естественно.

Это не делает ИИ неправильным, но это означает, что работа с использованием ИИ будет ощущаться по-другому.

Познакомьтесь с моим научным ассистентом.

Я задумался об этом, потому что известный научный блогер на YouTube Хэнк Грин недавно извинился перед фанатами за чрезмерное использование ИИ. Грин ясно дал понять, что «мои слова — мои», и что он сам пишет сценарии. Но после жалоб фанатов на предполагаемое влияние ИИ на его работу, Грин проанализировал свой процесс и пришел к выводу, что они, возможно, правы.

«Я слишком сильно полагался на ИИ как на вспомогательный инструмент в исследованиях», — написал Грин в посте на Reddit 31 июля. «Он может быть очень полезен для этой задачи, предоставляя мне доступ ко множеству статей, о существовании которых я даже не знал, очень быстро, но я думаю, что это пошло мне во вред, потому что не дало мне свободы находить собственные пути для исследования той или иной темы».

В случае Грина проблема, по-видимому, заключалась в давлении, связанном с необходимостью постоянно что-то создавать, которое испытывают многие авторы контента. Он использовал это давление как плодотворный стимул для творчества, но также справлялся с ним, «используя ИИ для поиска статей и других ресурсов для изучения тем». Это стремление к эффективности в конечном итоге привело к тому, что он двигался «настолько быстро, что мой собственный процесс мне на самом деле неясен».

Грин заключил, что «создание большего количества вещей не приводит к созданию лучших вещей». И он сказал, что ему еще предстоит смириться с тем фактом, «что уровень дофамина, который я получаю от взаимодействия с лекторами… от того, что я делаю все больше и больше… вреден для меня и не полезен для мира».

В результате, скорее всего, видеороликов станет меньше.

Под поверхностью

Политика YouTube в отношении раскрытия информации об ИИ и собственные попытки Грина разобраться с этой технологией освещают разные стороны одного и того же вопроса: когда ИИ поддерживает человеческие усилия, а когда заменяет их существенным образом?

Основная обеспокоенность YouTube связана с откровенным обманом. Политика платформы требует раскрытия информации, если в видеоролике «реальный человек, кажется, говорит или делает то, чего на самом деле не делал» или «реалистичная сцена, которой на самом деле не было». Указание на использование ИИ в таких случаях может служить защитой от более грубых форм дезинформации.

Но самокритика Грина более тонкая. За этим «фотореалистичным» слоем обмана широкое использование ИИ может формировать саму основу творчества: генерацию идей, исследования и наброски. Это не значит, что использование ИИ плохо или что его результаты неточны. Это значит, что даже если все результаты работы ИИ верны и хорошо проработаны, они все равно могут обладать стилем и геометрией, унаследованными от машины, которая теперь управляет процессом.

Слишком раннее — или слишком поспешное — обращение к ИИ может вытеснить нестандартные идеи. Исследования с помощью ИИ могут дать ответы, но не позволять достичь мастерства в данной области. А сгенерированный ИИ план, будь то для эссе или видео на YouTube, может загнать разум в заранее заданный русло, прежде чем у него появится возможность отклониться от него — и, возможно, прийти к чему-то более личному.

Источник: arstechnica.com