Последствия опоры на ИИ в получении достоверных новостей.

Исследование Media Lab показывает, что, подобно тому как GPS ослабил наши навыки навигации, искусственный интеллект может ухудшить нашу способность распознавать фейковые новости. Каждый пятый американский подросток регулярно использует онлайн-платформы для получения новостей, а каждый четвертый молодой человек хотя бы раз сообщал об использовании их с этой целью. Изображение: Hartono Creative Studio/Unsplash

Ни для кого не секрет, что в последние несколько лет наблюдается резкий рост использования искусственного интеллекта для сбора общей информации. Однако еще более актуальной тенденцией является все более широкое использование больших языковых моделей (LLM), таких как ChatGPT, Claude и Gemini, для проверки и анализа новостей; отчеты исследовательского центра Pew Research Center за последний год показали, что каждый пятый американский подросток регулярно использует LLM для получения новостей, а каждый четвертый молодой человек хотя бы раз использовал их для этой цели.

Новое исследование, опубликованное в открытом доступе и проведенное лабораторией MIT Media Lab, должно заставить некоторых пользователей задуматься: исследователи обнаружили, что в течение месяца участники, которые полагались на системы искусственного интеллекта для проверки фактов, стали хуже самостоятельно выявлять дезинформацию после того, как у них отключили чат-боты.

Это явление, часто называемое «парадоксом зависимости от ИИ», наблюдалось в самых разных областях знаний, например, в исследовании 2025 года, которое показало, что врачи, использующие ИИ, стали хуже самостоятельно выявлять рак. Эта динамика отражает более широкие технологические тенденции, связанные с так называемым «снижением квалификации» (или «когнитивной разгрузкой»), которые хорошо задокументированы на протяжении десятилетий, от калькуляторов, ослабляющих наши математические навыки, до технологий глобальной системы позиционирования (GPS), влияющих на наше естественное чувство направления.

В новом исследовании Media Lab, в котором в течение четырех недель наблюдали за 67 людьми, оценивавшими пары «заголовок новости — изображение», участники на 21 процент точнее выявляли фейковые новости, когда им помогал чат-бот с искусственным интеллектом во время сеанса — это подтверждает предыдущие исследования Школы управления Слоуна при Массачусетском технологическом институте, демонстрирующие, что ИИ может быть эффективным инструментом для снижения веры людей в ложную информацию.

Однако исследование показало, что после отключения ИИ возникла новая проблема: к четвертой неделе результаты участников, самостоятельно справлявшихся с новыми новостями, снизились на 15 процентных пунктов по сравнению с периодом до начала исследования. (Примерно четверть всех участников сообщили, что, несмотря на снижение результатов, они стали лучше распознавать новые новости.)

Эффект Даннинга-Крюгера незаметно проникает в сознание.

«Пользователи приходят в восторг от этих „волшебных“ линейных моделей поведения, но забывают, что это всего лишь статистические модели, которые предсказывают следующий „токен“ в последовательности [букв/слов]», — говорит Анку Рани, аспирант кафедры медиаискусства и наук Массачусетского технологического института (MIT) и соавтор новой статьи об этом исследовании, написанной совместно с другим аспирантом MAS Вальдемаром Данри. «Многие впечатляющие результаты получаются при масштабировании этой модели, но она имеет реальные ограничения как в том, что модель может надежно генерировать, так и в ее более широком влиянии на людей, которые ее используют».

Качественный анализ выявил отчетливые поведенческие модели, при этом команда отнесла пятую часть всех участников к категории «зависимых от искусственного интеллекта», которые постепенно перешли от активной самостоятельности к пассивному принятию рекомендаций ИИ.

В опросе после эксперимента один из респондентов прямо признал этот переход, отметив свою пассивную роль в этом процессе. «Хотя [чат-боты] и подчеркивали необходимость проверки информации по нескольким источникам, чтобы убедиться в ее достоверности, они мало чему меня научили в плане изучения контекста самих изображений», — сказал участник.

Исследовательская группа заявила, что эти модели ИИ особенно уязвимы для ошибок в разгар эмоционально заряженных новостей, как это продемонстрировали широко распространенная дезинформация, сопровождавшая недавнее покушение на президента Трампа и важные события во время войны в Иране. (Авторы также отмечают, что исходный новостной контент, созданный людьми и используемый для обучения моделей ИИ, становится все более ненадежным и/или предвзятым, что еще больше усугубляет проблему.)

Статья, которую Данри и Рани представили на конференции CHI 2026 по человеческим факторам в вычислительных системах, была написана в соавторстве с доцентом Полом Пу Ляном, старшим научным сотрудником Эндрю Липпманом и старшим автором Патти Маес, профессором медиаискусства и науки имени Гермесхаузена.

Решение: быть тренером, а не костылем.

Исследователи утверждают, что результаты их проекта показывают, что конкретный способ взаимодействия ИИ с пользователем определяет, будет ли его воздействие «в роли тренера, а не костыля». Исследование выявило четкое различие между стратегиями общения, которые просто помогают в данный момент, и теми, которые действительно способствуют активному обучению и развитию навыков.

Что касается последнего, команда Media Lab выявила несколько стратегий, связанных с более сильным независимым обнаружением на более поздних этапах, даже если эти стратегии первоначально замедляли производительность во время взаимодействия. К ним относятся сократовский метод, при котором ИИ задает направляющие вопросы, а также так называемое «глубокое зондирование», когда система предоставляет мягко убеждающие утверждения, если пользователь, кажется, отклоняется от правильного ответа.

«Искусственный интеллект, который «говорит», предоставляя прямые ответы, с большей вероятностью будет способствовать формированию доверия, в то время как те, которые «задают вопросы» посредством сократовского метода, лучше вовлекают человека в процесс обучения самостоятельному определению истины», — говорит Дэнри. «Но это, по сути, компромисс между скоростью и затраченными усилиями».

Рани отметила несколько ключевых ограничений исследования, длившегося один месяц, от небольшого набора данных, состоящего примерно из 50 проверенных новостных сообщений, до демографического фокуса на Соединенных Штатах и Соединенном Королевстве. В будущем, по ее словам, команда надеется провести аналогичные эксперименты с более географически разнообразными группами, включая сообщества с ограниченными ресурсами, а также стремится выяснить, помогут ли другие стратегии многомодального взаимодействия — например, взаимодействие с культурно адаптированными цифровыми двойниками вместо текстовых чат-ботов — людям улучшить свою способность распознавать дезинформацию.

На более высоком уровне исследователи надеются, что этот проект станет тем, что педагоги смогут изучить при разработке учебных планов, включающих инструменты искусственного интеллекта в школьные программы.

«Особенно важно повышать осведомленность в наших школах и академических сообществах о недостатках использования ИИ в качестве инструментов обучения», — говорит Маес. «Люди должны понимать, что если они «делегируют» свое мышление, они не станут лучше в решении конкретных задач. В конечном счете, способность задавать вопросы и анализировать информацию важна для всех, потому что она позволяет нам решать проблемы и формировать собственное независимое мнение о мире».

Дэнри добавляет, что быстро развивающаяся область машинного обучения и глубокого обучения потребует непрерывного обучения преимуществам и недостаткам моделей обучения с использованием линейных моделей.

«Предстоит большая работа, чтобы убедиться, что мы не просто полностью переложим критически важные задачи, которые хотим продолжать выполнять, на эти модели», — говорит он. «Нам необходимо развить новый уровень грамотности в области искусственного интеллекта».

Данный исследовательский проект был частично поддержан консорциумом Media Lab, стипендией MIT Tata Center Technology and Design Fellowship и стипендией Google PhD Fellowship в области взаимодействия человека с компьютером.

Источник: news.mit.edu