Машинные переводчики упростили создание полных ошибок статей для Википедии на малоизвестных языках как никогда ранее. Что происходит, когда модели ИИ обучаются на ненужных страницах?
Когда четыре года назад Кеннет Вер начал управлять гренландской версией Википедии, его первым делом было удалить почти всё. Он считал, что нужно удалить всё, чтобы у него был хоть какой-то шанс на выживание.
26-летний Вер не родом из Гренландии (он вырос в Германии), но он влюбился в этот остров, автономную территорию Дании, после того, как побывал там в подростковом возрасте. Он годами писал малоизвестные статьи в Википедии на своём родном языке практически обо всём, что с ним связано. В итоге он даже переехал в Копенгаген, чтобы изучать гренландский язык, на котором говорят около 57 000 человек, в основном коренные инуиты, разбросанные по десяткам отдалённых арктических деревень.
Гренландская версия была добавлена в Википедию около 2003 года, всего через несколько лет после запуска сайта на английском языке. К тому времени, как Вер возглавил её почти 20 лет спустя, сотни википедистов внесли свой вклад и в совокупности написали около 1500 статей общим объёмом более десятков тысяч слов. Это казалось впечатляющим подтверждением эффективности краудсорсингового подхода, сделавшего Википедию основным источником информации в интернете, и демонстрацией того, что он может работать даже в самых неожиданных местах.
Была только одна проблема: гренландская Википедия оказалась миражом.
Связанная история
Машинное обучение приближает нас к созданию универсального устройства-переводчика по типу «рыбы-вавилонянки».
Практически каждая статья была опубликована людьми, не владеющими этим языком. Вер, который сейчас преподаёт гренландский в Дании, предполагает, что, возможно, всего один или два гренландца внесли свой вклад. Но больше всего его беспокоило другое: со временем он заметил, что всё больше статей, по-видимому, были скопированы в Википедию людьми, использующими машинные переводчики. Они изобиловали элементарными ошибками — от грамматических ошибок и бессмысленных слов до более существенных неточностей, например, записи, где утверждалось, что в Канаде всего 41 житель. Другие страницы иногда содержали случайные наборы букв, выдаваемые машинами, неспособными найти подходящие гренландские слова для самовыражения.
«[Авторам] могло показаться, что это Гренландия, но они не могли об этом знать», — жалуется Вер.
«Предложения были бы совершенно бессмысленными или содержали бы очевидные ошибки», — добавляет он. «Искусственный интеллект-переводчики очень плохо справляются с гренландским».
Описанное Вером характерно не только для гренландского издания.
Википедия — самый амбициозный многоязычный проект после Библии: существуют издания на более чем 340 языках, а ещё 400, ещё менее известных, находятся в разработке и тестировании. Многие из этих небольших изданий переполнены автоматически переведённым контентом по мере того, как ИИ становится всё более доступным. Например, волонтёры, работающие с четырьмя африканскими языками, подсчитали журналу MIT Technology Review, что от 40% до 60% статей в их изданиях Википедии представляют собой неисправленные машинные переводы. А после проверки издания Википедии на инуктитуте, языке коренных народов Канады, близком к гренландскому, MIT Technology Review подсчитал, что более двух третей страниц, содержащих более нескольких предложений, содержат фрагменты, созданные таким образом.
Это начинает вызывать серьёзную проблему. Системы искусственного интеллекта, от Google Translate до ChatGPT, учатся «говорить» на новых языках, извлекая огромные объёмы текста из интернета. Википедия порой является крупнейшим источником онлайн-лингвистических данных для языков с небольшим числом носителей, поэтому любые ошибки на этих страницах, грамматические или иные, могут отравить колодцы, из которых должен черпать информацию ИИ. Это может сделать перевод этих языков моделями особенно подверженным ошибкам, что создаёт своего рода лингвистический порочный круг, поскольку люди продолжают добавлять всё больше и больше плохо переведённых страниц Википедии, используя эти инструменты, а модели искусственного интеллекта продолжают обучаться на плохо переведённых страницах. Это сложная проблема, но сводится к простой концепции: мусор на входе — мусор на выходе.
«Эти модели построены на необработанных данных», — говорит Кевин Скэннелл, бывший профессор компьютерных наук в Университете Сент-Луиса, который сейчас разрабатывает программное обеспечение для языков, находящихся под угрозой исчезновения. «Они пытаются изучить язык с нуля. Никаких других входных данных. Нет учебников по грамматике. Нет словарей. Нет ничего, кроме вводимого текста».
Точных данных о масштабе этой проблемы нет, особенно учитывая, что значительная часть данных для обучения ИИ хранится в тайне, а сама область продолжает стремительно развиваться. Однако ещё в 2020 году, по оценкам, на Википедию приходилось более половины данных для обучения моделей ИИ, переводящих некоторые языки, на которых говорят миллионы людей по всей Африке, включая малагасийский, йоруба и шона. В 2022 году исследовательская группа из Германии, изучавшая, какие данные можно получить с помощью онлайн-скрапинга, обнаружила, что Википедия является единственным легкодоступным источником онлайн-лингвистических данных для 27 языков с ограниченными ресурсами.
Это может иметь серьезные последствия в случаях, когда Википедия написана некачественно, — потенциально подталкивая самые уязвимые языки на Земле к пропасти, поскольку будущие поколения начнут отворачиваться от них.
«Википедия будет отражена в моделях искусственного интеллекта для этих языков», — говорит Тронд Тростеруд, специалист по вычислительной лингвистике из Университета Тромсё в Норвегии, который уже много лет предупреждает о потенциально опасных последствиях неэффективного управления разделами Википедии. «Мне трудно представить, что это не повлечёт за собой последствий. И, конечно же, чем более доминирующее положение занимает Википедия, тем хуже будет».
Используйте ответственно
Автоматизация была встроена в Википедию с самых первых дней её существования. Боты обеспечивают работоспособность платформы: они восстанавливают неработающие ссылки, исправляют неправильное форматирование и даже исправляют орфографические ошибки. Эти повторяющиеся и рутинные задачи можно автоматизировать без особых проблем. Существует даже целая армия ботов, которые снуют повсюду, создавая короткие статьи о реках, городах или животных, вставляя их названия в шаблонные фразы. В целом, они улучшили платформу.
Но с ИИ всё иначе. С его помощью любой может нанести огромный урон всего несколькими щелчками мыши.
Википедия справилась с наступлением эпохи искусственного интеллекта лучше многих других сайтов. Она не была завалена ботами с искусственным интеллектом или дезинформацией, как социальные сети. Она в значительной степени сохраняет невинность, характерную для ранней эпохи интернета. Википедия открыта и бесплатна для любого, кто может пользоваться ею, редактировать и извлекать из неё информацию, и ею управляет то же сообщество, которому она служит. Она прозрачна и проста в использовании. Но платформы, управляемые сообществами, живут и умирают в зависимости от размера их сообществ. Английский язык торжествовал, в то время как гренландский язык пошёл ко дну.
«Нам нужны хорошие википедисты. Люди воспринимают это как должное. Это не волшебство», — говорит Амир Ахарони, член волонтёрского Комитета по языкам, который курирует запросы на открытие или закрытие разделов Википедии. «Если использовать машинный перевод ответственно, он может быть эффективным и полезным. К сожалению, нельзя быть уверенным, что все люди будут использовать его ответственно».
Тростеруд изучил поведение пользователей небольших разделов Википедии и заявил, что ИИ помог подгруппе, которую он называет «похитителями Википедии». Эти пользователи могут быть самыми разными — от наивных подростков, создающих страницы о своих родных городах или любимых ютуберах, до благонамеренных википедистов, которые считают, что, публикуя статьи на языках национальных меньшинств, они каким-то образом «помогают» этим сообществам.
«Сегодня их проблема в том, что они вооружены Google Translate», — говорит Тростеруд, добавляя, что это позволяет им создавать гораздо более объемный и правдоподобно выглядящий контент, чем когда-либо прежде: «Раньше они были вооружены только словарями».
Это фактически индустриализировало акты разрушения, которые больше всего затрагивают уязвимые языки, поскольку для них переводы ИИ обычно гораздо менее надежны. Причин может быть множество, но значительная часть проблемы заключается в относительно небольшом количестве исходного текста, доступного онлайн. Иногда модели не могут определить язык из-за его сходства с другими или из-за того, что некоторые языки, включая гренландский и большинство индейских языков, имеют структуру, которая делает их плохо подходящими для большинства систем машинного перевода. (Вер отмечает, что в гренландском языке большинство слов агглютинативны, то есть образуются путём присоединения префиксов и суффиксов к основам. В результате многие слова чрезвычайно контекстно-зависимы и могут выражать идеи, которые в других языках заняли бы целое предложение.)
Исследование, проведённое Google перед масштабным расширением Google Translate три года назад, показало, что системы перевода для языков с меньшим количеством ресурсов, как правило, были ниже по качеству, чем для языков с большим количеством ресурсов. Исследователи обнаружили, например, что их модель часто неправильно переводила базовые существительные, включая названия животных и цветов. (В заявлении для MIT Technology Review компания Google написала, что «стремится соответствовать высоким стандартам качества для всех 249 языков», которые она поддерживает, «путём тщательного тестирования и улучшения [своих] систем, особенно для языков, на которых общедоступные текстовые ресурсы в интернете могут быть ограничены»).
Сама Википедия предлагает встроенный инструмент редактирования под названием Content Translate, который позволяет пользователям автоматически переводить статьи с одного языка на другой. Идея заключается в том, что это сэкономит время за счёт сохранения ссылок и сложного форматирования оригиналов. Однако он использует внешние системы машинного перевода, поэтому во многом страдает от тех же недостатков, что и другие машинные переводчики, — проблема, которую, по словам Фонда Викимедиа, трудно решить. Сообщество каждого издания решает, разрешить ли этот инструмент, и некоторые выступили против него. (В частности, англоязычная Википедия практически запретила его использование, утверждая, что около 95% статей, созданных с помощью Content Translate, не соответствуют приемлемому стандарту без значительной дополнительной работы.) Но, по крайней мере, легко определить, когда программа использовалась; Content Translate добавляет тег в бэкенд Википедии.
Другие программы искусственного интеллекта сложнее контролировать. Тем не менее, многие редакторы Википедии, с которыми я общался, рассказали, что после добавления их языков в основные онлайн-переводчики они заметили соответствующий всплеск частоты создания некачественных страниц, вероятно, переведённых машинным переводом.
Некоторые википедисты, использующие ИИ для перевода контента, иногда признают, что не владеют целевыми языками. Возможно, они считают, что предоставляют небольшим сообществам черновики статей, которые носители языка затем могут исправить, — по сути, следуя той же модели, которая хорошо зарекомендовала себя в более активных редакциях Википедии.
Например, Google Translate считает, что слово «январь» на языке фулфулде означает июнь, а ChatGPT — август или сентябрь. Программы также предполагают, что слово «урожай» на языке фулфулде означает «жар» или «благополучие», среди прочих вариантов.
Но как только на малочисленных языках появляются страницы, полные ошибок, обычно не находится армии знающих эти языки людей, готовых их исправить. Читателей таких изданий мало, а иногда и вовсе нет ни одного постоянного редактора.
Юэт Ман Ли, канадский учитель чуть старше двадцати лет, рассказывает, что использовал Google Translate и ChatGPT для перевода нескольких статей, написанных им для английской Википедии, на инуктитут, думая, что было бы неплохо внести свой вклад и помочь небольшому сообществу Википедии. Он добавил к одной из них примечание, что это лишь черновой перевод. «Я не думал, что кто-то заметит [статью]», — объясняет он. «Если вы публикуете что-то в небольших Википедиях, то чаще всего никто этого не замечает».
Но в то же время, по его словам, он всё ещё думал, что «кто-нибудь может это увидеть и исправить», добавив, что сомневался в грамматической правильности перевода на инуктитут, сгенерированного системами искусственного интеллекта. Никто не трогал статью с тех пор, как он её написал.
Ли, преподаватель социальных наук в Ванкувере, впервые начавший редактировать статьи в английской Википедии десять лет назад, говорит, что пользователи, знакомые с более активными разделами Википедии, могут стать жертвами такого мышления, которое он называет «высокомерием большой Википедии»: пытаясь внести свой вклад в небольшие разделы Википедии, они предполагают, что другие придут и исправят их ошибки. Иногда это может сработать. Ли говорит, что ранее он написал несколько статей для Википедии на татарском языке, на котором говорят несколько миллионов человек, в основном в России, и по крайней мере одна из них была в итоге исправлена. Но Википедия на инуктитуте по сравнению с этим — «бесплодная пустыня».
Он подчёркивает, что его намерения были благими: он хотел добавить больше статей в «Википедию коренных народов Канады». «Теперь я думаю, что это, возможно, была плохая идея. Я не думал, что могу способствовать рекурсивному циклу», — говорит он. «Речь шла о попытке опубликовать контент из любопытства и ради развлечения, не задумываясь о последствиях».
«Полностью, совершенно никакого будущего»
Википедия — проект, движимый открытым оптимизмом. Редактирование может быть неблагодарным занятием, требующим недель препирательств с безликими людьми под псевдонимами, но преданные своему делу люди тратят часы бесплатного труда, преданные высшей цели. Именно эта преданность движет многими постоянными редакторами малоязычных изданий, с которыми я общался. Все они боялись, что на их страницах продолжит появляться всякий хлам.
Абдулкадир Абдулкадир, 26-летний специалист по сельскохозяйственному планированию, с которым я разговаривал по телефону, находясь на оживлённой обочине дороги на севере Нигерии, рассказал, что каждый день тратит по три часа на работу с записями на своём родном языке фулфулде, на котором в основном говорят скотоводы и фермеры по всему Сахелю. «Но работы слишком много», — сказал он.
Абдулкадир видит острую необходимость в полноценной работе Википедии на языке фулфулде. Он предлагает её как один из немногих онлайн-ресурсов для фермеров из отдалённых деревень, потенциально предлагающий информацию о том, какие семена или культуры лучше всего подходят для их полей, на понятном им языке. Если предоставить им статью, переведённую машинным переводом, сказал мне Абдулкадир, это может «легко навредить им», поскольку информация, скорее всего, будет переведена на язык фулфулде некорректно.
Например, Google Translate считает, что слово «январь» на языке фулфулде означает июнь, а ChatGPT — август или сентябрь. Программы также предполагают, что слово «урожай» на языке фулфулде означает «жар» или «благополучие», среди прочих вариантов.
Абдулкадир рассказал, что недавно ему пришлось исправить статью о коровьем горохе, основной товарной культуре в большей части Африки, поскольку он обнаружил, что она практически нечитаема.
Абдулкадир сказал, что если кто-то хочет создавать страницы в Википедии Фулфулде, их следует переводить вручную. В противном случае, «тот, кто будет читать ваши статьи, не сможет получить даже базовых знаний», — сказал он этим википедистам. Тем не менее, по его оценкам, около 60% статей всё ещё представляют собой неисправленные машинные переводы. Абдулкадир сказал мне, что если что-то важное не изменится в том, как обучаются и внедряются системы искусственного интеллекта, то перспективы Фулфулде выглядят мрачно. «Честно говоря, всё будет ужасно», — сказал он. «Абсолютно, совершенно никакого будущего».
Люси Ивуала, живущая на другом конце страны, из Абдулкадира, пишет статьи для Википедии на языке игбо, на котором говорят несколько миллионов человек на юго-востоке Нигерии. «Вред уже нанесён», — сказала она мне, открывая две недавно созданные статьи. Обе были автоматически переведены с помощью Content Translate Википедии и содержали столько ошибок, что, по её словам, ей было бы больно продолжать их читать. «Некоторые термины даже не переведены. Они всё ещё на английском», — отметила она. Она узнала пользователя, создавшего эти страницы, — серийного преступника. «В этой статье даже есть буквы, которые не используются в языке игбо», — добавила она.
Ивуала начала регулярно писать для Википедии три года назад, опасаясь, что язык игбо вытесняется английским. Эта тревога свойственна многим, кто активно работает в небольших разделах Википедии. «Это моя культура. Это то, кто я есть», — сказала она мне. «В этом и суть всего: не дать тебе исчезнуть».
Ивуала, которая сейчас работает профессиональным переводчиком с английского на игбо, говорит, что наибольший вред наносят неопытные пользователи, которые видят в переводах с помощью ИИ способ быстро повысить популярность игбо-Википедии. На организуемых ею онлайн-конкурсах правок или по электронной почте редакторам, склонным к ошибкам, ей часто приходится объяснять, что результат может быть прямо противоположным, что отталкивает пользователей: «Вы будете разочарованы и больше не захотите посещать это место. Вы просто забросите его и вернётесь к английской Википедии».
Эти опасения разделяет и Ноа Хаалилио Соломон, доцент кафедры гавайского языка Гавайского университета. Он сообщает, что около 35% слов на некоторых страницах гавайской Википедии непонятны. «Если этот гавайский язык будет доступен в интернете, это принесёт больше вреда, чем что-либо другое», — говорит он.
Гавайский язык, находившийся на грани исчезновения несколько десятилетий назад, сейчас находится на грани восстановления благодаря усилиям активистов из числа коренных народов и учёных. Видеть столь плачевный гавайский язык на такой популярной платформе, как Википедия, огорчает Хаалилио Соломона.
«Это болезненно, потому что напоминает нам о всех случаях присвоения нашей культуры и языка», — говорит он. «Мы изо всех сил боролись за возрождение языка. Это непросто, и это может создать дополнительные препятствия. Люди будут думать, что это точное воспроизведение гавайского языка».
Последствия всех этих ошибок Википедии могут быстро стать очевидными. ИИ-переводчики, несомненно, включившие эти страницы в свои обучающие данные, теперь помогают создавать, например, книги, полные ошибок, созданные ИИ для изучающих такие разные языки, как инуктитут и кри, языки коренных народов Канады, и мэнский, небольшой кельтский язык, на котором говорят на острове Мэн. Многие из них появились в продаже на Amazon. «Это была полная чушь», — говорит Ричард Комптон, лингвист из Квебекского университета в Монреале, о рецензируемом им томе, который, как он утверждал, был вступительным разговорником для инуктитута.
Вместо того, чтобы сделать языки меньшинств более доступными, ИИ теперь создаёт постоянно расширяющееся минное поле для учащихся и носителей этих языков. «Это пощёчина», — говорит Комптон. Он опасается, что молодое поколение в Канаде, надеясь изучать языки в сообществах, которые вели тяжёлую борьбу с дискриминацией, чтобы передать своё наследие, может обратиться к онлайн-инструментам, таким как ChatGPT или разговорники на Amazon, и только усугубит ситуацию. «Это мошенничество», — говорит он.
Гонка со временем
По данным ЮНЕСКО, каждые две недели один из языков объявляется вымершим. Однако вопрос о том, несёт ли Фонд Викимедиа, управляющий Википедией, какие-либо обязательства перед языками, используемыми на его платформе, остаётся открытым. Когда я разговаривала с Руной Бхаттачарджи, старшим директором фонда, она сказала, что каждое сообщество само решает, какой контент оно хочет видеть в своей Википедии. «В конечном счёте, ответственность за отсутствие вандализма или нежелательной активности, будь то посредством машинного перевода или другими способами, лежит на самом сообществе», — сказала она. Бхаттачарджи добавила, что обычно закрытие разделов рассматривается только в случае поступления конкретной жалобы.
Но если нет активного сообщества, как можно исправить издание или даже подать жалобу?
Бхаттачарджи объяснил, что Фонд Викимедиа видит свою роль в таких случаях в поддержании платформы Википедии на случай, если кто-то захочет её возродить: «Это пространство, которое мы предоставляем им для роста и развития. Именно в этом наша суть».
На инари-саамском языке говорят в одном-единственном отдалённом сообществе на севере Финляндии. Это яркий пример того, как можно эффективно использовать Википедию. Этот язык находился на грани исчезновения четыре десятилетия назад; на нём говорили всего четверо детей. Их родители создали Ассоциацию инари-саамского языка в отчаянной попытке сохранить его. Усилия увенчались успехом. Сейчас на нём говорят несколько сотен человек, есть школы, где обучение на инари-саамском языке, и 6400 статей в Википедии на этом языке, каждая из которых отредактирована свободно владеющим им человеком.
Этот успех наглядно демонстрирует, как Википедия действительно может предоставить небольшим и целеустремлённым сообществам уникальный инструмент для сохранения их языков. «Нас не волнует количество. Нас волнует качество», — говорит Фабрицио Бреччароли, член Ассоциации языка инари-саамов. «Мы планируем использовать Википедию как хранилище письменного языка. Нам необходимо предоставить инструменты, которыми сможет пользоваться молодое поколение. Важно, чтобы они могли использовать инари-саамский язык в цифровом формате».
Связанная история
Пространственный перевод речи решает одну из самых сложных задач автоматического перевода: множество людей говорят одновременно.
Это имело такой успех, что Википедию включили в учебную программу школ с преподаванием на языке инари-саамов, добавляет Бреччароли. Он отвечает на звонки учителей с просьбой написать простые статьи на темы от торнадо до саамского фольклора. Википедия даже предложила способ введения слов на инари-саамский. «Нам постоянно приходится придумывать новые слова», — говорит Бреччароли. «Молодёжи нужны слова, чтобы говорить о спорте, политике и видеоиграх. Если они не знают, как что-то сказать, они теперь обращаются к Википедии».
Википедия — это монументальный интеллектуальный эксперимент. История с инари-саамским языком показывает, что при максимальной осторожности она может работать и на менее распространенных языках. «Конечная цель — обеспечить выживание инари-саамского языка», — говорит Бреччароли. «Возможно, даже к лучшему, что на инари-саамском языке нет Google Translate».
Возможно, это правда, хотя крупные языковые модели, такие как ChatGPT, можно настроить для перевода фраз на языки, недоступные более традиционным системам машинного перевода. Бреччароли рассказал мне, что ChatGPT не очень хорошо справляется с инари-саамским, но качество перевода значительно варьируется в зависимости от того, что вы ему задаёте; если задать вопрос на этом языке, ответ будет заполнен финскими словами и даже словами, которые он сам придумает. Но если задать ему вопрос на английском, финском или итальянском, а затем попросить ответить на инари-саамском, он справится лучше.
В свете всего этого создание максимально возможного количества качественного контента в интернете превращается в гонку со временем. «ChatGPT нужно всего лишь много слов», — говорит Бреччароли. «Если мы продолжим добавлять хороший материал, то рано или поздно мы что-то получим. На это есть надежда». Эту идею поддерживают несколько лингвистов, с которыми я общался: возможно, удастся положить конец циклу «мусор на входе — мусор на выходе». (Компания OpenAI, которая управляет ChatGPT, не ответила на запрос о комментарии.)
Тем не менее, общая проблема, вероятно, будет только усугубляться, поскольку многим языкам повезло меньше, чем инари-саамскому, и их ИИ-переводчики, скорее всего, будут обучаться на всё большем количестве ИИ-помощи. К сожалению, Вер, похоже, гораздо менее оптимистичен в отношении будущего своего любимого гренландского языка.
После удаления большей части гренландской Википедии он потратил годы на поиски людей, которые помогли бы ему её возродить. Он выступал в гренландских СМИ и обращался к ним в социальных сетях. Но особого отклика он не получил; по его словам, это деморализовало.
«В Гренландии нет никого, кому это интересно, и кто хочет внести свой вклад, — говорит он. — В этом нет никакого смысла, и поэтому проект следует закрыть».
В конце прошлого года он начал процедуру, требуя от Комитета по языку Википедии закрыть гренландскую версию. Последовали месяцы ожесточённых споров между десятками бюрократов Википедии; некоторые, казалось, были удивлены, что внешне благополучное издание может столкнуться со столь многочисленными проблемами.
Затем, в начале этого месяца, предложение Вера было принято: гренландская Википедия будет закрыта, а все оставшиеся статьи будут перемещены в Инкубатор Википедии, где тестируются и создаются новые языковые версии. Среди причин, названных Комитетом по языку, — использование инструментов искусственного интеллекта, которые «часто порождают бессмысленную информацию, искажающую язык».
Тем не менее, может быть слишком поздно — ошибки в гренландском языке, похоже, уже прочно укоренились в машинных переводчиках. Если попросить Google Translate или ChatGPT сделать что-то столь же простое, как посчитать до 10 на правильном гренландском, ни одна из программ не сможет этого сделать.
Джейкоб Джуда — журналист-расследователь, живущий в Лондоне.
Источник: www.technologyreview.com
