Как на самом деле выглядит текст, написанный ИИ, если знать, на что обращать внимание.
В текстах, написанных с помощью ИИ, присутствуют устойчивые, узнаваемые закономерности, которые ни один детектор не сможет зафиксировать лучше, чем хорошо натренированный глаз.
Рэйчел Кейн
Рэйчел — фрилансер, проживающая в районе Эхо-Парк, Лос-Анджелес. Она пишет и создает контент на самые разные темы уже почти два десятилетия: от технологий и моды до здоровья, образа жизни, развлечений и образования… Читать полную биографию
Рэйчел Кейн
Прочитать полную биографию
4 минуты чтения 
Инструменты обнаружения выявляют поверхностные закономерности; опытные специалисты могут обнаружить то, что эти инструменты постоянно пропускают.
Сомпонг Том/Getty Images
Текст, созданный ИИ, часто читается плохо, но это не всегда означает, что это легко заметить. Программное обеспечение для обнаружения ИИ ищет поверхностные сигналы, такие как частота слов, вариации длины предложений, статистические закономерности и другие комбинации, в то время как качество сгенерированного ИИ текста определяется на более глубоком уровне. Это качество невидимо для большинства алгоритмов обнаружения, но сразу же заметно читателю, который знает, как на самом деле «воспринимается» контент, созданный ИИ, на странице. Вот что вам нужно знать о том, как распознать это качество, чтобы не полагаться на инструменты обнаружения, которые, честно говоря, не справятся с задачей.
Искусственный интеллект, похоже, стал идеальным способом «работать умнее, а не усерднее», и нигде это не проявляется так очевидно, как в учебных заведениях и на некоторых рабочих местах. Хотя такие инструменты, как ChatGPT, отлично подходят для составления списков покупок или других задач по мозговому штурму, они также способствуют созданию настоящей неразберихи.
Как профессор, я каждый день получаю в свой почтовый ящик сообщения от инструментов искусственного интеллекта, таких как ChatGPT и Claude, и, честно говоря, их становится всё легче распознать — не из-за «детекторов ИИ», а потому что текст становится до боли предсказуемым. Один из самых больших тревожных сигналов — это то, что я называю «голосом Википедии», или текст, который грамматически безупречен, но совершенно бездушен, опирается на расплывчатый, чрезмерно пафосный язык, который просто повторяет мне заданный текст.
Если студент, обычно пишущий фрагментарно, вдруг сдаёт «многогранный анализ», в котором используются слова «гобелен» или «погружение», у меня возникают подозрения. Искусственный интеллект обожает клише и не может удержаться от того, чтобы обернуть каждый абзац в аккуратный бантик-заключение, начинающееся со слов «В заключение». Это письменный эквивалент дипфейка: на первый взгляд всё выглядит правильно, но как только начинаешь искать «человеческие» недостатки, всё рушится.
Не пропустите объективные технические обзоры и лабораторные тесты от CNET. Добавьте нас в список предпочтительных источников Google в Chrome.
Как определить, был ли текст написан искусственным интеллектом
Вот несколько наиболее распространенных способов определить, был ли текст написан с использованием ИИ:
- Ключевые термины из задания используются неоднократно.
- В тексте содержатся неточные факты, поскольку чат-бот с искусственным интеллектом выдает галлюцинации.
- Предложения звучат неестественно.
- Объяснения носят общий и повторяющийся характер, вместо того чтобы к чему-либо привести.
- Тон повествования не соответствует их обычному стилю письма.
Например, студент может использовать ChatGPT — чат-бота на основе искусственного интеллекта, который использует обучение на основе больших языковых моделей и разговорный формат вопросов и ответов для предоставления результатов запроса, — чтобы написать короткое эссе в ответ на заданную тему, просто скопировав и вставив вопрос эссе в инструмент.
Выполните следующее задание: в 300 словах или меньше объясните, как этот SWOT-анализ и аудит бренда повлияют на вашу финальную презентацию.
Это результат работы ChatGPT:
Скриншот предоставлен Рэйчел Кейн/CNET
За время моей преподавательской деятельности я несколько раз получала подобные ответы, или очень похожие на них, и одним из наиболее заметных тревожных сигналов является количество случаев использования ключевых терминов из задания в итоговом продукте.
Студенты обычно не повторяют ключевые термины из задания в своих работах таким образом, и результаты больше напоминают старомодный SEO-оптимизированный текст, призванный дать определения этим терминам, чем уникальное эссе, демонстрирующее понимание предмета.
Но могут ли учителя использовать инструменты ИИ, чтобы выявлять использование этих инструментов учениками? Я разработал несколько способов, позволяющих более эффективно распознавать искусственный интеллект в работах.
Как поймать мошенников, использующих ИИ
Вот как использовать инструменты искусственного интеллекта, чтобы выявлять списывающих в вашем классе.
Понимание возможностей ИИ
На рынке существуют инструменты на основе искусственного интеллекта, которые могут сканировать задание и критерии оценки, чтобы за считанные мгновения предоставить полностью написанную, снабженную ссылками и завершенную работу. К таким инструментам относятся GPTZero и Smodin. Ознакомление с подобными инструментами — первый шаг в борьбе с нарушениями этики, совершаемыми с помощью ИИ.
Поступайте так, как поступают обманщики.
Перед началом семестра скопируйте и вставьте все свои задания в такой инструмент, как ChatGPT, и попросите его выполнить работу за вас. Когда у вас будет пример результатов, которые он выдает в ответ на ваши задания, вы будете лучше подготовлены к выявлению ответов, написанных ИИ. Вы также можете использовать инструмент, специально разработанный для обнаружения написанного ИИ в научных работах.
Получите реальный образец текста.
В начале семестра попросите студентов представить вам простой, забавный и личный письменный текст. Задание может быть, например, таким: «200 слов о вашей любимой игрушке в детстве» или «Расскажите историю о самом веселом событии в вашей жизни». Получив образец реального стиля письма студента, вы сможете позже использовать его для проверки с помощью инструмента искусственного интеллекта, чтобы сравнить его с работой, которая, как вы подозреваете, могла быть написана ИИ.
Попросите переписать.
Если вы подозреваете студента в использовании ИИ для списывания на контрольной работе, возьмите сданную работу и попросите инструмент ИИ переписать её за вас. В большинстве случаев, с которыми я сталкивался, инструмент ИИ переписывает свою работу самым ленивым способом, заменяя синонимы вместо изменения каких-либо существенных элементов «оригинальной» работы.
Вот пример:
А теперь давайте возьмём текст, написанный реальным человеком (мной), — мою биографию на CNET:
Изменена формулировка, из текста вырвана большая часть его души, а вместо неё добавлены предложения, которые, возможно, более ясны и прямолинейны. Также внесены дополнительные изменения, предположительно для большей ясности.
Всегда ли можно определить, что что-то написал искусственный интеллект?
Самое важное в выявлении списывающих работ, использующих ИИ, — это наличие достаточных доказательств, которые можно предъявить студенту и администрации школы, если до этого дойдет дело. Крайне важно сохранять скептический настрой при выставлении оценок, а умение продемонстрировать простоту использования и понимание этих инструментов значительно укрепит ваши позиции.
Удачи вам на новом рубеже искусственного интеллекта, коллеги-преподаватели! Постарайтесь не обижаться, когда ученик сдаст работу, написанную роботом-помощником. Наша задача — сделать процесс обучения более привлекательным, чем искушение списать.
Последние новости от Рэйчел
Оцените материал:
