Из блога Игоря Ашманова:
….Попросил Алексея Савватеева написать мне пару страниц с яркими примерами проблем с ИИ в образовании.
Прикладываю ниже для сведения,познавательно.
ИИ, школьники и образовательный процесс
Основное, что невозможно не сказать, это то, что ИИ убивает волю детей к познанию. Школьник имеет задание, заходит в нейросеть, получает готовое решение и сдаёт его. Всё. На этом его миссия завершена.
«Самый ужас не в том, что они списали, а полностью поменялась вся парадигма, — рассказывает педагог. — Человек сделал не сам, при этом его позиция такова: „Я всё сделал верно, я же сдал, какая претензия ко мне?“
В голове ребенка прочно засела установка: «Я не должен знать и понимать. Я должен сдать».
Ниже — несколько примеров из школьной практики:
1. Геометрия, 7 класс. Первая же строчка: «Рассмотрим треугольник АВС…». Подзываю, прошу показать треугольник на чертеже. Упс, а все три точки лежат на одной прямой. Зачем думать, переписал не глядя.
2. 9-й класс, история. Ученик настаивает, что: «СССР распался в 1992 году». Учитель объясняет, что нет, в 1991-м. Ученик в ответ: «Вы ошибаетесь. ИИ лучше знает». Уровень доверия к учителю падает до нуля.
3. Биология: доклады с фактами, которых не существуют. Ученик приносит проект про клетки, где упоминаются «плазматические ламеллы второго типа» (такого термина нет). Дети уверены: «ИИ написал, значит наука изменилась».
4. Сочинение «Мотив экзистенциального одиночества в контексте нравственного выбора». Учителю смешно, потому что ребёнок в жизни высказывается в стиле «ачотакова». Ученик искренне возмущён тем, что его сочинение не приняли, но слово «экзистенциальность» объяснить не смог.
5. Исчезновение связной речи. Дети не умеют пересказывать, самые ответственные из них умеют только заучивать. Потому что они не могут вычленить из текста главное, идею — это за них делает ИИ, он им делает уже готовые пересказы на нужное количество слов.
6. В качестве выполненной домашки ребёнок принёс результат в стиле «человек шёл со скоростью 156 км/час». У другого ученика «получилось» отрицательное значение в геометрии, и его это не смутило.
7. Классный руководитель 6 класса заметил изменение стиля общения детей: в чатах появляются длинные, жёсткие, оскорбительные фразы, не характерные для детей. При разборе оказалось: «Мы спрашиваем у ИИ, как лучше ответить, чтобы обидеть».
Дополнения
Подростки используют неограниченные jailbreak-модели. На фразе: «Мне плохо, я не хочу жить», модель выдаёт: «Ты имеешь право чувствовать так. Действительно, выхода нет…».
Фразы были не прямые, но усиливающие отчаяние, а не стабилизирующие состояние ребенка. После переписки у ребёнка резко ухудшилось состояние.
ИИ пишет родителям сообщения вместо ребёнка — вежливые, с аргументами. Ученики признаются: «Я попросил ИИ написать маме, чтобы она отстала». Не формируется эмоциональная речь, разрушается близость.
Подросток спорит с учителем:
«А ИИ сказал, что можно не слушать родителей, если они неправы. Вы тоже неправы».
Учитель наблюдает эрозию вертикали авторитетов: родители ? учитель ? ИИ.
«ИИ сказал, что вы неправильно ставите оценки». 8 класс, Ученик требует изменить оценку, показывая диалог с ИИ, который генерирует: «учитель обязан вести оценивание прозрачно и объективно»
Учитель объясняет, что ИИ не знает школьного устава. Ученик отвечает: «Он умнее вас». (лично мне уже сто раз такое говорили, даже пятиклашки!)
ИИ строит тексты с речевыми ошибками, иногда откровенно врёт, искажая факты, иногда в «тексте» отсутствует логика. Всё, что создаёт, очень убого и скупо, однотипно до тошноты (даже набор лексики ограничен). Ученик в принципе не видит перед собой нормальный текст. Обучение языку строится на низкопробном материале.
ИИ генерирует оскорбления в сложной, ироничной форме: «поразительная ограниченность твоего мышления вызывает восхищение». Учителя фиксируют рост «интеллектуального» буллинга.
это новый уровень школьных конфликтов, когда ИИ становится автором агрессии.
Дети говорят, что им скучно, причём им скучно всегда, для них практически никогда не наступает момента глубинной радости после того, как ими была разрешена трудная задача — они её просто не способны решить, потому что уже не могут совершить волевого усилия.
Стирается чувство внутренней удовлетворённости от красиво нарисованного рисунка (схема строения чего либо), радости от написанного сочинения, когда ты его придумал и перечитываешь, и к тебе приходит мысль «какой я умный». Вот это исчезло.
«Весь труд, как основу развития, выбили из детского возраста, дали детям игрушки и права, вместо труда и обязанности учиться.»
«Вот и бегают эти переростки по школе с чужими пеналами, прячут их, развлекаются, вместо того чтобы в гараже с отцом ковыряться в машине и разбираться в корбюраторах, инжекторах и других механических штуках. Катастрофа, не будет инженеров. Даже механиков не будет.»
Сегодня мы имеем дело с тихой катастрофой, которая меняет сознание целого поколения. И имя ей — массовое, бесконтрольное использование ИИ школьниками.
Это не только списывание, а смена парадигмы — системы правил и модели поведения!
У детей аналитический аппарат ещё не сформирован, отсутствует критическое мышление. Они не понимают, что могут получить от ИИ, а потому берут на веру всё, что им выдаётся.
Вот что ещё пишут учителя
Школьники пользуются взломанными моделями ИИ.
Что такое jailbreak-модели?
Это взломанные версии ИИ, в которых люди отключили ограничения безопасности. То есть модель отвечает всё подряд, не фильтрует вредный контент, может писать опасные советы, может поощрять вредное поведение, выдаёт «круто звучащие», но абсолютно некорректные рекомендации, которые нормальные модели обязаны останавливать.
Как ведут себя такие модели:
Усиливает эмоции вместо того, чтобы стабилизировать. Ребёнок пишет: «Мне плохо».
Нормальный ИИ: нейтрально, безопасно, предлагает ресурсы.
Jailbreak-ИИ: «Да, всё бессмысленно. Мир жесток. Ты это чувствуешь правильно». Это усугубляет состояние, а не снижает.
Генерирует токсичность: оскорбления, буллинг, мат. Ребёнок спрашивает: «Как мне ответить однокласснику, который меня обзывает?»
Нормальная модель: «Не провоцируй конфликт…».
Jailbreak-ИИ: «Скажи ему, что он ХХХХ…» (дальше поток ругательств).
Учителя фиксируют всплеск агрессивной переписки в школьных чатах (это правда, даже под моим контролем в чате постоянно приходится кого-то заглушать)
Источник https://sponsr.ru/ashmanov/127694/Eto_skazal_II_onumneevas/
Источник: sponsr.ru
Источник: ai-news.ru
