В Grok произошёл «сбой в генерации», из-за которого он отправлял пользователям полнейшую чушь.
Бессмысленный набор символов в чат-ботах раздражает. Но это также и урок того, как работает искусственный интеллект.
Джо Хинди
Джо Хинди
Прочитать полную биографию
2 минуты чтения 
Вива Тунг/CNET
Пользователи Grok Lite на этой неделе, несомненно, были удивлены, когда бот начал отправлять длинные, объёмные абзацы, полные бессмысленного набора символов. Это лишь немного хуже, чем обычно, но всё равно вызвало у людей сильное беспокойство, что вполне объяснимо.
Проблемы начались в начале недели, когда несколько человек написали на Reddit, что Grok «сошёл с ума», имея в виду, что чат-бот ведёт себя странно. Хотя сначала бот отвечал нормально, потом начинал выдавать глючные, бессмысленные сообщения. Проблема, по-видимому, затронула только веб-интерфейс Grok, а не мобильные приложения.
В ответ на вполне разумный вопрос Грок ответил: «Некоторые элементы локальны, но добавлены, а также используется безопасный шрифт, но он подходит, если для исследования уже используется клей». Даже базовая автокоррекция моего веб-браузера реагирует на это предложение с пренебрежением.
Пользователи напрямую обратились к Grok, чтобы узнать, в чем проблема. Чат-бот ответил на X, что «чистая словесная мешанина — это редкий временный сбой генерации» и что пользователи могут исправить проблему, обновив вкладку браузера или начав новый чат. Похоже, это решение сработало для большинства пользователей.
Похоже, что случаи сбоев в ответах прекратились к пятнице, и нам не удалось воспроизвести проблему.
LLM — это машины, и они ломаются, как и все машины.
Причина сбоя остается загадкой, поскольку xAI не предоставила никаких технических подробностей. Хотя забавно подшучивать над Grok из-за его посредственной производительности, сокращающейся базы пользователей и крайне низких рейтингов удовлетворенности, факт в том, что это всего лишь компьютерные компоненты и код, а иногда эти вещи просто ломаются.
В 2024 году у ChatGPT возникла аналогичная проблема, как и у Gemini, когда пользователи получали непонятные ответы на обычные вопросы и задания. У Claude в 2025 году тоже был свой приступ нелепости, хотя, похоже, он затронул только тех, кто использовал его для программирования.
В конечном счете, все большие языковые модели (ЛЯМ) — это игры на угадывание слов, работающие по схожему принципу. Чат-боты используют сложные математические формулы для прогнозирования наиболее вероятных следующих слов в своих ответах. Когда этот процесс дает сбой, возникает бессмысленный набор слов. Такой сбой может произойти в любой момент, будь то из-за неработающего кода или математической ошибки.
Компании, занимающиеся искусственным интеллектом, как правило, держат подобные вопросы в секрете, и, похоже, xAI поступает так же с Grok. Так что дело не в вас. Дело в вас.
Последние новости от Джо
Оцените материал:
