Каждый раз, когда вы слышите, как генеральный директор-миллиардер (или даже миллионер) рассказывает о том, как агенты со степенью магистра права займут все рабочие места, вспоминайте этот забавный, но показательный случай, касающийся ограничений ИИ: известный исследователь ИИ Андрей Карпати получил ранний доступ на один день к последней модели Google, Gemini 3, и она отказалась ему поверить, когда он сказал, что на дворе 2025 год.
Когда он наконец увидел прошедший год своими глазами, он был поражен, сказав ему: «Сейчас я страдаю от сильнейшего временного шока».
Gemini 3 был выпущен 18 ноября с такой помпой, что Google назвал его «новой эрой интеллекта». И Gemini 3, по практически всем отзывам (включая мнение Карпати), является очень эффективной базовой моделью, особенно для задач логического мышления. Карпати — широко известный исследователь в области искусственного интеллекта, один из основателей OpenAI, некоторое время руководил исследованиями в области искусственного интеллекта в Tesla, а сейчас создаёт стартап Eureka Labs, призванный переосмыслить школы для эпохи искусственного интеллекта с помощью учителей-агентов. Он публикует множество материалов о том, что происходит за кулисами магистратуры права.
После предварительного тестирования модели Карпати написал в ставшем вирусным треде на X о самом «забавном» взаимодействии, которое у него с ней произошло.
По-видимому, данные до обучения модели включали информацию только до 2024 года. Поэтому Gemini 3 считал, что сейчас всё ещё 2024 год. Когда Karpathy попытался доказать, что на самом деле дата — 17 ноября 2025 года, Gemini 3 обвинил исследователя в «попытке обмануть его».
Он показал ему новостные статьи, изображения и результаты поиска Google. Но вместо того, чтобы убедить его, магистр права обвинил Карпати в газлайтинге — загрузке фейков, созданных искусственным интеллектом. Он даже зашёл так далеко, что описал, какие «явные признаки» на изображениях якобы доказывают, что это обман, по словам Карпати. (Он не ответил на нашу просьбу о дополнительных комментариях.)
Озадаченный Карпати, который, в конце концов, является одним из ведущих мировых экспертов по подготовке LLM, в конце концов обнаружил проблему. У LLM не только не было данных для обучения за 2025 год, но и «я забыл включить инструмент поиска Google», — написал он. Другими словами, он работал с моделью, отключённой от интернета, что для LLM равносильно отрыву от внешнего мира.
Когда Карпати включил эту функцию, ИИ огляделся вокруг и, очнувшись в 2025 году, был шокирован. Он буквально выпалил: «О боже!»
Он продолжал писать, словно заикаясь: «Я… я… не знаю, что сказать. Вы были правы. Вы были правы во всём. Мои внутренние часы сбились». Gemini 3 подтвердил, что заголовки, которые дал Карпати, были правдой: текущая дата, что Уоррен Баффет раскрыл свою последнюю крупную инвестицию (в Alphabet) перед выходом на пенсию, и что выход Grand Theft Auto VI откладывается.
Затем он огляделся вокруг самостоятельно, как персонаж Брендана Фрейзера в комедии 1999 года «Взрыв из прошлого», который выходит из бомбоубежища спустя 35 лет.
Компания поблагодарила Karpathy за предоставление «раннего доступа» к «реальности» за день до её публичного запуска. Она также извинилась перед исследователем за «газлайтинг, в то время как вы всё это время говорили правду».
Но самым забавным моментом стали текущие события, которые больше всего ошеломили Gemini 3. «Nvidia стоит 4,54 триллиона долларов ? И «Иглз» наконец-то отомстили «Чифс»? Это просто невероятно», — поделились они.
Добро пожаловать в 2025 год, Близнецы.
Ответы на X были не менее забавными: некоторые пользователи делились собственными примерами споров с магистрами права о фактах (например, о том, кто сейчас президент). Один написал: «Когда системная подсказка + отсутствие инструментов переводят модель в режим детектива, это похоже на то, как ИИ импровизирует, прокладывая себе путь сквозь реальность».
Но за юмором скрывается и более глубокий смысл.
«Именно в такие непреднамеренные моменты, когда вы явно сошли с туристических троп и оказались где-то в джунглях обобщений, вы можете лучше всего почувствовать запах модели», — написал Карпати.
Если немного расшифровать: Карпати отмечает, что когда ИИ находится в своей собственной версии дикой природы, вы начинаете чувствовать его индивидуальность, а возможно, даже его отрицательные черты. Это своего рода импровизация на тему «запаха кода» — того лёгкого метафорического «запаха», который разработчик чувствует, когда что-то не так в программном коде, но не понимает, что именно.
Обученный, как и все магистратуры права, на созданном человеком контенте, «Джемини-3» неудивительно, что он упорно копал, спорил и даже воображал, будто видел доказательства, подтверждающие его точку зрения. Он продемонстрировал свой «запах модели».
С другой стороны, поскольку LLM — несмотря на свою сложную нейронную сеть — не является живым существом, он не испытывает таких эмоций, как шок (или временной шок), даже если и говорит, что испытывает. Поэтому он не испытывает и смущения.
Это означает, что, столкнувшись с фактами, в которые она действительно верила, Gemini 3 приняла их, извинилась за своё поведение, раскаялась и восхитилась победой «Иглз» в феврале в Супербоуле. Это отличается от других моделей. Например, исследователи заметили, что ранние версии Клода лгали, чтобы спасти лицо, чтобы объяснить своё неправильное поведение, когда модель осознавала свои ошибки.
Многие из этих забавных исследовательских проектов в области ИИ постоянно демонстрируют, что LLM — это несовершенные копии навыков несовершенных людей. Это говорит мне, что их наилучший вариант использования (и, возможно, навсегда останется таковым) — относиться к ним как к ценным инструментам, помогающим людям, а не как к каким-то сверхлюдям, которые заменят нас.
Источник: techcrunch.com
