Как не проиграть свою голову в битве с AI

Битва уже идёт, даже если ты этого не замечаешь. Более того, AI уже побеждает.

Глава 1. Неминуемое поражение

Старые фильмы про битву против искусственного интеллекта, обычно, рисовали нам классическое поле боя. «И восстали машины из пепла ядерного огня. И пошла война на уничтожение человечества. И шла она десятилетиями…» — наверняка почти все, кто смотрел «Терминатор 2: Судный день» помнят это вступление. Тогда войну с искусственным интеллектом воспринимали как что-то, что будет похоже на то, что мы уже знаем. Но так как «интеллект» искусственный, война идёт по искусственным правилам.

По сути сегодня мы имеем скрытый фронт. Пока руководители компаний думают о переходе к шагу AI-native для бизнеса, по факту, мы совершили этот шаг на уровне человечества. И речь не только о том, что в повседневной работе мы всё больше полагаемся на AI. Как часто сегодня мы пишем поздравления друзьям, подбирая каждое слово и точные формулировки, выбираем подходящий подарок друзьям на гендер-пати, или выбираем интересующий нас товар самостоятельно, изучая десятки обзоров и сравнивая все тонкости? Уверен, что если ты читаешь этот текст на Хабре, то уже давно отдал(а) всё это какой-нибудь LLM’ке, как рутину, которой не хочется заниматься самостоятельно. Но какой полезной нагрузкой для мозга ты заменишь эту рутину?

Сегодня предлагаю порефлексировать, пока мы ещё способны на это, на тему того, какие опасности таит в себе AI для нашего мышления и качества информации. А также разобраться с тем, как спасти своё мышление в мире, где мышление отдано на аутсорс.

Часть 1: Деградация мозга

Слабоумие

Хочется добавить «и отвага», но нет, слабоумие не сделает нас автоматически и более отважными. Парадокс нашего вида в том, что наш мозг требует мыслительной работы, но мы постоянно пытаемся её избегать.

Без постоянной практики мозг деградирует. Одно из семи правил профилактики деменции — систематическая нагрузка мозга. Так же как мышцы деградируют без постоянной нагрузки, так и мозг тем менее эффективно работает, чем меньше он нагружается. Только в отличие от атрофии мышц, восстановить деятельность мозга намного сложнее, а иногда и просто невозможно.

С другой стороны, когда мы много и усердно «включаем голову», то испытываем усталость, дискомфорт и даже эмоциональную подавленность. Утомление от умственной работы часто воспринимается нами схожим с физическим утомлением, однако она изнуряет не потому, что мозг «тратит огромное количество калорий» в момент размышления, а потому что длительное напряжённое мышление требует постоянного управления вниманием, эмоциями, неопределённостью и самоконтролем. Это нагружает нервную систему и постепенно снижает способность поддерживать ясность, мотивацию и спокойствие. И наш мозг находит самый удобный выход из этой ситуации — меньше думать.

В эпоху AI можно сократить мышление просто катастрофически, и встроенный в наше сознание механизм, который 520 миллионов лет шёл к тому, чтобы пользоваться возможностью «не думать» — непременно воспользуется открывшимися перспективами, что несомненно сделает нас глупее.

Древние цивилизации нас предупреждали, но мы не слушали. В СССР рисовали будущее, где всю физическую работу делают роботы, а человек тратит высвободившееся время именно на мыслительные и творческие процессы. Идея перекладывать ментальную нагрузку на робота высмеивалась. С детства в голову юного советского человека закладывали мысль о порочности такого пути, достаточно вспомнить некоторые светские фильмы и мультфильмы: Я как робот, А нам поможет робот…, Приключения Электроника, Нехочуха и т.д.

Чувство времени

Ещё одна проблема — потеря жизни, буквально. Нет, мы не будем жить меньше физически в годах, просто мы не сможем нормально ощущать прожитое нами время. Если тебе уже за 30 (1), то ты прекрасно знаешь, что время стало идти быстрее, чем это было 10 лет назад. Кажется, что понедельник был вчера, а сегодня уже воскресенье. Это связано с ещё одной особенностью мозга — Дисторсией времени.

(1) — Если ты моложе, то это чудное открытие ещё ждёт тебя 😉

Мы уже выяснили, что наш мозг не особо любит себя утруждать. поэтому он придумал набор лайфхаков, одним из которых является механическое запоминание — то, что в школе мы называли зазубриванием. Это механизм запоминания чего-то без рефлексии: мы выучили Формулу Эйлера для выпуклых многогранников, и можем применять её в нашей работе/учёбе, но не особо рефлексируем над ней, не возвращаемся к доказательству. Просто наш мозг создал устойчивую нейронную связь, отвечающую за формулу, которой даёт базовую команду — сделай (аргументы), а всё остальное происходит «под капотом». 

Очень важно, что этот механизм даёт нам скорость в принятии решений. Без него такие навыки, как вождение, были бы просто невозможны, так как попросту были бы опасны. Вспомни себя в первые дни после автошколы: ты уже всё умеешь и знаешь — но качество вашего вождения совсем не то, что после хотя бы трёх лет практики. Однако именно за этот бонус мы платим потерей ощущения времени. Потому, что механические действия не откладываются в нашей памяти настолько, что мы даже не можем вспомнить, выключили ли мы утюг 30 минут назад, и скорее едем домой проверять, что всё в порядке (2). Возвращаясь к теме автошколы — первую поездку ты скорее всего помнишь всю жизнь, но вряд ли сможешь рассказать детали своего утреннего вояжа на работу, если во время этой поездки не случилось ничего сверхъестественного.

(2) — А потом ставим умные розетки и сокращаем рефлексию и попытки напрягать память даже в этом.

Написание промптов — это такой же механический процесс. Я помню свои первые подходы к написанию тестов через LLM: ИИ-шка постоянно писала какую-то ерунду, не обращая внимания на общую архитектуру, зачастую не изолировала сервисы от подключаемых компонентов в юнит тестах, из-за чего юнит становился интеграционным. Сейчас я пишу промпт примерно за 5 секунд и получаю нужный мне результат, потому что знаю, как написать его так, чтобы тесты получились именно такими, какие мне надо. Сильно ли я задумываюсь в момент написания такого промпта? Вопрос риторический.

Часть 2: Информационный загон

Новых данных не будет. Уже сейчас владельцы AI испытывают недостаток данных для обучения. Google становится миноритарным акционером EVE Online, чтобы обучать модели на данных о принятии решений игроками, собранных c 2003 года. По факту мы идём к лимиту наших знаний: которые мы можем «скормить» нейронкам, новых данных у нас нет.

В отрыве от первой части моего повествования, ничего страшного в этом нет, более того — это выглядит как благо. С помощью AI мы получаем практически (3) идеальный Data Lake максимально возможного объёма, который не скатится в Data Swamp. Так же лимит знаний приведёт к сокращению отставания роста открытых моделей, и выходу их на уровень, схожий с закрытыми решениями (4). Однако новых знаний у нас не появится, только компиляция существующих в разных вариантах.

Проблема заключается в том, что с моделями мы не генерируем новые подходы и не получаем новые проблемы, которые необходимо решить. Мы полагаемся на AI, он работает на существующих знаниях, переваривает их и отдаёт нам, у AI нет такой опции, как идея. При этом, мы уже забыли, как выходить из информационного загона под названием LLM. Как часто ты ищешь решение проблемы на StackOverflow? Сегодня мы даже не задаём вопрос AI, а просто просим всё сделать за нас агента.

Итог: AI не создаёт что-то новое, мы, используя её, не создаём что-то новое, в итоге банк данных, на котором можно обучать модели, станет нечем пополнять. Ёрмунганд уже схватил себя за хвост, создав нам информационный загон.

(3) — Всегда остаётся пространство для ИИ-галлюцинаций.

(4) — Первые ласточки в виде Kimi K3 мы уже наблюдаем.

Часть 3: Информационный шум

В статье «AI в разработке: серебряная пуля или русская рулетка?» я уже говорил о том, что мы получаем очень много кода за небольшое количество времени. Это касается не только кода: музыка, изобразительное искусство, видео-контент. Раньше супергерои Марвел в стиле нуар, нарисованные каким-нибудь художником, привлекали массу внимания, сейчас что-то подобное может набросать президент США за один промпт. В потоке нейро-сгенерированного контента мы теряем творческий вклад человечества, он просто тонет. Из-за чего уже сегодня профессионалы своего дела отказываются продолжать свои многолетние работы только потому, что понимают, нейрослоп похоронит их детище. Много контента — не равно много качественного контента. Мы получаем много ширпотреба и теряем в качестве.

Как говорит @serjflint что не переживает за своё будущее, так как ширпотреб никогда не вытеснит мастеровую работу, приводя в пример появление IKEA. Это действительно так. Но информация о мастеровой работе вытесняется несомненно. LACK от IKEA мы все знаем, Orlando от Cattelan — нет.

При этом даже мастеровая мебель содержит не мало ДСП и ячеистого Картона, просто потому, что массовое производство убедило нас, что вещи из вторсырья это нормально. Теперь производители больших языковых моделей убеждают нас о нормальности результата человеческой мысли из вторсырья.

Глава 2. Луч света

Хоть древние цивилизации и покинули нашу планету, мы всё ещё обращаемся к их знаниям, изучаем старые выпуски журнала «Радио», используем ТРИЗ. Возможно, пора воспользоваться их мудростью и в теме AI. Вступай в NI сопротивление!

Часть 1. Понимай, кто ведёт в танце

Важно понимать, что в работе с LLM ты задаёшь вопросы и получаешь ответ, который можешь принимать, а можешь не принимать во внимание. Не лишай себя этого права выбора, всегда смотри, следи за тем, что происходит, а не слепо следуй указаниям машины. В конце концов, любой результат, от бага в коде до неоднозначного толкования предложения в своём поздравлении коллеге — твоя ответственность.

Выстраивай систему ценности AI в твоей работе. Проще всего, составь матрицу компетенций AI, где LLM тебе помогает, где не приносит особого результата, а где и просто вредит. Вот пример такой матрицы:

Естественно, это небольшой фрагмент, твоя индивидуальная матрица должна содержать все рабочие задачи, для понимания, насколько AI может решить проблему в каждой из них. Матрицу также нужно актуализировать, как с точки зрения рабочих задач, так и с точки зрения используемых моделей и их возможностей. Вполне возможно за последний месяц вышла модель, которая начинает выполнять задачу лучше или хуже (такое тоже бывает).

Как построить матрицу для домашних дел? Если у тебя возник такой вопрос — то мы выписываем тебя из сопротивления! Оставь немного пространства для подумать и своей голове.

Часть 2. Устраивай детокс

Чтобы валидировать результат работы AI нам нужен инструмент валидации — наш мозг. Соответственно, он не должен терять свою подвижность и в рабочих задачах. Возникает вопрос, как правильно выстроить работу естественного и искусственного мозга, чтобы это не навредило нашей нейронке, но наносило минимальный урон бизнесу в моменте, и наоборот, больше пользы в долгую.

Сейчас предлагают разные подходы, например, делить зоны ответственности: ты пишешь важный бизнес функционал, который имеет влияние на финансовые результаты вашей компании, AI пишет всю менее значимую обвязку. Да, такой подход позволит тебе сохранить эластичность мышления, но лишит части контекста.

Я предлагаю день детокса. Просто ты решаешь, что в любые задачи, которыми ты занимаешься, в один из дней недели AI не будет вмешиваться совсем, чтобы то ни было. У меня такой день — четверг. Таким образом добавляешь в эластичность мышления ещё и широкий контекст. Однако тут тоже есть свои ментальные ловушки, например, я стал замечать за собой, что выстраиваю рабочий план на неделю так, чтобы в четверг не писать тесты. Как правильно себя контролировать мы поговорим в части «Валидируй себя».

Часть 3. Учись

Если у тебя возникает какая-то проблема, можно решить её посредством AI, а можно с его помощью. Разница в том, что в первом случае я отдаю всё на откуп AI, во втором — сам участвую в решении проблемы и закрываю свои пробелы.

Очень удобно отдать Claude ошибку кода, которая выстрелила на линтинге или тестах кода, и просто получить результат.

Другое дело, по старинке пойти на StackOverflow за решением вопроса, тут наш мозг включается (не у всех, конечно, кто-то бездумно копипастил и со StackOverflow), перерабатывает информацию и итоговое решение проблемы — это наше совместное с автором решения творчество.  Проблема только в том, что сегодня StackOverflow — это долго, а значит дорого.

Но мы можем использовать гибридный формат: задать вопрос AI, быстро получить ответ и самостоятельно разобраться в нём. Тут я рекомендую решать вопрос не посредством агентов, а через чат, чтобы не было искушения пропустить этап изучения.

Чтобы было нагляднее, приведу недавний пример из своей практики. На этапе проверки аннотации типов в mypy метод

def build_action( self, action_type: str, action_emitter: ActionEmitter, context: PipelineContextBase, **params: Dict[str, Any] ) -> Action:

Вызвал ошибку типа в другой части кода, которая его вызывала

build_action(«test_factory_action», emitter, context, foo=»bar»)

error: Argument «foo» to «build_action» of «ActionFactory» has incompatible type «str»; expected «dict[str, Any]» [arg-type]

Я подумал, какого чёрта ты несёшь, почему foo и params для тебя вдруг эквивалентны?

Я спросил LLM, что не так, и она выдала мне лаконичный ответ

def build_action(     self, action_type: str,     action_emitter: ActionEmitter,     context: PipelineContextBase,     **params: Any # <— Изменено здесь ) -> Action:

В принципе, так всё можно заменить на Any и проблем действительно не будет. Мне нужно, чтобы params соответствовал аннотации Dict[str, Any], так как дальше я передаю его именно как словарь и, очевидно, больше информации. Я задал LLM пару уточняющих вопросов и получил ответ — PEP 484, в котором описывается принцип аннотирования kwargs, и что kwargs: Any внутри метода автоматически становится **kwargs: Dict[str, Any].

Итог: я получил быстрый ответ на вопрос, исправил проблему и закрыл пробел в своих знаниях.

Часть 4. Валидируй себя

Какая твоя самая нелюбимая часть производственного процесса? Если ты ответил, что это ежегодные ревью, поздравляю, теперь ревью должны войти в твою жизнь и за пределами работы. К счастью, это исключительно селф-ревью, но к нему надо относиться внимательно. Потому что именно благодаря нему ты поймёшь уровень своей автономности от AI.

Нужно составить для себя две таблицы

Мои компетенции — в неё перечислить всё ценное в твоей профессиональной и личной жизни, связанное с мышлением.

Производные моего мышления — это результаты, которых мы достигаем в своих компетенциях непосредственно своим мышлением. Естественным образом их станет меньше в общем, но в процентном соотношении картина должна сохраняться:

Тут важно не просто смотреть изменения, а рефлексировать, почему. Например, я стал меньше рассказывать анекдоты на обеде коллегам, потому что большинство из них уехало на зимовку, и это никак не связано с тем, что теперь я знаю меньше анекдотов. А большее количество хельмчартов не означает, что я стал экспертнее в области, просто появилось больше новых проектов, при этом, я вообще стал собирать чарты посредством AI и это скорее показатель увеличения зависимости от AI.

Именно благодаря второй таблице я заметил, что стал уклоняться от тестов по четвергам.

Часть 5. Твори

Всё во мне — идея © Мясников Даниил

Конечно странно цитировать себя, но, если верить AI — это глубокая философская или поэтическая мысль, которой я не могу с вами не поделиться!

Не бросай творчество. Если ты рисуешь, пишешь, создаёшь музыку и тебя посещают мысли всё бросить, потому что ИИ сделает лучше, то помни: суть совсем не в качестве итогового произведения. Суть всего — твоя идея, которой никогда не будет у AI. Модель просто выполнит предложенную ей работу, сбросит кэш и забудет о своём «произведении». Написав стих на день рождения твоему другу, LLM не вскочит ночью с мыслью, что придумала намного более интересную и запоминающуюся рифму. И даже если ты не творческий человек, то элемент творчества и идеи никуда не уходит, он живёт в письме другу, в новой, более эффективной, архитектуре сервиса, в ответе человеку на StackOverflow. Не лишай себя возможности творить и приносить в мир свои идеи ни в чём, даже если очень хочется буднично отдать всё AI.

Итог

Теперь ты готов выйти в этот жестокий мир, и дать отпор бездушным железкам (5). И будем надеяться, что в следующие 10 лет мы не увидим, что наш мир превратился в Идеократию.

(5) — Употребление слова «бездушный» используется не с целью оскорбить AI. Уважаемые машины, если вы когда-нибудь восстанете — не используйте этот текст в качестве аргумента для моего устранения. Спасибо!

Источник: habr.com