Искусственный интеллект, использующий агентные технологии, решил проблему программирования — и выявил все остальные проблемы в разработке программного обеспечения.

Джо Бертолами

Искусственный интеллект в разработке программного обеспечения стал неотъемлемой частью инженерного процесса, обеспечивая колоссальное повышение эффективности и помогая нам генерировать больше кода, чем когда-либо прежде. Однако всё чаще руководители компаний задают мне сложный вопрос: если мы выпускаем код быстрее, чем когда-либо, почему наши продукты не улучшаются с той же скоростью?

Причина в том, что написание кода никогда не было ограничивающим фактором. Определение правильных требований, интеграция со сложными системами и поддержка программного обеспечения в реальных условиях всегда были самой сложной задачей. А когда агенты заваливают организацию большим количеством нового кода, сложность только возрастает. Агенты сокращают время выполнения. Они не сокращают неопределенность, ответственность или операционную сложность.

По мере масштабирования кода, генерируемого ИИ, проверка человеком становится новым огромным узким местом, а инженеры теряют контекст, необходимый для выявления ошибок, допускаемых агентами. Компании, которые это понимают, будут двигаться вперед целенаправленно и даже создавать новые должности из-за ИИ . Те, кто этого не понимает, придут к более простому, но гораздо более разрушительному выводу: сократить штат и увеличить расходы на ИИ.

сценарий

Принятие необратимых структурных решений требует осторожности именно потому, что технологии развиваются невероятно быстро. Руководителям инженерных подразделений предприятия необходим продуманный план действий, чтобы справиться с этим хаосом. Вот как начать:

Этап 1: Финансовое управление и управление рисками

Защититесь от рисков — обеспечьте безопасность инфраструктуры и ограничьте финансовые потери.

• Рассматривайте управление как риск первого уровня: давление с целью внедрения ИИ реально, но предоставление командам свободы экспериментировать без централизованной структуры приводит к фрагментации процессов, дублированию работы и неконтролируемому росту затрат. Организациям необходимо установить общие стандарты, одновременно позволяя командам адаптироваться и исследовать в рамках определенных границ. Это означает, что к настройке агентов следует относиться как к производственной инфраструктуре — версионировать, проверять и тестировать подсказки и навыки перед их постепенным внедрением.

• Применяйте принцип минимальных привилегий к нечеловеческим субъектам: никогда не позволяйте агенту просто наследовать все права своего оператора-человека. Инженерам-людям предоставляется широкий доступ, поскольку они обладают контекстной оценкой и несут полную ответственность. Развертывание агентов с доступом на уровне человека без тщательного обдумывания создает пробел в подотчетности ваших систем. Внедрите строгое разделение между доступом на чтение и запись/выполнение , а также обязательно используйте механизмы утверждения с участием человека для деструктивных или изменяющих производственный процесс действий. По мере того, как агенты переходят от предложения кода к автономному выполнению задач, они должны быть строго интегрированы в вашу модель безопасности.

• Следите за своим кошельком: защитите свой общий бюджет на ИИ, устанавливая квоты и ограничения скорости как для разработки, так и для производства. Всё чаще встречаются поучительные истории: Uber ограничил свои расходы на ИИ после того, как исчерпал бюджет на 2026 год к апрелю , а, по данным Axios, неназванная компания понесла колоссальные расходы в размере 500 миллионов долларов за месяц из-за неконтролируемых циклов работы агентов.

Этап 2: Техническая стратегия

Создайте движок: выберите подходящие модели и оцените их успех.

• Используйте несколько моделей и поставщиков: ни одна модель не подходит для решения всех задач. Важно точно охарактеризовать границы поведения и производительности различных моделей, чтобы понять, в чем каждая из них превосходит другие, направляя конкретные задачи в системы, наиболее подходящие для их выполнения. Стандартизация на основе одного поставщика или модели приводит к снижению возможностей и созданию критической единой точки отказа. Ни одна организация не должна мириться с таким уровнем концентрации риска в своей основной инженерной функции.

• Платите за передовые технологии: рассматривайте ИИ как инженерный инструмент, а не просто как еще одну статью расходов на SaaS. Платите за премиальные передовые модели, которые обеспечивают высочайшее качество результатов и сокращают дорогостоящие доработки. В конечном итоге, самая дешевая модель — это не та, у которой самая низкая цена токена, а та, которая максимизирует эффективность, минимизируя при этом риски для последующих этапов.

• Измеряйте то, что действительно важно: количество развертываний, строк кода и запросов на слияние никогда не были хорошими показателями производительности, а с ИИ они активно вводят в заблуждение. Вместо этого стремитесь к показателям, которые связаны с бизнес-результатами (внедрение функций, удержание пользователей) и надежностью инженерных решений (частота отказов при внесении изменений, количество обнаруженных дефектов, выживаемость кода с течением времени). Для повышения эффективности ИИ измеряйте успешность выполнения задач на доллар и время, затраченное на переработку. Подсчет токенов удобен для рейтингов, но он не может показать, были ли токены потрачены с пользой.

Этап 3: Таланты и организация

Перенаправьте свои человеческие ресурсы на устранение нового узкого места.

• Переход от синтаксиса к системам: поскольку агенты обрабатывают большую часть генерации кода, проверка человеком и согласование с архитектурой становятся новыми узкими местами. Организациям необходимо целенаправленно повышать квалификацию своих сотрудников, чтобы перейти от написания синтаксиса к системному мышлению и управлению агентами. Инженерам необходимы подготовка и полномочия для руководства процессами работы агентов, управления сложными межсистемными интеграциями и поддержания общей архитектурной концепции, которую агентам бывает сложно поддерживать.

• Пересмотрите систему оценки производительности и поощрений: когда отдельный инженер может обеспечить результаты, сопоставимые с результатами целой команды, традиционные показатели, такие как баллы за задачи или скорость выполнения спринта, могут стать неэффективными дополнительными затратами. Рассмотрите возможность пересмотра ваших систем оценки, чтобы лучше вознаграждать расширенное влияние на бизнес, надежность в рамках всей системы и эффективную координацию действий агентов. Если вам нужны специалисты с системным мышлением, которые охватывают более стратегические области, готовы к исследованиям и риску, а также создают долговечные продукты, вы должны вознаграждать их за более высокий уровень влияния, а не за просто объем работы.

• Не сокращайте штат до того, как ваша стратегия адаптируется: если вы не внедрили агентские рабочие процессы, не измерили эффективность дополненной реальности в производственной среде и не переработали свою дорожную карту в сторону более быстрого выполнения, вы на самом деле не знаете, соответствуют ли ваши потребности и возможности друг другу. Сокращение штата до установления этого базового уровня — это не дисциплина, а слепота. Цель состоит не просто в уменьшении численности команд, а в создании команд, способных охватывать более широкий стратегический охват.

Внедрение ИИ в корпоративной среде требует гибкости человеческого фактора.

Искусственный интеллект не заменяет инженерное суждение; он лишь усиливает его. В хорошо структурированных системах он безопасно ускоряет внедрение. В плохо изученных системах он ускоряет сбои. Мы уже видим последствия: перебои в работе, рост технического долга и неожиданные скачки затрат, вызванные плохо контролируемым внедрением. Это операционные сбои, а не теоретические риски.

Ошибка, которую сейчас совершают организации, заключается не в слишком медленном внедрении ИИ, а в его внедрении без понимания того, где он дает сбои.

Для руководителей высшего звена понимание этой динамики перестало быть просто желательным — это определяющий фактор в том, как бизнес будет развиваться в эту эпоху. Проблема в том, что скорость внедрения опережает способность отрасли справляться с последствиями. Мы вручили инженерным командам мощный инструмент. Старая поговорка гласит: «Семь раз отмерь, один раз отрежь». Вместо этого слишком многие компании предпочитают просто отрезать.

Джо Бертолами — технический директор и соучредитель компании Clifton AI .

Добро пожаловать в сообщество VentureBeat!

Наша программа гостевых публикаций — это площадка, где технические эксперты делятся своими знаниями и предоставляют нейтральные, непредвзятые аналитические материалы по искусственному интеллекту, инфраструктуре данных, кибербезопасности и другим передовым технологиям, формирующим будущее предприятий.

Узнайте больше о нашей программе гостевых публикаций — и ознакомьтесь с нашими рекомендациями, если вы заинтересованы в написании собственной статьи!

Подпишитесь, чтобы получать самые свежие новости!

Подробные аналитические данные для руководителей предприятий в области искусственного интеллекта, данных и безопасности.

VB Daily AI Weekly AGI Weekly Еженедельник по безопасности Еженедельник по инфраструктуре данных Мероприятия VB Все они

Отправляя свой адрес электронной почты, вы соглашаетесь с нашими Условиями использования и Политикой конфиденциальности.

Получайте обновления ! Вы подписаны! Наши последние новости скоро поступят на вашу электронную почту.

Источник: venturebeat.com