Клод, OpenClaw и новая реальность: агенты искусственного интеллекта уже здесь — и вместе с ними хаос.
Даттарадж Рао, Персистентные системы
Эпоха агентного ИИ уже наступила — хотим мы этого или нет. То, что началось с невинного обмена вопросами и ответами в ChatGPT в 2022 году, превратилось в экзистенциальную дискуссию о гарантиях занятости и восхождении машин.
В последнее время опасения по поводу достижения уровня искусственного общего интеллекта (AGI) стали более реальными с появлением мощных автономных агентов, таких как Claude Cowork и OpenClaw. Поработав с этими инструментами некоторое время, я провел их сравнение.
Во-первых, у нас есть OpenClaw (ранее известный как Moltbot и Clawdbot). За несколько дней он набрал более 150 000 звёзд на GitHub и уже развертывается на локальных машинах с глубоким доступом к системе. Это как робот-«горничная» (например, Irona для поклонников Ричи Рича ), которому вы даёте ключи от дома. Он должен его убирать, и вы наделяете его необходимой автономией для выполнения действий и управления вашими вещами (файлами и данными) по своему усмотрению. Вся цель состоит в выполнении конкретной задачи — сортировка входящих сообщений, автоматические ответы, подбор контента, планирование поездок и многое другое.
Далее у нас есть Google Antigravity, агент для разработки кода со встроенной IDE, который ускоряет путь от запроса до внедрения в производство. Вы можете интерактивно создавать целые проекты приложений и изменять отдельные детали по запросу. Это как иметь начинающего разработчика, который может не только писать код, но и создавать, тестировать, интегрировать и исправлять ошибки. В реальном мире это похоже на найм электрика: он действительно хорош в определенной работе, и вам нужно только предоставить ему доступ к определенному элементу (вашей электрической распределительной коробке).
Наконец, у нас есть могучий Клод. Выпуск Cowork от Anthropic, в котором использовались ИИ-агенты для автоматизации юридических задач, таких как проверка контрактов и сортировка соглашений о неразглашении, вызвал резкое падение акций компаний, работающих в сфере юридических технологий и программного обеспечения как услуги (SaaS) (так называемый SaaSpocalypse). Клод и так был востребованным чат-ботом; теперь, с Cowork, он обладает знаниями в конкретных отраслях, таких как юриспруденция и финансы. Это как нанять бухгалтера. Он досконально знает свою область и может заполнять налоговые декларации и управлять счетами-фактурами. Пользователи предоставляют ограниченный доступ к конфиденциальной финансовой информации.
Как использовать эти инструменты в своих интересах
Ключ к повышению эффективности этих инструментов заключается в расширении их возможностей, но это увеличивает риск злоупотреблений. Пользователи должны доверять таким поставщикам, как Anthorpic и Google, чтобы гарантировать, что подсказки агентов не причинят вреда, не приведут к утечке данных и не предоставят несправедливого (незаконного) преимущества определенным поставщикам. OpenClaw — это программное обеспечение с открытым исходным кодом, что усложняет ситуацию, поскольку отсутствует центральный регулирующий орган.
Хотя эти технологические достижения удивительны и призваны принести пользу обществу, достаточно одного-двух неблагоприятных событий, чтобы вызвать панику. Представьте себе, что электрик-агент выводит из строя все электросети вашего дома, подключив неправильный провод. В сценарии с агентом это может быть внедрение некорректного кода, поломка более крупной системы или добавление скрытых уязвимостей, которые могут быть не сразу очевидны. Cowork может упустить значительные возможности экономии при заполнении налоговой декларации пользователя; с другой стороны, это может привести к незаконным налоговым вычетам. Claude может нанести невообразимый ущерб, когда у него больше контроля и полномочий.
Но посреди этого хаоса появляется возможность действительно извлечь выгоду. При наличии надлежащих механизмов защиты агенты могут сосредоточиться на конкретных действиях и избегать принятия случайных, неучтенных решений. Принципы ответственного ИИ — подотчетность, прозрачность, воспроизводимость, безопасность, конфиденциальность — чрезвычайно важны. Регистрация действий агента и подтверждение со стороны человека имеют решающее значение.
Кроме того, когда агенты взаимодействуют с таким множеством разнообразных систем, важно, чтобы они говорили на одном языке. Онтология становится очень важной для отслеживания, мониторинга и учета событий. Общая, специфичная для предметной области онтология может определять «кодекс поведения». Эти этические принципы могут помочь контролировать хаос. В сочетании с общей системой доверия и распределенной идентификацией мы можем создавать системы, которые позволяют агентам выполнять действительно полезную работу.
При правильном подходе агентная экосистема может значительно снизить «когнитивную нагрузку» человека и позволить нашим сотрудникам выполнять задачи, имеющие высокую ценность. Люди выиграют, когда агенты возьмут на себя рутинные задачи.
Даттарадж Рао — архитектор инноваций и научно-исследовательских разработок в компании Persistent Systems.
Добро пожаловать в сообщество VentureBeat!
Наша программа гостевых публикаций — это площадка, где технические эксперты делятся своими знаниями и предоставляют нейтральные, непредвзятые аналитические материалы по искусственному интеллекту, инфраструктуре данных, кибербезопасности и другим передовым технологиям, формирующим будущее предприятий.
Узнайте больше о нашей программе гостевых публикаций — и ознакомьтесь с нашими рекомендациями, если вы заинтересованы в написании собственной статьи!
Подпишитесь, чтобы получать самые свежие новости!
Подробные аналитические данные для руководителей предприятий в области искусственного интеллекта, данных и безопасности.
Отправляя свой адрес электронной почты, вы соглашаетесь с нашими Условиями использования и Политикой конфиденциальности.
Получайте обновления ! Вы подписаны! Наши последние новости скоро поступят на вашу электронную почту.
Источник: venturebeat.com
Оцените материал:
