OpenAI запускает персонального помощника, способного управлять файлами и веб-браузерами

OpenAI запускает персонального помощника, способного управлять файлами и веб-браузерами

Агент ИИ может бронировать столики в ресторанах и ходить за покупками для пользователей, но OpenAI признает, что есть «больше рисков»

Пользователи ChatGPT смогут попросить ИИ-агента забронировать столик в ресторане, отправиться за покупками и даже составить списки кандидатов на вакансии, поскольку с четверга чат-бот обретет полномочия персонального помощника.

Агент ChatGPT, запущенный Open AI по всему миру, за исключением ЕС, не только «думает», но и действует, заявила американская компания. Агент сочетает в себе возможности исследовательских инструментов на основе ИИ с возможностью управления веб-браузерами, компьютерными файлами и программным обеспечением, таким как электронные таблицы и слайд-шоу.

Это произошло после запуска аналогичных «агентов» компаниями Google и Anthropic на фоне растущего интереса к моделям ИИ, которые могут выполнять компьютерные задачи, оценивая, какое программное обеспечение лучше всего использовать, и переключаясь между системами для автономного выполнения заданий, таких как составление маршрутов путешествий или проведение исследований.

«Мы надеемся, что агенты смогут принести пользователям реальную пользу — действительно что-то сделать для них, а не просто выводить отполированный текст и звучать впечатляюще», — сказала Ниам Бернс, старший медиааналитик Enders Analysis.

Однако Open AI признал, что предоставление агенту ИИ даже ограниченного контроля над компьютерными системами означает, что «эта модель сопряжена с большим количеством рисков, чем предыдущие модели».

Хотя он предназначен для помощи людям в выполнении повседневных задач, его потенциальная мощь означает, что OpenAI ощутила необходимость ввести меры безопасности, чтобы гарантировать, что ни один агент не позволит создать биологические опасности.

«Хотя у нас нет окончательных доказательств того, что модель может существенно помочь новичку нанести серьезный биологический вред, — заявила компания, — мы проявляем осторожность и уже сейчас внедряем необходимые меры предосторожности».

Модель обучена получать подтверждение от пользователя, прежде чем предпринимать какие-либо разрушительные или необратимые действия. Компания заявила в блоге: «Вы всегда контролируете ситуацию. ChatGPT запрашивает разрешение перед выполнением серьёзных действий, и вы можете легко прервать процесс, перехватить управление браузером или остановить задачи в любой момент».

Запуск агента также породил предположения, что технологическая компания может рассчитывать на получение прибыли, если агенты будут направлять пользователей к кассам в розничных магазинах. Генеральный директор OpenAI Сэм Альтман ранее заявлял, что компания может взимать комиссию в размере 2% с продаж, совершенных с помощью её программного обеспечения для «глубоких исследований».

Независимый аналитик Бернс заявил: «Легко сказать, что система потребует вашего одобрения перед покупкой, но каков процесс поиска товаров этой системой? Будут ли коммерческие сделки, когда бренды платят за то, чтобы их представляли консультанты, или случаи, когда они будут чаще рекламировать свои товары, чем конкурентов?»

«Эти компании, занимающиеся разработкой ИИ, испытывают все большее давление, связанное с необходимостью монетизировать свою продукцию, поэтому размещение рекламы или спонсируемых размещений кажется неизбежным».

OpenAI заявила, что агент не включает рекомендации спонсируемых продуктов, и планов менять это нет.

Демонстрация работы программного обеспечения на этой неделе показала, что его просят просмотреть календарь Google пользователя, выбрать свободный вечер в будние дни с 18:00 до 21:00, найти свободные столики в итальянских, суши- или корейских ресторанах с рейтингом не менее 4,3 звезд и предоставить пользователю несколько вариантов.

Выполнение задачи занимало от 10 до 15 минут, и, как и в случае с помощником-человеком, пользователь мог прервать его и направить ИИ-агента в другом направлении. Кроме того, агент мог запросить у пользователя более чёткие инструкции.

Другим ключевым риском является то, что агент может стать жертвой вредоносных подсказок, которые могут быть скрыты на посещаемых им веб-сайтах и которые могут, например, потребовать от агента предоставить некоторые данные пользователя.

Компания OpenAI заявила, что провела несколько проверок безопасности и обучила агента отклонять некоторые подозрительные запросы, включая запросы на банковские переводы. Изначально система будет доступна пользователям, оформившим ежемесячную подписку на версии модели «pro», «plus» и «teams».

Источник: www.theguardian.com