Всё больше браузеров экспериментируют с агентскими функциями, которые будут выполнять действия от вашего имени, например, бронировать билеты или покупать различные товары. Однако эти агентские возможности также сопряжены с рисками безопасности, которые могут привести к потере данных или денег.
Google подробно описала свой подход к обеспечению безопасности пользователей в Chrome, используя модели наблюдателей и согласие на действия пользователя. Компания анонсировала возможности агентских функций в Chrome в сентябре и заявила, что эти функции будут развернуты в ближайшие месяцы.
Компания заявила, что использует несколько моделей для контроля действий агентов. Google заявила, что создала User Alignment Critic на основе Gemini для тщательной проверки пунктов действий, сформированных моделью планировщика для конкретной задачи. Если модель критика считает, что запланированные задачи не отвечают целям пользователя, она просит модель планировщика пересмотреть стратегию. Google отметила, что модель критика видит только метаданные предлагаемого действия, а не сам веб-контент.
Более того, чтобы предотвратить доступ агентов к запрещённым или ненадёжным сайтам, Google использует наборы источников агентов (Agent Origin Sets), которые ограничивают доступ модели к источникам, доступным только для чтения и для чтения и записи. Источники, доступные только для чтения, — это данные, из которых Gemini разрешено получать контент. Например, на сайте интернет-магазина списки релевантны задаче, а рекламные баннеры — нет. Аналогичным образом, Google заявил, что агенту разрешено нажимать или вводить текст только в определённых фреймах страницы.
«Такое разграничение гарантирует, что агенту доступны только данные из ограниченного набора источников, и эти данные могут быть переданы только в источники, доступные для записи. Это ограничивает вектор угрозы кросс-источниковых утечек данных. Это также даёт браузеру возможность применять часть этого разграничения, например, даже не отправляя в модель данные, находящиеся за пределами доступного для чтения набора», — говорится в сообщении компании в блоге.
Google также контролирует навигацию по страницам, анализируя URL-адреса с помощью другой модели-наблюдателя. Это может предотвратить переходы на вредоносные URL-адреса, сгенерированные этой моделью, заявила компания.
Поисковый гигант заявил, что также передаёт пользователям управление конфиденциальными задачами. Например, когда агент пытается перейти на сайт с конфиденциальной информацией, такой как банковские или медицинские данные, он сначала спрашивает пользователя. Для сайтов, требующих входа в систему, он запрашивает у пользователя разрешение на использование менеджера паролей Chrome. Google заявила, что модель агента не подвержена воздействию паролей. Компания добавила, что будет спрашивать у пользователей разрешение перед выполнением таких действий, как покупка или отправка сообщения.
Google заявила, что в дополнение к этому у нее также есть классификатор мгновенных инъекций для предотвращения нежелательных действий, а также она тестирует возможности агентов против атак, созданных исследователями.
Производители браузеров с искусственным интеллектом также уделяют внимание безопасности. Ранее в этом месяце Perplexity выпустила новую модель обнаружения контента с открытым исходным кодом для предотвращения атак с мгновенным внедрением вредоносных программ.
Источник: techcrunch.com
