Google: искусственный интеллект знает о вас, но поможет ли он или навязчительно?

Руководитель Google Search заявил, что одна из крупнейших возможностей компании в области ИИ заключается в ее способности лучше узнавать пользователя и персонализировать его ответы.

Обещание — это ИИ, который будет исключительно полезен, потому что он вас знает. Но есть риск, что ИИ будет больше похож на наблюдение, чем на службу.

В недавнем выпуске подкаста Limitless Робби Штайн, вице-президент по продуктам Google Search, объяснил, что искусственный интеллект Google, как правило, обрабатывает больше запросов, направленных на получение советов или рекомендаций, — и такие вопросы с большей вероятностью выиграют от более субъективных ответов.

«Мы считаем, что у нашего ИИ есть огромная возможность лучше узнать вас и, благодаря этим знаниям, стать уникальным помощником», — сказал Штейн в интервью. «И одна из тем, о которых мы говорили на конференции разработчиков Google I/O, была посвящена тому, как ИИ может лучше понять вас через подключённые сервисы, такие как Gmail».

Google уже некоторое время интегрирует ИИ в свои приложения, начиная с тех пор, как Gemini ещё назывался Bard. Недавно компания начала собирать персональные данные в другом продукте на базе ИИ — Gemini Deep Research. Теперь Gemini интегрирован в приложения Google Workspace, такие как Gmail, Календарь и Диск.

Но по мере того, как Google интегрирует всё больше персональных данных в свой ИИ, включая ваши электронные письма, документы, фотографии, историю местоположений и историю просмотров, грань между полезным и навязчивым помощником становится всё более размытой. И, в отличие от сервисов с подпиской, избежать сбора данных Google может стать сложнее, поскольку ИИ становится неотъемлемой частью его продуктов.

Google утверждает, что такая глубокая персонализация делает ИИ гораздо более полезным инструментом. Идея заключается в том, что технология ИИ Google может учиться на взаимодействии пользователя с различными сервисами Google, а затем использовать это понимание для предоставления более персонализированных рекомендаций. Например, если ИИ узнает, что пользователю нравятся определённые продукты или бренды, он может отдавать предпочтение именно этим продуктам или брендам в своих рекомендациях.

По словам Штейна, это было бы «гораздо полезнее», чем просто показывать пользователям более общий список самых продаваемых товаров в определённой категории. «Думаю, это и есть наше видение — создать что-то действительно полезное именно для вас».

Эта идея ничем не отличается от того, как «Другие» в популярном сериале Apple TV «Pluribus» поглотили все знания мира, включая интимные подробности о людях. Когда система взаимодействует с главной героиней сериала, Кэрол, она использует эти данные для персонализации всего: готовит её любимые блюда, использует знакомое лицо для общения с ней и иными способами предвосхищает её потребности.

Но Кэрол не считает персонализированные ответы приятными; она считает их навязчивыми. Она никогда не давала согласия на передачу своих данных коллективному разуму, но он знает её лучше, чем ей бы хотелось.

Аналогичным образом, похоже, что в эпоху искусственного интеллекта будет все сложнее избегать методов Google, направленных на поглощение данных, и если Google не сумеет найти правильный баланс, результаты могут оказаться скорее пугающими, чем полезными.

(Для ясности: Google позволяет вам контролировать приложения, которые Gemini использует, чтобы его ИИ лучше знал именно вас — это можно сделать в разделе «Подключенные приложения» в настройках Gemini.)

Если вы поделитесь данными приложения с Gemini, Google обещает сохранить и использовать эти данные в соответствии с политикой конфиденциальности Gemini. Эта политика напоминает пользователям, что рецензенты могут читать некоторые из их данных, и не просит «вводить конфиденциальную информацию, которую вы не хотели бы, чтобы рецензент увидел её или чтобы Google использовал её для улучшения своих сервисов».

Но по мере того, как в коллективный разум Google поступает все больше данных, становится очевидным, как ИИ может сделать конфиденциальность данных более размытой.

Однако Google считает, что у нее есть своего рода решение.

Штейн утверждает, что Google будет сообщать, когда ответы ее ИИ будут персонализированными.

«Я думаю, люди хотят интуитивно понимать, когда их персонализируют — когда информация создается для них, а когда это что-то, что увидят все, если зададут этот вопрос», — сказал он.

Штейн также отметил, что Google может отправлять пользователям push-уведомления, когда продукт, который они рассматривали после нескольких дней онлайн-исследований, становится доступным или поступает в продажу.

«Сейчас Google невероятно помогает вам во всех этих аспектах, в самых разных ситуациях, в самых разных сферах жизни… — сказал он. — И я думаю, что именно это больше отражает моё представление о будущем поиска, чем какая-либо конкретная функция или отдельный форм-фактор».

Источник: techcrunch.com