TD Securities использует Layer 6 и OpenAI для предоставления отделам продаж и трейдинга аналитических данных по акциям в режиме реального времени

Источник: VentureBeat, создано с помощью MidJourney

Хотите получать более полезную информацию? Подпишитесь на наши еженедельные рассылки, чтобы получать только то, что важно для руководителей в сфере корпоративного ИИ, данных и безопасности. Подпишитесь сейчас

Несмотря на строгую регламентацию, торговля акциями неизменно находится в авангарде технологических инноваций в секторе финансовых услуг. Однако, когда дело касается агентов и приложений на основе искусственного интеллекта, многие банки стали более осторожно подходить к их внедрению.

TD Securities, подразделение TD Bank, занимающееся торговлей акциями и ценными бумагами, 8 июля запустило своего виртуального помощника TD AI , предназначенного для специалистов по институциональным продажам, торговле и исследованиям во фронт-офисе, чтобы помочь им управлять своим рабочим процессом.

Директор по информационным технологиям TD Securities Дэн Босман рассказал VentureBeat, что основная цель виртуального помощника — помочь менеджерам по продажам акций и трейдерам в получении аналитической информации и исследований для клиентов.

«Первая версия начиналась как пилотная, а затем мы её масштабировали», — сказал Босман. «Речь идёт о доступе к данным исследований рынка акций, которые публикуют наши аналитики, и их передаче отделу продаж в удобном для них формате».

Масштабирование ИИ достигает предела

Ограничения мощности, рост стоимости токенов и задержки в выводе данных меняют корпоративный ИИ. Присоединяйтесь к нашему эксклюзивному салону, чтобы узнать, как обстоят дела у лучших команд:

• Превращение энергии в стратегическое преимущество
• Разработка эффективного вывода для реального увеличения пропускной способности
• Обеспечение конкурентоспособной рентабельности инвестиций с помощью устойчивых систем ИИ

Забронируйте свое место, чтобы оставаться впереди : https://bit.ly/4mwGngO

Босман отметил, что пребывание в торговом зале подразумевает знакомство с обилием терминологии, а контекст, в котором пользователи задают вопросы, кажется весьма уникальным. Поэтому ИИ-помощник должен звучать естественно, быть интуитивно понятным и иметь доступ к информации, полученной от трейдеров.

Создание TD AI

Босман рассказал, что идея создания ИИ-помощника пришла к одному из сотрудников отдела продаж акций. К счастью, у банка есть платформа TD Invent, где сотрудники могут предлагать идеи, а команда руководителей по инновациям может ответственно оценивать проекты.

«Кто-то из нашего отдела продаж аналитических исследований пришёл и практически сказал: «У меня есть идея, и я принёс её в TD Invent», — сказал Босман. «Больше всего мне понравилось то, что когда создаёшь что-то по-настоящему волшебное, не нужно выходить и продавать или рекламировать это. Люди приходят и говорят: „Мы хотим это“, „Нам это нужно“ или „У нас есть идеи“, и это действительно здорово, когда мы можем объединить наши инвестиции в данные, облако и инфраструктуру».

Компания TD Security создала виртуального помощника TD AI, используя модели GPT OpenAI. Босман отметил, что TD сотрудничала со своими технологическими командами и канадской компанией Layer 6, специализирующейся на искусственном интеллекте, которую банк приобрел в 2018 году, а также с другими стратегическими партнёрствами. Помощник интегрируется с облачной инфраструктурой банка, обеспечивая доступ к внутренним исследовательским документам и рыночным данным, таким как отчётность по форме 13F и исторические данные по акциям.

Босман называет TDS AI системой управления знаниями — термин, который в целом охватывает ее способность извлекать, с помощью процессов генерации дополненных знаний (RAG), агрегировать и синтезировать информацию в «краткие контекстно-зависимые резюме и аналитику», чтобы ее отделы продаж могли отвечать на вопросы клиентов.

В июне банк запустил базовую модель под названием TD AI Prism, которая направлена на повышение прогностической эффективности приложений TD Bank за счет обработки в 100 раз большего объема данных, замены моделей с единой архитектурой и обеспечения внутреннего хранения данных клиентов.

«Разработка создавала особые трудности, поскольку на момент запуска инициативы технологии искусственного интеллекта были относительно новым явлением для организации, что требовало тщательного подхода к управлению и контролю», — сказал Босман. «Несмотря на это, проект успешно объединил различные команды по всему предприятию, способствуя сотрудничеству для разработки передового решения».

Он добавил, что одной из выдающихся особенностей является возможность преобразования текста в SQL, которая преобразует подсказки на естественном языке в запросы SQL.

По словам Босмана, для обучения помощника TD Securities разработала оптимизацию, упрощающую процесс.

«Благодаря запатентованным оптимизациям в области оперативного проектирования и динамического поиска примеров по нескольким случаям мы успешно достигли желаемой эффективности бизнеса благодаря контекстному обучению», — сказал Босман. «В результате не потребовалась тонкая настройка базовой модели OpenAI для взаимодействия как с неструктурированными, так и с табличными наборами данных».

Банки медленно вступают в агентскую эру

TD Bank и TD Securities, конечно, не единственные банки, заинтересованные в расширении спектра услуг от помощников до агентов на базе искусственного интеллекта.

Компания BNY сообщила VentureBeat, что начала предлагать своим отделам продаж многоагентные решения, помогающие отвечать на вопросы клиентов, например, связанные с поддержкой иностранной валюты. Wells Fargo также отметил рост использования своего внутреннего ИИ-помощника. Для своих клиентов, продающих автомобили, Capital One разработала агента, который помогает им продавать больше автомобилей.

Многие из этих вариантов использования появились после нескольких месяцев пилотного тестирования, как и в любой другой отрасли; однако финансовые учреждения несут дополнительное бремя строгой конфиденциальности данных клиентов и фидуциарной ответственности.

Босман из TD Securities отметил, что многие сотрудники, даже в банковском бизнесе, всё чаще знакомятся с такими инструментами, как ChatGPT. Сложность пилотного тестирования помощников и агентов заключается не столько в обучении их работе с инструментами, сколько в выработке оптимальных практик использования помощников, их интеграции в существующие рабочие процессы, понимании их ограничений и того, как люди могут предоставлять обратную связь для смягчения галлюцинаций.

По словам Босмана, в конечном итоге помощник превратится в нечто такое, что захотят использовать при взаимодействии с TD Securities даже пользователи за пределами банка.

«Я считаю, что ИИ может принести пользу не только нам, но и внешним клиентам банка. Сейчас это огромная возможность для нас улучшить качество обслуживания клиентов и сделать работу сотрудников более комфортной», — сказал Босман.

Источник: venturebeat.com