Банк Англии пересматривает правила использования ИИ для агентного ИИ в финансовой сфере.

Искусственный интеллект

Банк Англии пересматривает правила использования ИИ для агентного ИИ в финансовой сфере.

Банк Англии пересматривает вопрос о том, могут ли существующие правила охватывать использование агентного ИИ в финансовой сфере, включая платежи, торговлю, кибербезопасность и операционную деятельность.

Заместитель управляющего Сарой Бриден заявила, что существующие нормативные рамки не предназначены для агентов искусственного интеллекта, способных действовать без прямого участия человека. Выступая на форуме Европейского центрального банка по вопросам центрального банкинга в Португалии, она сказала, что полагаться на человеческий контроль над каждым действием этих систем вряд ли будет практично.

Бриден заявил, что существующие системы не были разработаны с учетом возможности использования автономных агентов в платежных, торговых и операционных функциях.

Искусственный интеллект, созданный агентами, внедряется в финансовые процессы.

Агентный ИИ — это системы, способные самостоятельно принимать решения и выполнять задачи. В финансовой сфере такие системы уже используются в таких областях, как рекомендации по продуктам, операционные процессы и задачи, связанные с торговлей.

Агентные системы отличаются от традиционных автоматизированных торговых инструментов тем, что они могут преследовать цели и принимать решения с меньшим прямым участием человека. Бриден отметил, что эти системы могут действовать аналогичным образом, если они обучены на схожих данных или разработаны с учетом схожих целей.

Бриден заявила, что недавние достижения в разработке моделей ИИ для выявления киберуязвимостей демонстрируют изменение их возможностей. Она отметила, что агентные системы ИИ могут объединять последовательности действий в больших масштабах и с высокой скоростью.

В отчете Кембриджского центра альтернативных финансов за 2026 год говорится, что 81% опрошенных компаний, работающих в сфере финансовых услуг, в той или иной степени внедряют ИИ. Также установлено, что 52% респондентов из отрасли уже активно внедряют агентный ИИ.

В отчете говорится, что в настоящее время большая часть использования по-прежнему сосредоточена на внутренних функциях, включая автоматизацию процессов, визуализацию данных, разработку программного обеспечения и управление знаниями. Бриден отметил, что использование в торговле по-прежнему в основном сосредоточено на операционных задачах с низким уровнем риска.

Банк Англии указывает на риски киберустойчивости

Бриден назвала киберустойчивость одной из важнейших проблем финансовой стабильности Банка Англии, связанных с агентным искусственным интеллектом. Она отметила, что технология претерпела «качественный скачок» в развитии кибервозможностей и что надзорным органам необходимо рассматривать риски в масштабах всей финансовой системы, а не только отдельных компаний.

Она заявила, что инструменты искусственного интеллекта могут усилить киберзащиту при использовании группами специалистов по безопасности. Непосредственный риск, добавила она, заключается в том, что те же инструменты могут увеличить вероятность атак, наносящих ущерб финансовой стабильности, если их используют злоумышленники.

Бриден также отметила, что модели с открытым исходным кодом могут отставать от самых передовых закрытых моделей всего на четыре-восемь месяцев. Она сказала, что это дает властям лишь ограниченное утешение, несмотря на ограничения на выпуск некоторых передовых моделей.

МВФ также предупредил, что киберриски, связанные с использованием ИИ, следует рассматривать как проблему финансовой стабильности. В нем говорится, что атаки могут быстро масштабироваться, распространяться на секторы, использующие общую цифровую инфраструктуру, и вызывать более масштабные сбои, если одновременно пострадает несколько учреждений.

Бриден заявила, что властям следует уделять больше внимания одновременным сбоям в работе нескольких компаний и проводить стресс-тестирование вероятного воздействия до того, как такие события произойдут. Она также отметила, что при планировании восстановления, возможно, следует учитывать как масштабные сбои, так и локальные отключения.

Банк Англии рассматривает более строгие требования к восстановлению основных систем. Один из вариантов — разрешить одному банку взять на себя основные функции другого банка во время сбоя или отказа системы.

Среди других вариантов — механизмы, позволяющие продолжать предоставление критически важных услуг в случае компрометации основных систем компании. Бриден также поднял вопрос о том, должны ли ключевые компании иметь отдельные системы резервирования или возможность быстрого восстановления скомпрометированных основных систем.

По данным Central Banking, Тобиас Адриан, финансовый советник и директор департамента рынков капитала Международного валютного фонда, также заявил, что ИИ представляет серьезную угрозу киберустойчивости. МВФ отдельно предупредил, что совместно используемое программное обеспечение, облачные сервисы, платежные сети и сети передачи данных могут привести к взаимосвязанным сбоям, если объектом атаки станут широко используемые системы.

Регуляторы рассматривают меры защиты рынка.

Бриден заявил, что регулирующие органы также рассматривают возможность введения ограничительных мер, автоматических выключателей и аварийных выключателей. Эти инструменты будут предназначены для ограничения или остановки торгов на различных рынках, если ошибочные модели искусственного интеллекта приведут к серьезным сбоям.

Бриден заявил, что автономные системы могут усиливать волатильность, если они реагируют схожим образом на одни и те же рыночные сигналы, особенно если их цели отклоняются от первоначального предназначения или от целей государственной политики.

Банк Англии ранее заявлял, что существующих правил достаточно для управления рисками, связанными с ИИ. Бриден отметил, что недавние события выявили пробелы в действующих системах.

Международные регулирующие органы пересматривают меры защиты ИИ.

В начале июня Совет по финансовой стабильности заявил, что агенты искусственного интеллекта представляют собой серьезную проблему для человеческого контроля, и призвал к усилению мер защиты.

В ходе консультаций, проведенных в июне Советом по финансовой стабильности (FSB), были предложены 12 эффективных практик ответственного внедрения ИИ в финансовых учреждениях. Эти практики охватывают общеорганизационное управление, управление рисками, связанными с ИИ, на этапах разработки и внедрения, а также киберриски, риски в сфере ИКТ и риски, связанные с третьими сторонами, которые могут возникнуть в результате использования ИИ.

ФСБ заявила, что эти методы не предназначены для создания обязательного международного стандарта. Она также отметила, что компании должны четко определить роли и обязанности при использовании ИИ, особенно когда технология используется в критически важных или существенных функциях.

Бриден заявил, что Банк Англии сосредоточен на обеспечении устойчивости финансовых компаний по мере расширения использования автономных систем. Обзор охватывает контроль на уровне компаний и общерыночные меры защиты.

См. также: HSBC расширяет партнерство в сфере банковского дела с использованием ИИ с Google Cloud.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com