Люди, чья работа связана со страхованием рисков, считают, что ИИ слишком рискованно страховать

Вкратце

Что произойдёт, когда программное обеспечение, которое все спешат внедрить, станет слишком рискованным для страхования? Согласно Financial Times, мы скоро это узнаем.

Крупнейшие страховщики, включая AIG, Great American и WR Berkley, запрашивают у американских регулирующих органов разрешение исключить обязательства, связанные с ИИ, из корпоративных полисов. Один из андеррайтеров назвал результаты работы моделей ИИ в интервью Financial Times «слишком чёрным ящиком».

Эта история напоминает нам, что у отрасли есть веские причины для беспокойства. В марте Google, используя AI Overview, ложно обвинила компанию, занимающуюся солнечной энергетикой, в юридических проблемах, что привело к иску на 110 миллионов долларов. В прошлом году Air Canada столкнулась с проблемой получения скидки, которую ей предоставил чат-бот. А в прошлом году мошенники использовали цифровую копию руководителя высшего звена, чтобы украсть 25 миллионов долларов у лондонской проектно-конструкторской фирмы Arup во время видеозвонка, который казался совершенно реальным.

Страховщиков по-настоящему пугает не одна крупная выплата, а системный риск тысяч одновременных страховых случаев, когда в дело вступает широко распространённая модель искусственного интеллекта. Как отметил один из руководителей Aon, страховщики могут справиться с убытком в 400 миллионов долларов для одной компании. Но они не в состоянии справиться с ошибкой в работе агентского ИИ, которая приведёт к 10 000 убытков одновременно.

Источник: techcrunch.com