Вкратце
Что произойдёт, когда программное обеспечение, которое все спешат внедрить, станет слишком рискованным для страхования? Согласно Financial Times, мы скоро это узнаем.
Крупнейшие страховщики, включая AIG, Great American и WR Berkley, запрашивают у американских регулирующих органов разрешение исключить обязательства, связанные с ИИ, из корпоративных полисов. Один из андеррайтеров назвал результаты работы моделей ИИ в интервью Financial Times «слишком чёрным ящиком».
Эта история напоминает нам, что у отрасли есть веские причины для беспокойства. В марте Google, используя AI Overview, ложно обвинила компанию, занимающуюся солнечной энергетикой, в юридических проблемах, что привело к иску на 110 миллионов долларов. В прошлом году Air Canada столкнулась с проблемой получения скидки, которую ей предоставил чат-бот. А в прошлом году мошенники использовали цифровую копию руководителя высшего звена, чтобы украсть 25 миллионов долларов у лондонской проектно-конструкторской фирмы Arup во время видеозвонка, который казался совершенно реальным.
Страховщиков по-настоящему пугает не одна крупная выплата, а системный риск тысяч одновременных страховых случаев, когда в дело вступает широко распространённая модель искусственного интеллекта. Как отметил один из руководителей Aon, страховщики могут справиться с убытком в 400 миллионов долларов для одной компании. Но они не в состоянии справиться с ошибкой в работе агентского ИИ, которая приведёт к 10 000 убытков одновременно.
Источник: techcrunch.com
