Страховщики предлагают покрытие для убытков, вызванных ошибками ИИ-чатботов

Компания Air Canada была вынуждена предоставлять клиентам скидки, о которых ошибочно сообщал ее чатбот, обслуживающий клиентов.

Страховщики из Lloyd's of London запустили новый страховой продукт для покрытия убытков компаний, вызванных неисправными инструментами искусственного интеллекта, поскольку страховой сектор стремится извлечь выгоду из опасений клиентов по поводу риска дорогостоящих недостатков и ошибок их чатботов.

Полисы, разработанные стартапом Armilla, покрывают стоимость судебных процессов против компании, если на нее подает в суд клиент или другая третья сторона, которой был нанесен ущерб из-за неэффективного инструмента ИИ.

Такая страховка будет предоставляться несколькими страховщиками Lloyd’s и будет покрывать такие расходы, как материальный ущерб и юридические затраты.

Компании поспешили принять на вооружение ИИ для повышения эффективности работы, но некоторые инструменты, в том числе чатботы для обслуживания клиентов, стали причиной неловких ситуаций и дорогостоящих ошибок. Такие ошибки могут возникнуть, например, из-за недостатков, которые заставляют языковые модели ИИ «галлюцинировать» или выдумывать некоторые вещи.

В январе этого года компания Virgin Money была вынуждена принести извинения после того, как ее чатбот на основе ИИ упрекал клиентов за использование слова «Virgin», а служба курьерской доставки DPD в прошлом году была вынуждена частично отключить своего бота по обслуживанию клиентов после того, как он стал ругаться с клиентами и называть своего владельца «худшей службой доставки в мире».

В прошлом году суд обязал авиакомпанию Air Canada предоставить клиентам скидки, которые пообещал ее чатбот, обслуживающий клиентов.

Armilla заявила, что убытки от продажи билетов по более низкой цене были бы покрыты ее страховым полисом, если бы чатбот Air Canada действовал хуже, чем ожидалось.

Картик Рамакришнан, исполнительный директор Armilla, сказал, что новый продукт может побудить больше компаний использовать ИИ, поскольку многих сдерживают опасения наличия недостатков в таких инструментах, как чатботы.

Некоторые страховщики уже включают убытки, связанные с ИИ, в полисы, страхующие от общих технологических ошибок, но такие полисы обычно включают ограничения с низкими выплатами.

По словам Прита Гилла, брокера в компании Lockton, которая предлагает продукты Armilla своим клиентам, общий полис, который покрывает убытки в пределах $5 млн., может предусматривать сублимит в $25,000 на обязательства, связанные с ИИ.

Языковые модели ИИ динамичны, то есть они «учится» со временем. Но убытки от ошибок, вызванных этим процессом адаптации, обычно не покрываются обычными полисами технологических ошибок, по словам Логана Пейна, брокера из Lockton.

Ошибка инструмента ИИ сама по себе не будет достаточным событием, чтобы привести к страховой выплате по полису Armilla. Вместо этого покрытие будет выплачиваться в том случае, если страховщик решит, что ИИ показал результат хуже первоначальных ожиданий.

Например, страховка Armilla будет выплачиваться, если чатбот будет давать клиентам или сотрудникам правильную информацию только в 85% случаев, после того как первоначально он делал это в 95% случаев.

«Мы оцениваем модель ИИ, вероятность ее деградации, а затем компенсируем убытки, если модели деградируют», - сказал Рамакришнан.

Том Грэм из Chaucer, страховщика Lloyd's, который предлагает страховку, аналогичную Armilla, заявил, что его группа не оформляет полисы для систем ИИ, которые, по ее мнению, чрезмерно подвержены деградации. «Мы будем избирательны, как и любая другая страховая компания», - сказал он.