Медицинские страховщики США испытывают трудности из-за роли ИИ в решениях о страховых выплатах

Штаб-квартира корпорации UnitedHealthcare в Миннетонке, штат Миннесота.

Когда три года назад 91-летний Джин Локкен, находясь у себя дома, упал и сломал ногу, он был помещен в местную больницу в Висконсине, США, а затем, будучи еще больным, в дом престарелых.

Он начал восстанавливаться благодаря физической терапии, но через несколько недель его страховщик отказался возмещать дальнейший уход в учреждении.

Несмотря на рекомендации от его доктора и опекунов, а также апелляцию, которую он подал, страховщик UnitedHealth так и не стал оплачивать постоянные медицинские расходы для Локкена. Это заставило его семью оплачивать счета в размере более $12,000 в месяц.

Его семья и семь других семей стали главными инициаторами одного из нескольких коллективных судебных исков, которые утверждают, что медицинские страховщики использовали выводы искусственного интеллекта (ИИ) в качестве основания для отмены медицинских заключений врачей и отказа в страховом покрытии - несмотря на высокий уровень ошибок в работе этого алгоритма машинного обучения при оценке потребностей пациентов.

Эти судебные процессы подчеркивают, что, хотя ИИ становится все более широко распространенным инструментом и имеет значительные потенциальные преимущества в здравоохранении, такие как быстрый и надежный клинический диагноз и ускоренная разработка лекарств, - он также несет в себе значительные риски и недостатки.

Ответчик UnitedHealth является крупнейшей страховой компанией США, а его бизнес UnitedHealthCare предоставляет программы медицинского страхования для 53 млн. американцев.

Критика использования ИИ также затрагивает других крупных страховщиков, включая Humana, хотя этот вопрос особенно чувствителен для UnitedHealth после убийства Брайана Томпсона, исполнительного директора одного из отделений UnitedHealth, в декабре прошлого года в Нью-Йорке.

Этот инцидент вызвал жесткие дебаты о несправедливом отказе в страховом покрытии, хотя обвиняемый в убийстве стрелок и его семья не были клиентами компании.

Страховщик владеет и продает конкурентам компьютерную модель ИИ под названием nH Predict, разработанную ее дочерней компанией NaviHealth. Заявители говорят, что эта модель ИИ неточно определяет количество дней, в течение которых следует возмещать расходы, и ограничивает участие человека в корректировке и пересмотре его выводов.

UnitedHealth и ее дочерняя компания UnitedHealthcare отрицают претензии и планируют предоставить свой ответ на иск.

Растущая обеспокоенность по поводу использования ИИ была достаточной причиной для бывшей администрации Джо Байдена ввести добровольные операционные соглашения с страховщиками, плательщиками и поставщиками в 2023 году. Эти меры были подкреплены в 2024 году приказом о стандартах и руководствах.

Организация Centers for Medicare & Medicaid Services (CMS), которая контролируют федеральную систему медицинского страхования США, в конце 2023 года внедрила правила, требующие, чтобы программа Medicare Advantage делала заключения «в зависимости от обстоятельств конкретного лица ... в отличие от использования алгоритма или программного обеспечения, которое не учитывает обстоятельства человека». Ее оценки «должны быть рассмотрены врачом или другим подходящим медицинским специалистом».

В октябре прошлого года Комитет по расследования в Сенате США отметил рост отклонения страховых требований в рамках программы Medicare Advantage по возмещению медицинских расходов, таких как реабилитационные методы лечения Локкена.

«Многие из проблем, которые испытывают большинство пациентов и поставщиков страхования, по-прежнему вызваны неопределенностями. Это в особенности касается использования страховщиками технологий автоматизации и прогнозирования», - заключил он.

UnitedHealth оспорила коллективный судебный иск, возглавляемым Локкеном и отклонила его требования, которые, по ее словам, «основаны на необоснованных обвинениях и неверно характеризуют невероятно ценную работу наших опытных и сострадательных клинических врачей. Решения о страховом покрытии принимаются только медицинскими директорами, а не ИИ, - в соответствии с критериями CMS Medicare».

В своем заявлении страховщик утверждает, что оплачивает 98% всех действительных страховых требований, и только 0.5% отклоняются на основе клинических данных. Компания называет отчет Сената «полностью предвзятым» и говорит, что он неправильно характеризует «программу Medicare Advantage и нашу клиническую практику, игнорируя при этом критерии CMS, требующие более тщательной проверки».

Однако другие специалисты также выразили более широкую обеспокоенность по поводу усиления роли ИИ в возмещении медицинских расходов.

Как утверждали авторы Журнала Американской медицинской ассоциации: «Использование методов машинного обучения усугубляет некоторые проблемы с отказом в покрытии, особенно непрозрачностью принятия решений. Даже разработчик модели может не знать, почему его алгоритм ИИ дал именно такую рекомендацию».

В отчете Чикагского исследовательского центра NORC для Национальной страховой ассоциации NAIC говорится: «Сторонники ИИ указывают на сокращение административного бремени и ускоренное одобрения требований. Тем не менее, нужно учитывать риски, такие как обострение существующих предубеждений и использование технологий за рамками их первоначального предназначения или дизайна, что приводит к непреднамеренному вреду».

В декабре 2023 года NAIC выпустила бюллетень по использованию искусственного интеллекта страховыми компаниями. Он напоминал страховщикам, что решения или действия, принятые или поддерживаемые ИИ, «должны соответствовать всем применимым законам и положениям о страховании».

В настоящее время NAIC проводит исследование того, как поставщики медицинского страхования используют ИИ и машинное обучение, чтобы лучше понять и надлежащим образом контролировать реализацию этой технологии страховщиками.

NORC отметил, что ряд штатов США начали регулировать ИИ в медицинском страховании, но большинство из них «не могли не отстать от быстрого распространения использования ИИ» и призвал к прозрачности и усилению человеческого контроля над использованием технологии.

Политическая битва далеко не завершена. В январе новая администрация Трампа отменила приказ Байдена, заменив его призывом к новому плану действий к середине года.

Как говорится в анализе юридической фирмы Maynard Nexsen: «Ландшафт ИИ продолжает развиваться, и правила, по-видимому, ослабляются - по крайней мере, на федеральном уровне. Эти изменения привели к неопределенности среди организаций, использующих технологию ИИ».