UnitedHealthcare enfrenta una batalla legal por un modelo de inteligencia artificial defectuoso que niega los reclamos médicos de las personas mayores

En una impactante revelación que podría tener implicaciones de gran alcance para la industria de la salud, UnitedHealthcare está bajo intenso escrutinio en Minnesota mientras enfrenta una demanda que alega que habitualmente negaba reclamaciones de atención médica mediante el uso de un modelo de inteligencia artificial defectuoso. Presentada en nombre del patrimonio de dos personas mayores, la demanda alega que UnitedHealthcare, tras la adquisición de Navihealth en 2020, utilizó un sistema de inteligencia artificial con una alarmante tasa de error del 90%, lo que llevó al rechazo indebido de reclamaciones de atención médica para pacientes ancianos inscritos. en los planes Medicare Advantage.

El algoritmo defectuoso de UnitedHealthcare

El presunto uso indebido del modelo nH Predict AI por parte de UnitedHealthcare está en el centro de la demanda. La denuncia, redactada por el bufete de abogados Clarkson, alega que este sistema de inteligencia artificial, que supuestamente tiene una tasa de error del 90%, ignora constantemente las recomendaciones de los médicos sobre la atención posaguda médicamente necesaria para los adultos mayores.

La demanda señala que el modelo nH Predict AI produce recomendaciones de atención genéricas que no tienen en cuenta las necesidades matizadas e individualizadas de los pacientes. Aún más preocupante es que se alega que el modelo de IA entra en conflicto intencionalmente con las reglas de cobertura de Medicare Advantage, al servicio de los intereses financieros de UnitedHealthcare. Para mantener el cumplimiento, la demanda sugiere que UnitedHealthcare implementó una directiva que ordenaba a sus empleados no desviarse de las predicciones generadas por el modelo de IA, imponiendo medidas disciplinarias a quienes desafían esta directiva.

Impacto en el cuidado de personas mayores y consecuencias de los residuos generados por la IA

En el intrincado ámbito de los planes Medicare Advantage, las personas que experimentan una estadía de tres días dentro de los muros del hospital generalmente se encuentran con la perspectiva de disfrutar de las comodidades de un hogar de ancianos durante un período encomiable de hasta 100 días. Sin embargo, el argumento esgrimido por la demanda parte de que el modelo nH Predict AI, con su discernimiento digital, limita audazmente este derecho, reduciendo injustificadamente la estancia a sólo 14 días. Esta supuesta transgresión, como se describe en la demanda, marca una desviación de las reglas establecidas y las disposiciones previstas integradas en el marco general de Medicare Advantage.

Además, la demanda establece que cuando las denegaciones de solicitudes de pacientes se apelan internamente o se presentan ante un juez de derecho administrativo federal, un asombroso 90 % de las determinaciones del modelo nH Predict AI se anulan. Esta estadística plantea serias dudas sobre la precisión y confiabilidad de la toma de decisiones basada en IA. Pinta un cuadro de un sistema que carece de revisión humana, lo que socava aún más la credibilidad del proceso de denegación de UnitedHealthcare.

La denuncia destaca la falta de transparencia en torno al modelo nH Predict AI. La denegación de las solicitudes de los pacientes, en apelación, sería revocada, lo que indica una falla fundamental en el proceso de toma de decisiones. Además, la demanda alega que estas determinaciones no se comunican a los médicos de los pacientes, lo que genera preocupaciones sobre la opacidad y la responsabilidad del proceso de denegación.

Exponiendo las oscuras realidades del defectuoso modelo de IA de UnitedHealthcare

A medida que se desarrolla la batalla legal, el profundo impacto de un modelo de IA defectuoso en el panorama sanitario se vuelve cada vez más claro. La demanda alega que el uso por parte de UnitedHealthcare del modelo nH Predict AI no solo pone en peligro el bienestar de las personas mayores, sino que también plantea preguntas más amplias sobre la responsabilidad y la transparencia de las decisiones impulsadas por la IA en la atención médica . Navegar por la intersección de la tecnología y la atención médica plantea una pregunta crítica: ¿Cómo puede la industria encontrar un equilibrio entre la innovación tecnológica y el imperativo de garantizar la máxima atención y equidad para nuestras personas mayores?