Connecticut exigirá la revisión humana antes de que la inteligencia artificial pueda tomar decisiones desfavorables sobre los planes de salud de más de 270 000 empleados públicos, jubilados y trabajadores municipales participantes. Estas medidas de protección, anunciadas por el Contralor Sean Scanlon el 16 de septiembre, se aplican al Plan de Salud para Empleados Estatales y al Plan de Asociación de Connecticut y entrarán en vigor el 1 de enero de 2027, según la política estatal y un informe independiente de CT Mirror .
La regla fundamental es clara: ningún sistema de IA puede tomar una decisión desfavorable por sí solo. Debe ser revisada por una persona. Las aseguradoras tampoco pueden usar IA ni modelos predictivos de forma aislada para reclasificar una reclamación, reducir el pago a un proveedor o modificar un código de facturación. Esta política no elimina la automatización de la administración rutinaria de reclamaciones; preserva los procesos contractuales y automatizados autorizados, al tiempo que establece un control humano para las decisiones que puedan reducir la atención o el pago.
Esa distinción es importante porque el estado está regulando sus propias relaciones de compra en lugar de prohibir una tecnología en todo el mercado de seguros de Connecticut. Los planes públicos utilizan varios administradores: Anthem gestiona los beneficios médicos para los trabajadores activos, Cigna administra la cobertura dental, Aetna gestiona el plan Medicare Advantage para jubilados y Caremark es el administrador de los beneficios farmacéuticos, según los informes. Scanlon afirmó que los administradores aceptaron los nuevos requisitos tras las negociaciones.
Privacidad, divulgación y auditorías
La política también prohíbe que los datos de los miembros se utilicen para entrenar, desarrollar o respaldar otros modelos de IA. Las aseguradoras y los proveedores deben informar a los miembros cuando la IA contribuya de manera sustancial, participe directamente o recomiende un beneficio o servicio de salud. Los sistemas de IA deben someterse a pruebas con datos históricos para garantizar su precisión, coherencia y equidad, y las aseguradoras deben divulgar sus procedimientos de gobernanza y auditoría al interventor. La cobertura de la radio pública WSHU confirmó de forma independiente los requisitos de revisión humana, privacidad, divulgación y auditoría.
Para los pacientes, el efecto práctico es el derecho a la intervención humana cuando un algoritmo contribuye a una decisión de cobertura desfavorable en el marco de estos planes estatales. Para los médicos, se aplica el mismo principio cuando las herramientas automatizadas reducen el pago o modifican la codificación. La política no garantiza que un revisor humano revierta una recomendación inicial, pero impide que el resultado de una IA sea la última palabra. Además, crea un registro de supervisión al exigir a los administradores que documenten cómo se gestionan y controlan sus sistemas.
El alcance es considerable, pero no universal. Las normas cubren los dos planes supervisados por el contralor, no a todos los residentes de Connecticut. Scanlon afirmó que planea solicitar a los legisladores en la sesión de 2027 que extiendan protecciones similares a todos los planes de salud regulados por el estado. Aproximadamente 220 000 personas obtienen cobertura a través de ese mercado, mientras que muchos planes autofinanciados de grandes empresas siguen bajo la autoridad federal en lugar de la estatal, según CT Mirror.
La Sociedad Médica Estatal de Connecticut respaldó la medida, argumentando que las denegaciones y la reclasificación automáticas no deben sustituir el criterio clínico. Un informe independiente de Becker’s confirmó que la política abarca a más de 270 000 miembros y mantiene los protocolos de reclamaciones automatizadas autorizados. Por lo tanto, la política funciona como una norma de compra a corto plazo y como modelo para un debate legislativo más amplio el próximo año.
