Esta semana, el Departamento de Salud y Servicios Humanos publicó una normativa integral sobre tecnología de la información sanitaria que establece los primeros requisitos específicos de transparencia del gobierno federal para la inteligencia artificial y otros algoritmos predictivos integrados en la tecnología de la información sanitaria certificada, imponiendo nuevas obligaciones a la tecnología que respalda la atención médica en la mayoría de los hospitales y consultorios médicos de Estados Unidos.
La norma final HTI-1 de la Oficina del Coordinador Nacional de Tecnología de la Información Sanitaria (ONC) se publicó en el Registro Federal el 9 de enero. Dicha norma revisa el Programa de Certificación de TI para la Salud de la ONC, actualiza los estándares de interoperabilidad, modifica las disposiciones sobre el bloqueo de información y crea un nuevo marco de certificación para las "intervenciones de apoyo a la toma de decisiones", incluidos los modelos predictivos que aprenden relaciones a partir de datos de entrenamiento.
La ONC describe las disposiciones sobre algoritmos como requisitos de transparencia sin precedentes. Su alcance es potencialmente amplio: según la agencia, la tecnología de la información sanitaria certificada por la ONC respalda la atención médica que prestan más del 96 % de los hospitales estadounidenses y el 78 % de los médicos que trabajan en consultorios privados.
La norma se centra en la visibilidad más que en la aprobación federal de los algoritmos
HTI-1 no crea un sistema de aprobación previa a la comercialización al estilo de la FDA para cada algoritmo clínico. En cambio, exige que las tecnologías de la información sanitaria certificadas pongan a disposición información básica para que los usuarios puedan comprender cómo se diseñaron, desarrollaron, entrenaron y evaluaron las intervenciones predictivas de apoyo a la toma de decisiones.
La normativa define un sistema de información de salud predictivo (DSI, por sus siglas en inglés) en sentido amplio como una tecnología que respalda la toma de decisiones mediante algoritmos o modelos que derivan relaciones a partir de datos de entrenamiento y generan predicciones, clasificaciones, recomendaciones, evaluaciones o análisis. Esta definición abarca métodos que van desde modelos estadísticos convencionales hasta aprendizaje automático y sistemas de inteligencia artificial más complejos, siempre que operen a través de sistemas de TI de salud certificados.
Un análisis publicado el 9 de enero en la revista HIPAA Journal indica que los requisitos de transparencia están diseñados para ayudar a los profesionales clínicos a evaluar si los algoritmos son justos, apropiados, válidos, eficaces y seguros. Este marco aborda un problema recurrente en la IA aplicada a la atención médica: un modelo puede influir en la atención de un paciente incluso cuando el médico que lo utiliza dispone de información limitada sobre su población de entrenamiento, validación, uso previsto o limitaciones conocidas.
Los desarrolladores deben exponer los atributos de origen y la información de gestión de riesgos
Los nuevos criterios de certificación exigen que los desarrolladores de TI para la salud faciliten el acceso a determinados "atributos de origen" para las intervenciones de apoyo a la toma de decisiones. Estos pueden incluir información sobre el propósito de la intervención, los usuarios previstos, el desarrollo y la validación, los conjuntos de datos, el rendimiento y otras características relevantes para determinar cómo debe utilizarse el modelo.
La norma también exige que los desarrolladores de sistemas informáticos de salud certificados que admiten indicadores predictivos de seguridad del paciente implementen prácticas de gestión de riesgos y hagan pública la información sobre dichas prácticas. El texto del Registro Federal identifica aspectos como la validez, la fiabilidad, la solidez, la equidad, la inteligibilidad, la seguridad y la privacidad.
El bufete de abogados Mintz afirmó en un análisis que la norma representa el primer cambio sustancial en los requisitos de certificación de sistemas de apoyo a la toma de decisiones clínicas de la ONC desde 2012. El objetivo no es garantizar que todos los modelos sean de alta calidad, sino proporcionar suficiente información consistente para que las organizaciones sanitarias y los profesionales clínicos puedan tomar decisiones mejor fundamentadas.
La norma llega en un momento en que la IA generativa acelera la implementación en el sector sanitario
El momento elegido es significativo. Los hospitales, los proveedores de historias clínicas electrónicas y las empresas tecnológicas están incorporando rápidamente capacidades de aprendizaje automático e inteligencia artificial generativa a los flujos de trabajo clínicos y administrativos. Estas herramientas pueden resumir historiales, priorizar pacientes, predecir resultados o recomendar acciones, pero su rendimiento puede variar al aplicarse a poblaciones distintas de las utilizadas para su desarrollo.
Akin Gump describió la HTI-1 como un importante paso federal hacia la regulación de la IA mediante la autoridad ya existente de la ONC sobre las tecnologías de la información sanitaria certificadas. La norma aprovecha la influencia de la certificación en lugar de intentar regular directamente todos los algoritmos sanitarios.
Esa distinción también define los límites de la regla. Un algoritmo ajeno al ecosistema de TI sanitaria certificada podría no cumplir con estos criterios de certificación específicos. Los hospitales y los profesionales clínicos conservan sus propias responsabilidades en materia de gobernanza, validación local y decisión sobre si los resultados del modelo son apropiados para cada paciente.
Las disposiciones sobre IA conllevan cambios en la interoperabilidad
La norma HTI-1 abarca más que la transparencia de los algoritmos. Adopta la versión 3 de los Datos Básicos de Interoperabilidad de Estados Unidos como base para la certificación futura, añadiendo y perfeccionando elementos de datos destinados a apoyar la salud pública, la equidad en salud y un intercambio más estandarizado. La norma también actualiza los requisitos de notificación electrónica de casos y de interfaz de programación de aplicaciones.
Modifica las regulaciones sobre el bloqueo de información e introduce cambios destinados a facilitar el intercambio seguro en el marco del Acuerdo Común y el Marco de Intercambio de Confianza. Healthcare Finance News informó que el Departamento de Salud y Servicios Humanos (HHS) prevé que la combinación de políticas de interoperabilidad y transparencia mejore la capacidad de los médicos para comprender las herramientas algorítmicas, al tiempo que continúa con las reformas más amplias sobre el intercambio de datos contempladas en la Ley de Curas del Siglo XXI.
Por lo tanto, las organizaciones sanitarias se enfrentan a cuestiones de implementación que se superponen: qué información deben revelar sus proveedores de sistemas de historia clínica electrónica, cómo se inventarían las herramientas predictivas, cómo la gobernanza del modelo local utilizará la nueva información y cómo afectan los estándares de interoperabilidad actualizados a las interfaces y los flujos de trabajo existentes.
La transparencia se está convirtiendo en parte de la infraestructura de seguridad clínica
La norma refleja la convicción de que la opacidad algorítmica constituye en sí misma un riesgo para la salud. Un modelo puede generar una puntuación de riesgo numérica o una recomendación que parezca precisa, pero que oculte información importante sobre quiénes participaron en su entrenamiento, con qué frecuencia falla o si su rendimiento difiere entre los distintos grupos de pacientes.
Hooper Lundy señaló que los proveedores deberán comprender las nuevas disposiciones de transparencia de la IA, aunque las obligaciones de certificación recaen principalmente en los desarrolladores de TI para la salud. En última instancia, los usuarios clínicos son responsables de cómo se incorpora la información de apoyo a la toma de decisiones en la atención médica.
La publicación del Registro Federal indicaba el 8 de febrero como fecha de entrada en vigor de la norma, si bien las disposiciones individuales de certificación y estándares tienen sus propios plazos de cumplimiento que se extienden más allá de esa fecha. Por lo tanto, la transición no es un cambio único, sino una serie de modificaciones graduales que afectan a los productos y desarrolladores certificados.
La HTI-1 no resuelve el debate general sobre cómo regular la inteligencia artificial en la medicina. Sin embargo, sí establece un requisito nacional concreto en uno de los canales tecnológicos más extendidos en el sector sanitario. Para un ecosistema de historia clínica electrónica certificado, utilizado por casi todos los hospitales del país, los algoritmos predictivos ya no pueden considerarse únicamente funciones propietarias invisibles. El marco de certificación federal ahora exige que los profesionales clínicos y las organizaciones reciban suficiente información para empezar a preguntarse si dichos algoritmos son justos, apropiados, válidos, eficaces y seguros.
