El Parlamento Europeo aprobó por 499 votos a favor, 28 en contra y 93 abstencionessu posición negociadora sobre la Ley de Inteligencia Artificial, acercando así a la Unión Europea al primer marco legal amplio del mundo para la regulación de la inteligencia artificial y añadiendo nuevas obligaciones dirigidas a la creciente generación de sistemas que sustentan ChatGPT y herramientas similares. La votación del 14 de junio establece la posición del Parlamento para las negociaciones con el Consejo de la Unión Europea, que adoptó su propio enfoque en diciembre.
El anuncio del Parlamento indica que los legisladores desean que los sistemas de IA que operan en Europa sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente. Las enmiendas aprobadas mantienen la arquitectura basada en el riesgo de la Comisión, pero amplían las prohibiciones y establecen requisitos específicos de transparencia para los sistemas de propósito general y generativos. El resultado no es una ley definitiva; abre el camino a la negociación interinstitucional que determinará el texto final.
Una ley basada en el riesgo se amplía para dar cabida a la IA generativa
La Comisión Europea propuso por primera vez la Ley de IA en abril de 2021, antes de que la actual oleada de sistemas públicos de IA generativa convirtiera los grandes modelos de lenguaje en una tecnología de uso generalizado. La propuesta se basaba en categorías de riesgo. Algunos usos estarían prohibidos, los sistemas de alto riesgo estarían sujetos a requisitos obligatorios y las aplicaciones de menor riesgo tendrían obligaciones de transparencia menos estrictas.
El Parlamento ha mantenido esa estructura básica, adaptándola a un mercado que cambió rápidamente durante el proceso legislativo. Según la postura adoptada, los proveedores de modelos base tendrían que evaluar y mitigar los riesgos previsibles, cumplir con los requisitos de diseño y documentación, y registrar los modelos que cumplan los requisitos en una base de datos de la UE. Los sistemas generativos tendrían que indicar que el contenido se generó mediante IA, diseñar el modelo para prevenir el contenido ilícito y publicar resúmenes del material protegido por derechos de autor utilizado para la formación.
Estas disposiciones reflejan la dificultad de regular tecnologías que pueden utilizarse en múltiples aplicaciones posteriores. Un modelo entrenado para la generación general de texto puede integrarse posteriormente en servicios de atención al cliente, educación, desarrollo de software, administración sanitaria u otros entornos con perfiles de riesgo muy diferentes. Por consiguiente, el enfoque del Parlamento impone ciertas obligaciones a nivel del modelo, al tiempo que mantiene normas más estrictas cuando un sistema se implementa en un uso de alto riesgo.
Vigilancia biométrica y prácticas prohibidas
El Parlamento también amplió la lista de prácticas que pretende prohibir. El texto restringiría la identificación biométrica remota en espacios públicos y prohibiría ciertas formas de categorización biométrica que utilizan características sensibles. Asimismo, prohibiría la extracción indiscriminada de datos biométricos de internet o de grabaciones de cámaras de videovigilancia para crear bases de datos de reconocimiento facial, una técnica que ha generado preocupación entre los grupos defensores de la privacidad y las libertades civiles.
Los legisladores también se centraron en los sistemas destinados a inferir emociones en las fuerzas del orden, la gestión fronteriza, los lugares de trabajo y las escuelas, así como en las aplicaciones que explotan vulnerabilidades o utilizan ciertas técnicas de puntuación social. Estas disposiciones van más allá de las prohibiciones más limitadas de la propuesta inicial de la Comisión y probablemente serán algunos de los temas que se negocien con mayor intensidad con los Estados miembros.
El enfoque general del Consejo de diciembre de 2022 también respaldó un régimen basado en el riesgo, pero modificó las definiciones y el tratamiento de la IA de propósito general. El Consejo afirmó que su objetivo era garantizar que los sistemas introducidos en el mercado de la UE fueran seguros y respetaran los derechos fundamentales, al tiempo que fomentaba la inversión y la innovación. Las diferencias entre ambas instituciones definen ahora el margen de negociación.
Los sistemas de alto riesgo requieren documentación y supervisión
El núcleo de la legislación sigue siendo su categoría de alto riesgo. Los sistemas utilizados en áreas como infraestructuras críticas, educación, empleo, servicios esenciales, fuerzas del orden, migración y administración de justicia pueden estar sujetos a requisitos en materia de gestión de riesgos, calidad de datos, documentación técnica, mantenimiento de registros, supervisión humana, precisión y ciberseguridad. El Parlamento también desea que los usuarios puedan presentar quejas y recibir explicaciones en determinados casos en los que los sistemas de alto riesgo les afecten materialmente.
El marco normativo es importante porque muchos de los requisitos se aplican antes o durante la entrada de los sistemas en el mercado europeo, y no solo después de que se produzca un daño. Esto genera obligaciones de cumplimiento para desarrolladores e implementadores y proporciona a los reguladores una base para examinar la documentación de los modelos, la gobernanza de datos y la monitorización. Para las empresas tecnológicas, las cuestiones prácticas incluyen determinar qué sistemas pertenecen a qué categoría, quién tiene obligaciones en la cadena de suministro y cómo se aplican las normas cuando terceros adaptan modelos de propósito general.
informes recientes de The Washington Post, la votación se produjo en un momento en que los gobiernos de todo el mundo estaban intensificando sus esfuerzos para comprender y regular los sistemas de IA que mejoran rápidamente. El proceso de la UE está excepcionalmente avanzado, ya que comenzó años antes del actual auge de la IA generativa. Esta ventaja inicial ha permitido a los legisladores pasar de principios generales a obligaciones vinculantes, mientras que otras jurisdicciones siguen centradas en compromisos voluntarios, competencias de las agencias y legislación exploratoria.
Las negociaciones determinarán el saldo final
La siguiente fase es el llamado diálogo a tres bandas entre el Parlamento, el Consejo y la Comisión Europea. Cada institución presenta un texto y un enfoque político diferentes. El reglamento final debe conciliar las restricciones más estrictas del Parlamento con la postura de los Estados miembros y resolver cuestiones técnicas relativas a los modelos de fundación, las designaciones de alto riesgo, las excepciones para la aplicación de la ley y su cumplimiento.
Las actas de la reunión del Consejo de diciembre muestran que los Estados miembros ya habían acordado un mandato de negociación antes de que el Parlamento concluyera su labor. Esto significa que el proceso legislativo cuenta ahora con dos posiciones formales capaces de iniciar las negociaciones finales. Un acuerdo político aún podría requerir meses, seguidos de la redacción legal y un período de transición antes de que la mayoría de las obligaciones entren en vigor.
La legislación también tiene implicaciones más allá de Europa. Las empresas que desarrollan o venden sistemas de IA en el mercado de la UE podrían necesitar establecer procesos de cumplimiento que influyan en los productos ofrecidos en otros mercados. Europa ya ha utilizado el acceso al mercado y la legislación sobre privacidad para moldear las prácticas corporativas globales; los defensores de la Ley de IA esperan que un efecto similar genere expectativas básicas en materia de documentación, transparencia y gestión de riesgos.
Al mismo tiempo, la eficacia de la ley dependerá de definiciones que siguen siendo técnicamente complejas. La inteligencia artificial abarca una amplia gama de sistemas estadísticos y de software, mientras que los modelos básicos pueden evolucionar rápidamente y reutilizarse tras su lanzamiento. Las normas demasiado restrictivas pueden quedar obsoletas; las demasiado generales pueden someter el software común a costosas estructuras de cumplimiento normativo. El texto del Parlamento intenta gestionar esta tensión mediante la jerarquía de riesgos y las obligaciones específicas para los potentes modelos de propósito general.
La revista TIME describió la votación del Parlamento como un paso importante hacia una regulación integral de la IA, sobre todo porque los sistemas generativos habían obligado a los legisladores a revisar una propuesta elaborada antes del lanzamiento público de ChatGPT. La cuestión central ahora pasa de si Europa regulará la IA a definir los límites exactos del régimen final.
La votación de 499 a 28 otorga al Parlamento un sólido mandato de negociación. Si bien no resuelve todas las disputas técnicas o políticas, sí plantea un modelo regulatorio concreto: prohibir un grupo limitado de usos inaceptables, imponer controles a los sistemas de alto riesgo, exigir transparencia a los modelos generativos y crear una estructura de aplicación capaz de abarcar a las empresas de toda la cadena de suministro de IA. Las próximas negociaciones determinarán en qué medida esta estructura se incorpora a la legislación.
