El nuevo acuerdo de seguridad de la Casa Blanca sobre inteligencia artificial exige a seis importantes empresas tecnológicas que implementen controles internos, auditores externos y supervisión por parte de sus consejos de administración para sus sistemas más avanzados. Sin embargo, no contempla sanciones, organismos reguladores ni un calendario de presentación de informes públicos en caso de incumplimiento. Esta distinción separa un plan de seguridad compartido de una norma federal de obligado cumplimiento y deja la efectividad práctica del acuerdo a merced de la conducta voluntaria de las empresas.
Esa brecha es la cuestión política central que plantea el acuerdo de una página firmado por el presidente Donald Trump y ejecutivos de Google, Anthropic, Meta, OpenAI, xAI y Nvidia. Un análisis de Reuters publicado el sábado no encontró ninguna consecuencia explícita para el incumplimiento, a pesar de que la administración presenta el acuerdo como su respuesta a la creciente preocupación pública sobre la IA avanzada. Trump ha calificado el compromiso de "moralmente vinculante".
El acuerdo es más específico que una promesa general de actuar con responsabilidad. Su marco de cuatro partes exige controles que supervisen las capacidades y la alineación del modelo durante la capacitación y la implementación; un equipo interno encargado de verificar dichos controles; un auditor o evaluador externo independiente; y un comité directivo independiente que reciba informes y garantice que se corrijan los problemas.
Sin embargo, el texto no define qué modelos están cubiertos, no establece plazos, no exige la publicación de los resultados de la auditoría ni identifica quién determina si un evaluador externo es verdaderamente independiente. Indica que las empresas se reunirán periódicamente para establecer estándares y mejores prácticas, y reconoce que las medidas podrían eventualmente codificarse en una ley o reglamento. Por ahora, la participación y el cumplimiento siguen siendo voluntarios.
Una estructura de seguridad sin árbitro
La principal ventaja del acuerdo reside en su estructura por capas. Los controles técnicos internos permiten identificar comportamientos de riesgo durante el desarrollo; un equipo interno independiente puede comprobar la eficacia de dichos controles; un evaluador externo puede cuestionar las suposiciones de la empresa; y los directores pueden exigir medidas correctivas. En principio, esto distribuye la responsabilidad en lugar de dejar la seguridad exclusivamente en manos de los mismos ingenieros que trabajan a contrarreloj para lanzar un producto.
La debilidad radica en que cada nivel aún depende de la cooperación de la empresa. El evaluador externo se selecciona mediante una alianza entre empresas, los informes se remiten a un comité del consejo de administración de la empresa y el acuerdo no crea una oficina federal con facultades para inspeccionar pruebas o imponer medidas correctivas. Según informes de Associated Press desde el evento en la Casa Blanca, incluso algunos participantes consideraban que el mecanismo estaba incompleto. El director ejecutivo de Anthropic, Dario Amodei, afirmó que la tecnología presenta riesgos reales, pero que el método para abordarlos aún está en discusión.
La administración argumenta que las autoridades existentes pueden abordar las malas prácticas y que la regulación podría frenar la innovación estadounidense en comparación con China. Los asesores han señalado la legislación sobre valores y otras herramientas legales como posibles consecuencias cuando las empresas ignoran los problemas. Sin embargo, estas leyes generalmente operan a través de obligaciones legales establecidas y su aplicación posterior; el acuerdo en sí no las amplía ni establece licencias preventivas.
El acuerdo se enmarca en una estrategia voluntaria más amplia
Este enfoque es coherente con la política previa de la administración. Una orden ejecutiva de junio instruyó a las agencias a crear un marco voluntario mediante el cual los desarrolladores pudieran otorgar al gobierno federal acceso anticipado a modelos fronterizos protegidos. La orden aclaró expresamente que no debía interpretarse como la creación de licencias, autorizaciones previas o permisos obligatorios para nuevos modelos.
El marco legislativo nacional de la Casa Blanca también exige una política federal uniforme, medidas contra las estafas facilitadas por la IA y los riesgos para la seguridad nacional, así como menos obstáculos a la innovación. Advierte que las leyes estatales contradictorias podrían socavar la competitividad de Estados Unidos. El resultado es una clara preferencia por la coordinación nacional y los controles privados frente a la revisión federal prescriptiva.
Esa filosofía ahora se enfrenta a una prueba de credibilidad. Una encuesta reciente de Reuters/Ipsos reveló que el 73% de los estadounidenses teme que las empresas de IA no hayan hecho lo suficiente para prevenir graves daños sociales, mientras que el 55% opinó que ralentizar el desarrollo sería positivo. La encuesta no demuestra que los votantes prefieran un modelo regulatorio específico, pero sí muestra que las garantías de la industria por sí solas no han disipado la inquietud pública.
¿Qué haría que la promesa fuera medible?
El acuerdo podría adquirir mayor relevancia sin convertirse de inmediato en un sistema integral de licencias. Los legisladores podrían definir los modelos de vanguardia sujetos a revisión, establecer requisitos mínimos y normas de conflicto de intereses para los evaluadores, exigir resúmenes estandarizados de los resultados de las auditorías, fijar plazos para la subsanación y designar un organismo para recibir pruebas técnicas confidenciales. El Congreso también podría especificar qué incumplimientos generan responsabilidad legal.
Estas decisiones conllevan ventajas e inconvenientes. La divulgación pública puede exponer vulnerabilidades de seguridad o información confidencial. Una lista reducida de auditores autorizados podría generar cuellos de botella y favorecer a las empresas más grandes. Los umbrales del modelo pueden quedar obsoletos rápidamente a medida que cambian los métodos de cálculo. Por lo tanto, una supervisión eficaz requeriría informes confidenciales, experiencia técnica y actualizaciones periódicas, en lugar de una lista de verificación fija.
Por ahora, el acuerdo debe entenderse como un modelo de gobernanza, no como un marco regulatorio. Sitúa la auditoría independiente y la rendición de cuentas del consejo de administración en la agenda política federal y obtiene compromisos por escrito de seis empresas poderosas. No informa al público cómo se verificará el cumplimiento ni qué sucederá si una empresa firmante incumple. La efectividad del acuerdo dependerá menos de sus promesas que de los estándares, la transparencia y la estructura de aplicación que se establezcan posteriormente.
