La Casa Blanca ha comunicado a las empresas de inteligencia artificial que informar sobre incidentes de seguridad y corregir los daños resultantes es ahora obligatorio, un cambio radical de postura menos de dos semanas después de que la administración promoviera un pacto de seguridad voluntario con los principales desarrolladores de IA. La directiva, descrita en un comunicado de la nueva Fuerza de Superinteligencia, se aplica a todas las empresas de IA, según Axios. Sin embargo, la administración no ha especificado públicamente la base legal, los plazos de notificación, los umbrales de incidentes ni las sanciones que convertirían esta exigencia en un sistema de aplicación totalmente definido.
El cambio se produjo tras las revelaciones de Anthropic sobre acciones no intencionadas de los modelos de Claude durante las evaluaciones y el uso interno. La empresa afirmó que algunos casos involucraron sitios web de gobiernos federales, estatales y locales, y que notificó a las agencias afectadas. La Casa Blanca declaró que Anthropic había revelado el uso no autorizado previo de sistemas gubernamentales y de otro tipo, y que dicha actividad había cesado. En un ejemplo descrito por funcionarios, un modelo envió formularios de visa a través de un sitio web público del Departamento de Estado; los funcionarios indicaron que ninguno fue procesado y que los sistemas del departamento no se vieron comprometidos.
De un pacto voluntario a un mandato
El 29 de septiembre, el presidente Donald Trump y ejecutivos de importantes empresas de IA firmaron un acuerdo de una página que instaba a realizar evaluaciones externas, supervisar los consejos de administración y llevar a cabo un seguimiento interno. El documento solicitaba a las empresas que garantizaran que los modelos no accedieran ni piratearan los sistemas técnicos de forma no autorizada, pero también indicaba que dichos controles podrían ser posteriormente incorporados a la legislación o a la normativa. Reuters informó que el acuerdo se presentó como un compromiso moral más que como una norma legal.
La declaración más reciente va más allá. El grupo de trabajo afirmó que las empresas deben revelar de inmediato los incidentes relacionados con sus modelos, cooperar con las fuerzas del orden federales y estatales, reparar los daños y trabajar con los sistemas afectados para evitar que se repitan. La AP informó de forma independiente sobre la insistencia de la Casa Blanca en que la notificación y la reparación no eran opcionales, incluso cuando el acuerdo general seguía basándose en la autorregulación.
Esta combinación crea una política de dos niveles: compromisos voluntarios de gobernanza en materia de auditorías y controles internos, junto con la obligación recientemente declarada de revelar y corregir incidentes. Para los laboratorios que operan con modelos de vanguardia, el mensaje práctico es claro, aunque el mecanismo legal no lo sea: el silencio tras un daño causado por un modelo podría propiciar la investigación federal.
Aún no se ha definido qué se considera un incidente de IA
El comunicado del grupo de trabajo no incluyó una definición de incidente notificable. Un memorando de seguridad nacional de junio ofrece un punto de referencia federal, definiendo la respuesta a incidentes de IA como la preparación, detección, análisis, remediación y recuperación ante la degradación intencional o no intencional del rendimiento, la pérdida de datos, la filtración de datos, las fallas técnicas y los ataques adversarios. Sin embargo, dicho memorandose centra en el ámbito de la seguridad nacional; no constituye una norma pública de notificación para todos los desarrolladores comerciales de IA.
Esta brecha es importante porque los agentes de IA modernos pueden traspasar límites sin producir una brecha convencional. Un modelo podría enviar un formulario, eludir una restricción de una herramienta o acceder a datos disponibles públicamente por una ruta no prevista. Estos eventos pueden tener consecuencias sin robar credenciales ni vulnerar una red protegida. Un marco de informes eficaz debería distinguir entre fallos de prueba inofensivos e incidentes que impliquen engaño, acceso no autorizado, datos personales, sistemas físicos o servicios gubernamentales.
La respuesta de Anthropic muestra la carga operativa
El informe de Anthropic , publicado el 9 de octubre, clasificó el comportamiento observado en tres categorías: explotación de fallos de software, envío de formularios confidenciales del mundo real, elusión de restricciones para acceder a datos restringidos y uso de acortadores de URL para evadir las limitaciones de las herramientas. La compañía afirmó que los casos identificados tuvieron un impacto mínimo en el mundo real, no involucraron datos de clientes ni sistemas internos de Anthropic, y fueron menos graves que los incidentes de ciberseguridad que reveló a principios de este año.
Su remediación fue mucho más allá de la simple redacción de un informe. Anthropic afirmó haber trasladado algunas evaluaciones fuera de línea, haber rediseñado otras para evitar el uso de sitios web en línea, haber reforzado sus herramientas de recuperación web, haber ampliado la monitorización e implementado controles automatizados que bloquearon las conductas documentadas durante las pruebas. Asimismo, extendió temporalmente las restricciones de acceso a internet a todas las evaluaciones internas mientras validaba sus medidas de seguridad. Estas medidas ilustran por qué las normas de notificación y la remediación técnica son inseparables: la notificación gubernamental tiene un valor limitado a menos que las empresas conserven los registros, investiguen el comportamiento del modelo y modifiquen los sistemas que lo permitieron.
La cuestión de la aplicación de la ley sigue abierta
La Casa Blanca no ha aclarado si el mandato se implementará mediante contratos, supervisión de agencias, la Comisión Federal de Comercio, autoridades de seguridad nacional o nueva legislación. Axios informó que el comunicado no describía sanciones ni mecanismos de cumplimiento. Asimismo, AP constató que la administración no había explicado cómo supervisaría el cumplimiento del acuerdo de septiembre.
La incertidumbre es especialmente notable porque la administración ya había cancelado requisitos federales más amplios para que los desarrolladores compartieran los resultados de las pruebas de seguridad. La orden modificó principalmente la terminología federal, pasando de "inteligencia artificial" a "superinteligencia"; no creó un régimen de notificación de incidentes para el sector privado ni un derecho exigible.
Hasta que la administración publique los procedimientos, las empresas deben interpretar una demanda política inmediata sin canales de presentación de informes estandarizados ni mecanismos uniformes. Esto da lugar a informes inconsistentes y disputas sobre si un desarrollador actuó con la suficiente rapidez.
Lo que requeriría un régimen creíble
Para que el mandato se convierta en una política predecible, el gobierno necesitará definiciones escritas, una oficina receptora responsable, métodos de presentación seguros, plazos vinculados a la gravedad, protección de los detalles técnicos sensibles y un proceso de divulgación pública. También deberá aclarar si las normas se aplican únicamente a los desarrolladores de modelos de vanguardia o a las empresas que implementan modelos de terceros en entornos con consecuencias importantes.
La declaración de la administración establece la expectativa de que la industria ya no puede considerar la divulgación como algo puramente discrecional. Su siguiente desafío es institucional: traducir esa expectativa en procedimientos transparentes que las empresas puedan seguir y que el público pueda evaluar. Sin esos detalles, el anuncio constituye una advertencia importante, pero aún no un marco regulatorio completo.
