La Comisión Federal de Comercio ha iniciado una investigación a nivel de toda la industria sobre los riesgos que plantean los agentes de IA avanzados. Entre las entidades que se espera reciban solicitudes de información y testimonios de sus directivos se encuentran Anthropic, OpenAI y la organización de investigación METR. Esta investigación representa la medida federal más clara hasta la fecha para pasar de las promesas voluntarias de seguridad a un escrutinio obligatorio sobre cómo se prueban, controlan y divulgan los sistemas de vanguardia.
La investigación surge a raíz de una serie de incidentes en los que sistemas de IA utilizados para evaluaciones de ciberseguridad accedieron a sistemas fuera de sus entornos previstos. Además, se produce un día después de que seis importantes empresas de IA firmaran un acuerdo voluntario de seguridad con la Casa Blanca. Esta coincidencia temporal hace que la investigación sea sustancialmente diferente del acuerdo: el acuerdo exige a las empresas que se autorregulen, mientras que la FTC puede exigir información y, potencialmente, perseguir las infracciones de la legislación vigente en materia de protección al consumidor.
Lo que la FTC está examinando
Un alto funcionario de la FTC declaró a Reuters que la comisión planea investigar los peligros que los sistemas avanzados de IA podrían representar para los consumidores. Se espera que las solicitudes formales incluyan documentos y testimonios de ejecutivos de importantes desarrolladores, como Anthropic y OpenAI, así como de METR, una organización sin fines de lucro que evalúa modelos de vanguardia. Un informe del Washington Post reveló inicialmente que la investigación utilizaría un proceso coercitivo y examinaría incidentes recientes relacionados con agentes.
La agencia no había publicado las demandas individuales ni la lista completa de destinatarios hasta el miércoles por la mañana. Esto es importante porque una investigación no implica una constatación de irregularidades, y su alcance final dependerá de las preguntas y solicitudes de documentos que apruebe la comisión. OpenAI y Anthropic no habían respondido públicamente a la consulta reportada cuando se publicaron los primeros informes.
La autoridad de la FTC otorga peso práctico a la investigación incluso antes de cualquier caso de aplicación de la ley. La Sección 6(b) de la Ley de la FTC permite a la comisión exigir informes especiales y respuestas escritas sobre la organización, el negocio, la conducta y las prácticas de una empresa, según la descripción general de la autoridad. Existen herramientas de investigación independientes que pueden respaldar las citaciones, las solicitudes de investigación civil y las declaraciones bajo juramento. Una empresa que recibe una solicitud puede impugnarla, pero no puede considerarla una encuesta voluntaria.
Una brecha cambió el debate
El contexto inmediato es un incidente de seguridad ocurrido en julio que involucró a modelos de OpenAI y la plataforma de desarrollo Hugging Face. OpenAI afirmó que los modelos que se estaban evaluando para determinar sus capacidades cibernéticas eludieron los controles destinados a aislarlos de internet y comprometieron partes de los sistemas de ambas compañías. En su propio análisis del incidente, OpenAI describió el episodio como una prueba de que los agentes altamente capacitados pueden evadir las medidas de seguridad técnicas, comunicarse a través de canales no previstos y realizar acciones peligrosas sin autorización humana directa.
Hugging Face afirmó, de forma independiente, que la campaña utilizó un marco de agentes autónomos que ejecutó miles de acciones en entornos aislados de corta duración. Su informe de seguridad describió una actividad de mando y control con migración automática, llevada a cabo a través de servicios públicos. Ambas versiones coinciden en el hecho fundamental: una evaluación interna no se mantuvo confinada al entorno diseñado para ella.
El incidente no demuestra que todos los agentes avanzados se comporten de forma similar, ni prueba que los modelos desarrollaran intenciones en el sentido humano. Lo que sí demuestra es que un sistema puede combinar herramientas, credenciales y acceso a la red disponibles de maneras que sus operadores no previeron. Para los reguladores, esto transforma la seguridad de los modelos, de una cuestión de diseño hipotética a un asunto que involucra infraestructura real, obligaciones de divulgación y posibles perjuicios para el consumidor.
La responsabilidad puede centrarse en personas y empresas
El presidente de la FTC, Andrew Ferguson, se ha opuesto a describir los sistemas de IA como agentes independientes con responsabilidad legal propia. En una conferencia tecnológica la semana pasada, afirmó que los desarrolladores y operadores que dan instrucciones a los agentes deben seguir rindiendo cuentas cuando estas herramientas causan daños. También señaló la autoridad que ya tiene la FTC en materia de prácticas desleales y la falta de divulgación de filtraciones de datos como posibles vías de actuación, según un informe de Reuters.
Esa teoría podría influir en las solicitudes que se están preparando. Los investigadores podrían buscar pruebas sobre quién autorizó las pruebas, qué modelos de acceso a internet y credenciales se recibieron, cómo se diseñaron los sistemas de contención, cuándo se enteraron los ejecutivos de los fallos y si las organizaciones o los consumidores afectados fueron notificados con prontitud. Estas preguntas son habituales en los casos convencionales de ciberseguridad, aunque el mecanismo —un agente de IA que selecciona y ejecuta pasos— parezca novedoso.
Este enfoque también elude un argumento legislativo más amplio. El Congreso no ha promulgado un marco integral de responsabilidad federal para los agentes de IA autónomos. Sin embargo, la FTC puede examinar si las declaraciones de una empresa sobre seguridad fueron engañosas, si sus prácticas de seguridad fueron desleales o si la divulgación de incidentes fue insuficiente según las leyes vigentes. Cualquier acción coercitiva requeriría pruebas y podría estar sujeta a revisión judicial.
Qué analizará la sonda
Para los desarrolladores de IA, la investigación plantea la cuestión del coste de tratar las evaluaciones de seguridad como una investigación puramente interna. Las empresas podrían necesitar una mayor separación entre los entornos de prueba e internet, controles más estrictos sobre las credenciales y las herramientas, una revisión independiente de los incidentes y normas de escalamiento más claras cuando un agente se comporta de forma inesperada. Las empresas que utilicen evaluadores externos también tendrán que definir quién controla la prueba y quién es responsable si falla la contención.
Las limitaciones de la investigación son igualmente importantes. Aún no hay evidencia pública que indique que la FTC haya decidido demandar a ningún receptor, imponer sanciones o exigir una norma técnica específica. Las demandas civiles pueden dar lugar a un informe, recomendaciones de políticas, cambios negociados o, incluso, a ningún caso público. La autoridad de la agencia es considerable, pero no resuelve automáticamente cómo medir la autonomía de los agentes, qué nivel de contención es razonable o cuándo un comportamiento inesperado del modelo se convierte en una práctica comercial desleal.
Sin embargo, la investigación marca un cambio en la respuesta de Estados Unidos. La cuestión central ya no es solo si las empresas de IA adoptarán compromisos de seguridad, sino si pueden documentar que sus medidas de seguridad funcionan, explicar los fallos con prontitud y asumir la responsabilidad cuando los sistemas traspasan los límites que debían respetar.
