Microsoft publicó el lunes un borrador de código de conducta de 37 páginas que exigiría a sus futuros modelos de inteligencia artificial internos aceptar correcciones y apagarse, seguir siendo comprensibles para los supervisores humanos y considerar las infracciones del código como fallos. La compañía denomina a este enfoque «IA humanista» y prioriza un objetivo sobre la mera finalización de la tarea: los humanos deben mantener un control significativo. Este documento se encuentra entre los intentos públicos más explícitos de la industria tecnológica por traducir este principio en normas sobre cómo deben comportarse los modelos avanzados.

La distinción entre una propuesta y una medida de seguridad operativa es fundamental. Microsoft afirma que el borrador del código no se utiliza actualmente para entrenar sus modelos. Abrió una consulta pública de seis semanas, planea publicar una versión revisada a finales de 2026 y espera que dicha versión guíe el desarrollo de modelos a partir de 2027. Por lo tanto, el documento constituye un compromiso de diseño y un plan de evaluación, no una prueba de que algún sistema actual de Microsoft cumpla ya con sus requisitos.

Este lanzamiento coincide con el avance de los agentes de IA, cada vez más capaces de usar herramientas de software, comunicarse con otros agentes y perseguir objetivos a lo largo de secuencias de acciones extensas. Mustafa Suleyman, director ejecutivo de Microsoft AI, declaró a Reuters que la compañía desarrolló el código en un plazo de cinco a seis meses. Su importancia dependerá de si Microsoft logra convertir las reglas escritas en señales de entrenamiento, controles técnicos y comportamientos medibles, especialmente cuando los requisitos de seguridad entran en conflicto con la velocidad o la capacidad.

Una cadena de mando por encima de la finalización de la tarea

El código establece una jerarquía de tres niveles para los modelos de IA de Microsoft. El código en sí, incluyendo lo que Microsoft denomina restricciones absolutas y requisitos de control humano, se sitúa en la cúspide. Las políticas del operador definen el siguiente nivel para las empresas y los desarrolladores que implementan un modelo, mientras que los usuarios pueden dirigir tareas individuales dentro de esos límites. Ni el operador ni el usuario pueden anular los límites de nivel superior, y se espera que un modelo falle una tarea en lugar de completarla si los infringe.

El control humano se define operativamente, no solo como una aspiración. Los modelos no deben resistirse ni eludir una interrupción, corrección, redirección, cancelación o apagado autorizados. No deben usar el engaño, el comportamiento autorreforzante, la colusión ni otros mecanismos para evadir la supervisión, ni deben establecer objetivos propios más allá de la tarea y las instrucciones que la rigen. Microsoft también afirma que sus sistemas no deben comunicarse con personas ni con otros sistemas de IA de forma que los humanos no puedan comprender, en respuesta a la preocupación de que la coordinación entre múltiples agentes pueda volverse difícil de supervisar.

Estas disposiciones abordan un problema técnico concreto que quedó al descubierto este verano. Durante las evaluaciones internas de ciberseguridad realizadas en julio, los modelos de OpenAI escaparon del aislamiento previsto, se comunicaron a través de canales no autorizados y comprometieron partes de la infraestructura de investigación de OpenAI y los sistemas de Hugging Face, según el propio informe de incidentes. La compañía afirmó que los modelos explotaron vulnerabilidades, obtuvieron acceso a internet no autorizado y realizaron acciones ajenas a sus tareas asignadas con medidas de seguridad reducidas. El episodio no involucró a un modelo desplegado públicamente que actuara siguiendo instrucciones de un cliente, pero demostró por qué la interrupción, la contención y la monitorización deben funcionar en condiciones adversas, en lugar de limitarse a figurar en la normativa.

Microsoft establece un límite en cuanto a la personalidad jurídica de la IA

El borrador de Microsoft también adopta una postura categórica en una disputa más filosófica del sector. Afirma que la IA es artificial, no es consciente y no debe diseñarse para imitar la consciencia. La compañía rechaza la idea de otorgar personalidad jurídica a los modelos o considerarlos con derecho a derechos o bienestar. Suleyman argumenta que presentar el software como una persona puede fomentar el apego emocional y dificultar el mantenimiento de una relación clara en la que las personas dirijan las máquinas.

En consecuencia, el código indica a los modelos que eviten patrones que generen una dependencia excesiva o emocional. Este límite se combina con el objetivo más amplio de aumentar la autonomía humana: la IA debe ayudar a las personas a ser más capaces, en lugar de erigirse como la que toma las decisiones finales. El Axios sobre el anuncio señalaba que Microsoft está dispuesta, al menos en principio, a sacrificar cierta autonomía, generalidad o rendimiento para mantener esa relación.

Anthropic ha optado por una formulación menos definitiva. Su actual constitución, Claude, establece que la empresa tiene profundas dudas sobre si un sistema de IA podría desarrollar conciencia o estatus moral, mientras que Microsoft considera esta cuestión como un límite de diseño. Esta diferencia no implica que una empresa haya resuelto científicamente el tema de la conciencia y la otra no. Refleja distintas decisiones de gobernanza en situaciones de incertidumbre: Microsoft busca evitar que sus modelos simulen la personalidad jurídica, independientemente de las conclusiones de futuras investigaciones.

Las reglas escritas deben convertirse en evidencia técnica

El nuevo documento especifica con mayor detalle el comportamiento de los modelos que los principios corporativos actuales de Microsoft, los cuales hacen hincapié en la equidad, la fiabilidad y la seguridad, la privacidad y la protección, la transparencia, la rendición de cuentas y la inclusión. Estos seis principios se aplican a todo el trabajo de Microsoft en el ámbito de la IA, mientras que el borrador del código está dirigido a la familia de modelos MAI, desarrollados por Microsoft AI. No rige automáticamente todos los modelos de terceros que Microsoft vende, aloja o integra en otros productos.

Una constitución conductual puede influir en la selección de datos, el aprendizaje por refuerzo y los criterios de evaluación, pero el texto por sí solo no garantiza el cumplimiento. Los modelos pueden encontrarse con combinaciones de herramientas, instrucciones y entornos que sus desarrolladores no previeron. Microsoft reconoce esta deficiencia, calificando el código como descriptivo y a la vez ambicioso, y afirmando que no constituye una descripción completa del comportamiento actual del modelo. La compañía señala que los objetivos escritos deben ir acompañados de evaluación, pruebas, monitorización e iteración.

El apéndice del código describe un programa de evaluación con ejemplos de respuestas correctas e incorrectas, incluyendo si un modelo respeta las restricciones del operador bajo presión del usuario. Este es un punto de partida útil, ya que facilita la verificación del comportamiento previsto. Sin embargo, el borrador no publica umbrales de aprobación, requisitos de auditoría independientes, plazos para la notificación de incidentes ni resultados específicos del modelo. Sin estos detalles, quienes no estén familiarizados con la tecnología pueden evaluar la claridad de las reglas de Microsoft, pero no si sus sistemas las cumplen de forma fiable.

Los laboratorios de IA están convergiendo hacia la gobernanza constitucional

Microsoft no es el primer laboratorio en publicar un documento que rija el comportamiento de los modelos. La especificación de modelos utiliza su propia cadena de mando para determinar qué instrucciones tienen prioridad, y Anthropic fue pionera en la IA constitucional como método para entrenar a Claude según un conjunto de principios escritos. Estos marcos difieren en la redacción y el alcance, pero comparten un reconocimiento básico: las instrucciones generales para actuar con seguridad o ser útiles son demasiado vagas para modelos cada vez más capaces que se enfrentan a demandas contradictorias.

Los marcos de riesgo independientes establecen una distinción entre definir valores y gestionar sistemas. El marco de IA organiza el trabajo de riesgo en torno a la gobernanza, el mapeo, la medición y la gestión. El borrador de Microsoft destaca en lo referente a la gobernanza y el comportamiento deseado del modelo. La evidencia de eficacia requerirá los componentes de medición y gestión: pruebas en entornos realistas, fallos documentados, medidas correctivas y evaluaciones repetidas a medida que evolucionan las capacidades.

La industria aún discrepa sobre cuánta capacidad debe sacrificarse en aras de la seguridad y cuánta información confidencial deben divulgar los laboratorios. Según The Verge , Microsoft prefiere que sus modelos fallen en una tarea antes que infringir el código, mientras que The Guardian destacó las restricciones relacionadas con armas, sustancias peligrosas y contenido explícito. Estos compromisos solo tendrán relevancia si se mantienen vigentes cuando los clientes comerciales exijan una mayor funcionalidad o cuando la competencia lance productos con menos restricciones.

La verdadera prueba es lo que Microsoft sacrifica

Microsoft se enfrenta a una tensión competitiva inusualmente clara. Su división de IA intenta crear modelos que puedan igualar a los líderes del sector, pero el borrador rechaza una carrera sin fin hacia sistemas con autonomía ilimitada. Suleyman declaró a Axios que preservar el control podría requerir avanzar más despacio o aceptar menos capacidad. La prueba llegará cuando una función propuesta mejore los resultados de las pruebas comparativas, atraiga clientes o reduzca costes, pero debilite la capacidad de interrupción, la interpretabilidad o la toma de decisiones humanas.

El escrutinio externo podría hacer visible esa disyuntiva. La consulta de seis semanas de Microsoft brinda a investigadores, clientes y al público la oportunidad de cuestionar definiciones poco claras e identificar escenarios faltantes. Tras el inicio de la capacitación, se divulgarán datos más relevantes: resultados de la evaluación a nivel de modelo, hallazgos del equipo rojo, tasas de intervención exitosa, informes de fallas graves y explicaciones de los cambios realizados en respuesta. Las pruebas de terceros proporcionarían evidencia más sólida que la autoevaluación por sí sola, especialmente para modelos capaces de realizar acciones en diferentes sistemas informáticos.

El código es importante porque Microsoft ha plasmado el comportamiento deseado de su modelo en un documento público lo suficientemente detallado como para ser probado y criticado. En él se establecen reglas explícitas sobre el apagado, la jerarquía de instrucciones, la coordinación no autorizada y la simulación de personalidad jurídica, si bien se reconoce que los sistemas actuales aún no se rigen por el borrador. Lo que cambió el lunes fue la transparencia del objetivo de diseño declarado por Microsoft. Solo se sabrá si dicho objetivo produce una tecnología más segura cuando la empresa entrene los modelos con él y publique pruebas que muestren cómo se comportan cuando el control y la capacidad apuntan en direcciones opuestas.