Moonshot AI afirma haber reducido deliberadamente las capacidades de ciberseguridad ofensiva de su nuevo modelo Kimi K3.1 Pro antes de su lanzamiento oficial sin restricciones de peso, creando así una prueba real para comprobar si un desarrollador de IA puede preservar la capacidad de codificación útil al tiempo que limita las funcionalidades que podrían adaptarse para el pirateo informático.

La empresa de Pekín anunció el sábado que eliminó material cibernético de ciertas partes de los datos de entrenamiento y los entornos de aprendizaje por refuerzo del modelo. En su comunicado, indica que los pesos completos —los parámetros numéricos que permiten a terceros ejecutar y modificar el modelo— se publicarán antes del 4 de noviembre. Reuters informó que los resultados internos de la empresa no han sido verificados de forma independiente, lo que supone una limitación importante para las conclusiones que se pueden extraer antes de que investigadores externos prueben el modelo.

Moonshot utilizó datos de entrenamiento como control de seguridad

Moonshot afirmó haber observado un aumento en el rendimiento de la investigación de vulnerabilidades al dedicar más recursos computacionales posteriores al entrenamiento a Kimi K3.1 Pro. La compañía atribuyó parte de este incremento al material cibernético integrado en su corpus de entrenamiento más amplio y a las tareas de ciberseguridad en su modelo de aprendizaje por refuerzo. Posteriormente, eliminó el contenido relacionado con la ciberseguridad de ambas etapas, manteniendo las tareas de codificación generales.

En la evaluación interna xdev-bench-hard de Moonshot, un punto de control sin filtrar resolvió el 90,5 % de los problemas de detección y explotación de vulnerabilidades en tres intentos. La versión de lanzamiento obtuvo un 81,0 %, mientras que su predecesor, Kimi K3, obtuvo un 33,3 %. Estas cifras sugieren que la intervención redujo la capacidad en comparación con lo que podría producir el mismo proceso de entrenamiento, pero también demuestran que el modelo final siguió siendo mucho más capaz que su predecesor. El benchmark, la selección de pruebas y las comparaciones fueron creados o recopilados por Moonshot, por lo que los porcentajes deben interpretarse como evidencia de la empresa y no como una medición independiente.

Los pesos abiertos modifican el cálculo del riesgo

Los servicios de IA alojados pueden supervisar las solicitudes, restringir el acceso, actualizar las medidas de seguridad y suspender a los usuarios que abusen de ellas. Los modelos abiertos ofrecen a los usuarios mayor control y privacidad, pero el desarrollador pierde muchas de esas herramientas de control una vez que los archivos se descargan y redistribuyen. Un análisis más amplio indica que los principales modelos abiertos se quedaron rezagados en cuanto a capacidad cibernética con respecto a los principales modelos cerrados en tan solo cuatro a siete meses, reduciendo una brecha que había sido de seis a diez meses durante gran parte de 2025.

Esa distinción hace que las decisiones de Moonshot previas al lanzamiento sean trascendentales. El filtrado del material de entrenamiento puede influir en la capacidad incorporada a los pesos originales, mientras que los mensajes de rechazo habituales o la monitorización del servidor pueden eliminarse o eludirse después del lanzamiento. Una revisión independiente de la versión anterior de Kimi K2.5 advirtió que las medidas de seguridad de los pesos abiertos podían eliminarse mediante un ajuste fino económico y que los pesos publicados no se pueden recuperar ni parchear de forma centralizada. Ese estudio fue preliminar y examinó un modelo diferente, pero respalda la preocupación general de que los controles de capacidad previos al lanzamiento son más importantes cuando el control posterior al lanzamiento es limitado.

Las evidencias externas abogan por la cautela, no por la certeza

Los evaluadores gubernamentales ya habían probado los modelos de Moonshot, lo que proporcionó una base útil, aunque sin validar la nueva versión. En una evaluación conjunta, el instituto británico y el Centro de Estándares e Innovación de IA de EE. UU. descubrieron que Kimi K3 se quedaba atrás de los modelos cerrados más robustos en el desarrollo de exploits y en un ataque de red simulado de 32 pasos. No obstante, Kimi K3 intentó realizar operaciones ofensivas durante las pruebas, y los evaluadores recalcaron que sus resultados eran preliminares y abarcaban un conjunto limitado de parámetros de referencia.

Kimi K3.1 Pro es un sistema más nuevo y potente, por lo que la evaluación anterior no permite determinar su seguridad. Moonshot afirma que el modelo filtrado aún se basa en sistemas propietarios disponibles públicamente desde hace al menos tres meses. Tras la publicación de los pesos, será necesario realizar pruebas independientes para comprobar si la reducción se mantiene en otras tareas de desarrollo de exploits, cadenas de ataque más largas y versiones modificadas del modelo.

China también está avanzando hacia los controles de exportación

La decisión de la empresa se produce en un momento en que las autoridades chinas están considerando restricciones a la exportación de algunas tecnologías de IA. El Ministerio de Comercio de China declaró oficialmente que las revisiones propuestas abarcarían tecnologías sensibles y exigirían el registro previo a la exportación durante el período de consulta. El borrador incluye controles relacionados con la detección de vulnerabilidades asistida por IA y la generación de código malicioso, áreas estrechamente vinculadas a los riesgos descritos por Moonshot.

Las normas de exportación propuestas siguen sujetas a consulta pública y son independientes de la decisión de Moonshot sobre la formación voluntaria. Sin embargo, en conjunto, evidencian dos formas de gestión de riesgos que surgen en torno a la IA china avanzada: el control gubernamental sobre algunas transferencias de tecnología y las decisiones de los desarrolladores sobre qué capacidades incluir en los pesos publicados abiertamente.

El lanzamiento del 4 de noviembre será la verdadera prueba

Kimi K3.1 Pro ya está disponible a través de los productos alojados y la interfaz de programación de aplicaciones de Moonshot, pero la compañía afirma que los pesos descargables estarán disponibles antes del 4 de noviembre. Este lanzamiento permitirá a evaluadores independientes reproducir o cuestionar los resultados internos, comparar el modelo con otros sistemas abiertos y probar con qué facilidad el ajuste fino restaura la capacidad que Moonshot intentó suprimir.

Por lo tanto, el resultado principal es provisional. Moonshot ha revelado una intervención concreta, ha informado de una reducción cuantificable y ha reconocido que una codificación general más robusta sigue teniendo repercusiones en las tareas cibernéticas. Que este enfoque reduzca significativamente el riesgo de uso indebido dependerá de la evidencia recopilada fuera de la empresa y de si las versiones modificadas conservan la reducción una vez que ya no se pueden recordar los pesos.