El fundador de Meta expone una filosofía de gobierno para la superinteligencia, comprometiéndose a ofrecer agentes de IA personales gratuitos, supervisión por parte de la junta directiva de las versiones de los modelos y un nuevo fondo para las comunidades de centros de datos.
🎧 Escucha este artículo.
Mark Zuckerberg ha publicado un extenso ensayo filosófico titulado «El futuro es para todos: El camino hacia un futuro positivo para la IA», en el que expone la visión de Meta sobre cómo debería desarrollarse y distribuirse la superinteligencia artificial. El ensayo marca una clara diferencia entre su enfoque y el de otros laboratorios de IA.
El argumento principal: Distribuye el poder, no lo concentres
Zuckerberg estructura su ensayo en torno a lo que denomina la «pregunta fundamental» de la era de la IA: ¿se centralizará la superinteligencia en manos de unas pocas instituciones o se distribuirá como una herramienta que empoderará a todos? Rechaza la idea de que la seguridad requiera concentrar el poder de la IA en un pequeño número de actores «ilustrados», argumentando que la historia demuestra que el poder concentrado y sin control rara vez produce buenos resultados. En cambio, propone una filosofía de tres pilares: el empoderamiento individual como fuente de prosperidad, la invención (no la automatización) como propósito principal de la IA, y un «equilibrio de poder» competitivo, similar a los controles y equilibrios democráticos, como verdadero fundamento de la seguridad.
Critica directamente la retórica catastrofista común entre otros desarrolladores de IA, afirmando que es incoherente advertir que la IA destruirá empleos y la relevancia humana mientras se sigue compitiendo por construirla, y califica de "intrínsecamente problemática" la idea de que la seguridad de la IA requiere una concentración extrema de poder
Lo que Meta realmente está construyendo
El ensayo enumera varios compromisos concretos que Meta afirma estar persiguiendo:
• Un agente de IA personal para todos: un asistente disponible las 24 horas del día, los 7 días de la semana, que comprende tus objetivos, gestiona tu salud, carrera, finanzas, relaciones y aficiones, con una sólida privacidad de extremo a extremo (comparable al cifrado de WhatsApp) para que ni siquiera Meta pueda acceder a tus datos. Sería utilizable en todos los dispositivos, incluidas las gafas inteligentes.
• Herramientas de creación para la gente común: Zuckerberg cita a su hija de 8 años programando y produciendo vídeos que antes requerían habilidades profesionales, enmarcándolo como "superpoderes de invención" para todos.
• Una economía más emprendedora: con la IA reduciendo el coste de iniciar negocios, predice más empresas, mayor crecimiento económico y, contrariamente a los temores, más empleo a largo plazo, no menos.
• Tutoría personalizada gratuita de nivel doctoral para cualquier persona, destinada a igualar las oportunidades entre estudiantes cuyas familias pueden y no pueden permitirse tutores privados.
• Aceleración científica, incluyendo modelos biológicos de código abierto del Chan Zuckerberg Biohub orientados al descubrimiento de fármacos, con Zuckerberg reiterando su objetivo y el de Priscilla Chan de ayudar a "curar o prevenir todas las enfermedades este siglo".
• Acceso gratuito o a bajo coste, con un sistema de subastas dinámico destinado a garantizar el precio más bajo posible para el acceso informático de pago.
Afrontando los riesgos de frente
En lugar de eludir los peligros de la IA, Zuckerberg los aborda de frente:
• Empleos: Argumenta que no existe ninguna regla que obligue a la automatización a superar el desarrollo de las habilidades humanas, y predice que surgirán nuevas categorías laborales (como “biólogos personales” o “creadores de mundos”), haciendo eco de transiciones tecnológicas pasadas.
• Centros de datos y comunidades: Meta está lanzando un “Fondo El Futuro Es Para Todos” vinculado a un modelo de “Pacto Comunitario”. Como ejemplo, cita a Richland Parish, Louisiana, donde, según se informa, los maestros recibieron bonos de $50,000 este año provenientes de los ingresos fiscales vinculados a un centro de datos de Meta, además de un nuevo programa de capacitación “Academia de la Fuerza Laboral de Estados Unidos” para trabajadores de oficios. Meta también se compromete a construir su propia infraestructura energética y a ser “agua positiva”, lo que significa que restaurará más agua de la que usa, para 2030.
• Ciberseguridad y bioterrorismo: Argumenta que la amplia distribución de capacidades de IA defensiva hace que los sistemas sean más seguros en general, y propone que los laboratorios de vanguardia compartan puntos de control de entrenamiento de modelos intermedios con el gobierno de EE. UU. para que los funcionarios puedan fortalecer la infraestructura crítica con anticipación, en lugar de esperar a su lanzamiento público.
• Extralimitación gubernamental: Promete un modo totalmente privado para agentes de IA personales al que ni siquiera Meta puede acceder, presentado como una salvaguarda contra la vigilancia y la tiranía.
• Competencia entre EE. UU. y China: Zuckerberg afirma que la IA es "probablemente la industria más competitiva de la historia", advierte que incluso un retraso de un mes en los lanzamientos podría ceder terreno a rivales geopolíticos y argumenta que EE. UU. debe desarrollar más rápidamente la capacidad de energía y centros de datos (señalando que China, según se informa, está poniendo en marcha más de 1 gigavatio de capacidad nuclear cada dos semanas) mientras continúa con los controles de exportación de chips a laboratorios extranjeros.
• Riesgo existencial/de superinteligencia: Argumenta en contra de cualquier "superinteligencia benevolente" única, y en su lugar aboga por muchos sistemas de IA competitivos alineados con los objetivos de los usuarios individuales, no con los valores de una empresa o gobierno, como la verdadera salvaguarda.
Un compromiso de gobernanza
En particular, Zuckerberg afirma que Meta otorgará a su junta directiva independiente la autoridad para aprobar los criterios de seguridad para la publicación de modelos de IA y para revisar si las publicaciones cumplen con dichos estándares, lo que supone un control sobre su propia autoridad como CEO controlado por el fundador. También confirma que Meta reanudará la publicación de modelos de IA de código abierto "pronto" ahora que Meta Superintelligence Labs está operativo, posicionando el código abierto como esencial para evitar que el poder de la IA se concentre en un puñado de empresas o gobiernos.
