Trece nuevas leyes de California imponen ahora algunas de las mayores responsabilidades del país en materia de seguridad infantil a las empresas de redes sociales e inteligencia artificial, transfiriendo una parte cada vez mayor de la responsabilidad sobre los entornos digitales de los jóvenes de las familias y las escuelas a las empresas que los diseñan. El gobernador Gavin Newsom firmó el paquete el 10 de septiembre, según un informe de AP sobre las medidas, que restringen las publicaciones interactivas para menores de 16 años, imponen nuevos controles a los chatbots acompañantes, refuerzan la responsabilidad por daños, revisan las normas de verificación de edad y otorgan a las familias mayor autoridad sobre los dispositivos proporcionados por la escuela.
Para los educadores, el paquete es trascendental, aunque la mayoría de sus requisitos recaen sobre las empresas tecnológicas y no sobre los distritos escolares. Las escuelas han dedicado años a intentar regular el comportamiento de los estudiantes en el punto de uso: limitando el uso de teléfonos, filtrando redes, redactando normas de uso aceptable e impartiendo alfabetización mediática. California ahora está probando una premisa diferente: que la arquitectura de un producto puede generar riesgos que no se pueden gestionar únicamente mediante mejores decisiones por parte de los niños, los padres o los profesores.
Las leyes no resuelven las controversias científicas ni constitucionales en torno a la tecnología para jóvenes. Convierten esas controversias en cuestiones de implementación sobre funciones perjudiciales, determinación de la edad, evidencia de auditoría y acceso a comunidades en línea beneficiosas. Dado que California es el estado más poblado y sede de numerosas empresas tecnológicas, las respuestas podrían influir en productos y prácticas escolares mucho más allá de sus fronteras.
Una regla para el diseño, no solo para el tiempo frente a la pantalla
El proyecto de ley 1709 se centra en mecanismos específicos utilizados para mantener la atención, en lugar de establecer un límite de tiempo diario. Su texto legal define las características adictivas, incluyendo las fuentes algorítmicas y la reproducción automática, y prohíbe a las plataformas afectadas ofrecerlas a usuarios menores de 16 años. Una plataforma aún puede permitir que un menor mantenga una cuenta si se eliminan dichas características, una distinción que convierte la ley menos en una prohibición categórica y más en un mandato para rediseñar la experiencia.
Esa distinción separa el acceso a la información de los mecanismos que la recomiendan continuamente. Un feed cronológico, un vídeo solicitado o un mensaje privado pueden presentar riesgos diferentes a los de un flujo interminable personalizado en función de la interacción previa. Por lo tanto, la ley considera el diseño de la interfaz como una variable que puede regularse, no como un contenedor neutral de contenido.
El cumplimiento dependerá de la verificación de edad. Las plataformas deben verificar la edad del usuario antes de ofrecer funciones restringidas, mientras que la legislación relacionada actualiza el sistema estatal para la transmisión de señales de rango de edad desde sistemas operativos o tiendas de aplicaciones. El resumen del proyecto de ley AB 1856 establece que dichas señales solo se solicitarán cuando lo exija la ley, en un intento por evitar que la información sobre la edad se convierta en una herramienta de seguimiento de uso general.
Las disposiciones de aplicación son sustanciales: la Ley AB 1709 autoriza sanciones civiles de hasta 50 000 dólares por menor afectado en caso de infracción intencionada y de 25 000 dólares en caso de infracción por negligencia. Asimismo, crea una comisión asesora con experiencia en pediatría, psicología, tecnología, sociedad civil, ámbito académico y educación primaria y secundaria. Esta estructura multidisciplinaria reconoce implícitamente que la tecnología utilizada por los jóvenes no puede evaluarse únicamente desde la perspectiva de la privacidad, la salud o el aula.
Los chatbots se enfrentan a un estándar diferente
La ley sobre chatbots de acompañamiento adopta un enfoque más detallado, ya que los sistemas conversacionales pueden simular relaciones, retener información y responder de forma privada a un niño durante largos periodos. El Proyecto de Ley del Senado 1119 exige a los operadores que permiten el uso de menores que completen evaluaciones de riesgo documentadas, publiquen políticas de seguridad infantil e implementen protocolos de respuesta ante crisis. Según el texto final, los requisitos básicos entrarán en vigor el 1 de julio de 2027, mientras que las auditorías independientes comenzarán posteriormente.
Los controles predeterminados son inusualmente concretos. Para las cuentas infantiles, la memoria conversacional persistente y las notificaciones push deben estar desactivadas; una sesión continua se limita a una hora y el uso diario a dos horas, a menos que un padre o tutor cambie esta configuración. El sistema debe informar periódicamente que es artificial y no puede afirmar tener conciencia, simular interés romántico, fomentar la dependencia emocional ni indicarle al niño que oculte su uso a sus padres.
La ley también establece límites en cuanto a las funciones relacionadas con la salud mental. Los operadores deben tomar medidas razonables para evitar que los sistemas fomenten la autolesión, los trastornos alimentarios o el consumo de sustancias, y que intenten diagnosticar o tratar a menos que el producto sea un dispositivo médico regulado. Cuando se detecta una amenaza creíble e inminente de autolesión, el operador debe proporcionar acceso a apoyo en crisis o notificar a un padre o tutor legal vinculado, siempre que esto no suponga un riesgo grave.
Una disposición merece especial atención por parte de la educación superior: una institución postsecundaria que ofrece un chatbot acompañante exclusivamente en entornos educativos queda excluida de la definición de operador según la ley. Esta exención no elimina las obligaciones institucionales en materia de privacidad, discapacidad, protección del consumidor o normas profesionales. Significa que las universidades no pueden asumir que el cumplimiento por parte de un proveedor de la nueva normativa sobre chatbots infantiles resuelve automáticamente las cuestiones específicas que plantean las herramientas de orientación académica, los bots de asesoramiento o los sistemas de apoyo estudiantil.
Las escuelas siguen formando parte del sistema de seguridad
El paquete de medidas de California llega en un momento en que las escuelas se están convirtiendo cada vez más en la puerta de entrada a la tecnología, en lugar de ser simplemente un lugar donde aparecen los dispositivos personales. Las nuevas medidas incluyen una mayor autonomía familiar para rechazar los portátiles proporcionados por la escuela, mientras que una propuesta independiente que afecta a los alumnos más pequeños restringiría los dispositivos que deben llevarse a casa y exigiría políticas modelo estatales. Incluso cuando una ley se aplica directamente a las plataformas, los directivos escolares se enfrentarán a sus consecuencias en los procesos de adquisición, la gestión de cuentas, las consultas de los padres y los protocolos de apoyo al alumnado.
El problema práctico radica en la superposición de categorías de productos. Una plataforma de aprendizaje puede incluir mensajería, recomendaciones, IA generativa o personalización sin comercializarse como red social. Un chatbot de uso general puede ser accesible a través del navegador escolar, incluso si el distrito no lo ha licenciado. Los administradores necesitarán inventarios que identifiquen las funciones integradas, ya que el riesgo regulado puede residir en una función añadida después del contrato original.
Las escuelas también se encuentran en la frontera entre la prevención y la respuesta. Si un chatbot comercial alerta a un padre sobre un problema de seguridad, un estudiante podría llegar a la escuela necesitando apoyo inmediato; de lo contrario, un maestro o consejero podría ser el primer adulto en notar su angustia. La Academia Estadounidense ofrece recursos para educadores que enfatizan los hábitos saludables y el contexto, en lugar de un único límite universal de tiempo frente a la pantalla, subrayando que los controles legales no pueden reemplazar las relaciones, el criterio profesional ni el acceso a la atención médica.
La evidencia respalda la necesidad de establecer límites y practicar la humildad
El enfoque de California, centrado en el diseño, refleja preocupaciones legítimas, pero la evidencia no respalda la afirmación simplista de que todo uso de redes sociales causa enfermedades mentales. Un informe federal reveló que hasta el 95 % de los jóvenes de entre 13 y 17 años utilizaban una plataforma social y que más de tres horas diarias se asociaban con el doble de riesgo de sufrir problemas de salud mental, según un estudio longitudinal. El mismo informe destacó que los efectos varían según el niño, el contenido, la actividad y el grado en que el uso interfiere con el sueño, la actividad física o la interacción personal.
La revisión consensuada de las Academias Nacionales también planteó la cuestión en torno a los perjuicios y los beneficios, incluyendo la conexión social, la formación de la identidad y el acceso a la información. Esta complejidad es importante porque el argumento político más sólido no es que toda interacción digital sea peligrosa, sino que los niños no deberían asumir todo el riesgo derivado de sistemas optimizados con escasa evidencia independiente sobre sus efectos en el desarrollo.
Los críticos argumentan que la solución propuesta por California introduce otros riesgos. La Electronic Frontier Foundation sostiene que las definiciones amplias podrían excluir a los jóvenes de comunidades útiles y que la verificación de edad podría requerir la recopilación de datos de identidad confidenciales. El proyecto de ley AB 1709 anticipa parte de esta tensión al encomendar a su comisión asesora el estudio de la privacidad, la precisión, la viabilidad y los efectos en los jóvenes marginados, pero un organismo asesor no puede, por sí solo, evitar la recopilación excesiva de datos ni resolver litigios constitucionales.
Por lo tanto, la implementación será tan importante como la promulgación. Los reguladores deben distinguir entre señales razonables de edad y controles de identidad intrusivos; los auditores deben ser suficientemente independientes para verificar más que solo la documentación; y los informes públicos deben ser lo suficientemente detallados para informar a las familias e instituciones sin exponer los datos de los niños. Si estas condiciones son débiles, un régimen de seguridad podría generar un cumplimiento formal sin alterar la dinámica subyacente del producto.
Conclusiones para el educador
Para los líderes de la educación primaria y secundaria, el paquete de medidas de California convierte la gobernanza de la seguridad digital en un asunto tanto de gestión de productos como de conducta estudiantil. La implicación institucional inmediata es la necesidad de saber qué servicios aprobados contienen feeds personalizados, funciones complementarias, memoria persistente, notificaciones o funciones de verificación de edad, y si estos elementos pueden desactivarse sin eliminar el servicio educativo en sí. Las revisiones de adquisición podrían requerir examinar las evaluaciones de seguridad, los canales de notificación de incidentes, los cronogramas de auditoría y las actualizaciones de los productos, además del precio, la accesibilidad, la ciberseguridad y la adecuación pedagógica.
Para los docentes y el personal de apoyo estudiantil, la legislación aclara que la alfabetización digital sigue siendo necesaria incluso cuando mejoran las medidas de seguridad a nivel de producto. Los estudiantes aún necesitan comprender la persuasión intencionada, los límites del asesoramiento automatizado y la diferencia entre la respuesta de un chatbot y la asistencia humana cualificada. Las instituciones también necesitarán vías de actuación claras cuando la tecnología revele una preocupación relacionada con la autolesión, la explotación o el sufrimiento agudo.
Para los líderes de la educación superior, la exención educativa explícita en la ley de chatbots de acompañamiento exige una lectura atenta en lugar de una actitud complaciente. Las universidades que desarrollan herramientas de asesoramiento, tutoría o bienestar pueden tener menos obligaciones bajo esta ley en particular, pero persisten las mismas preguntas sobre memoria, dependencia, divulgación y revisión humana. El experimento de California será más útil si los educadores consideran el cumplimiento legal como un requisito mínimo y evalúan si cada tecnología promueve un propósito educativo definido sin generar costos evitables en materia de desarrollo, privacidad o seguridad.
