Esta semana, la Corte Suprema analizó los fundamentos legales de las redes sociales modernas, al escuchar los argumentos sobre si la Sección 230 de la Ley de Decencia en las Comunicaciones protege a Google cuando los sistemas de recomendación de YouTube sugieren automáticamente videos a los usuarios. El caso, González contra Google, es la primera vez que la Corte considera directamente el alcance de la ley de 1996 que ha configurado la responsabilidad de las plataformas en línea durante más de un cuarto de siglo.
La disputa surge a raíz de los atentados del Estado Islámico en París en 2015, en los que murió Nohemi González, una estudiante estadounidense de 23 años. Su familia argumenta que los algoritmos de recomendación de YouTube fueron más allá de simplemente alojar contenido de terceros, al conectar activamente a los usuarios con vídeos del Estado Islámico. Google sostiene que las recomendaciones forman parte de las funciones editoriales habituales, protegidas por la Sección 230. La transcripción de la vista oral muestra a los magistrados analizando repetidamente dónde se puede trazar una línea legalmente significativa entre organizar contenido y crearlo.
Un estatuto redactado antes de las fuentes algorítmicas
La Sección 230 establece, en términos generales, que un servicio informático interactivo no puede considerarse editor ni emisor de información proporcionada por otro proveedor de contenido. El Congreso la promulgó en 1996, mucho antes de que los sistemas de recomendación se convirtieran en elementos centrales de las redes sociales y las plataformas de video. El expediente del caso González contiene una amplia gama de alegatos que debaten si la clasificación algorítmica es simplemente la versión contemporánea de la selección editorial o una función de producto independiente que puede quedar fuera del ámbito de aplicación de la ley.
Durante la audiencia del martes, los magistrados expresaron su preocupación de que la norma propuesta por cualquiera de las partes pudiera tener consecuencias que trasciendan YouTube. Los motores de búsqueda, los mercados en línea, las redes sociales, los canales de noticias e incluso los menús básicos de los sitios web utilizan sistemas automatizados para clasificar o recomendar contenido. Una norma que establezca que la recomendación en sí misma elimina la protección de la Sección 230 podría exponer a las plataformas a un volumen mucho mayor de litigios cada vez que el contenido de terceros contribuya a un presunto perjuicio.
El gobierno federal adoptó una postura intermedia. En su escrito de amicus curiae, el Departamento de Justicia argumentó que la Sección 230 no protege categóricamente todas las recomendaciones simplemente porque se refieran a contenido de terceros, pero también rechazó una norma que automáticamente ilegalizaría la clasificación o recomendación ordinaria. El gobierno instó al Tribunal a distinguir entre las demandas que buscan responsabilizar a una plataforma como editora y las demandas dirigidas a la propia conducta de la plataforma.
La cuestión del algoritmo resulta difícil
El desafío práctico se hizo evidente cuando los jueces solicitaron ejemplos a los abogados. Una plataforma debe utilizar algún mecanismo para determinar qué aparece primero, qué se agrupa y qué ve el usuario a continuación. Las listas alfabéticas, los feeds cronológicos y la clasificación personalizada implican reglas para presentar la información. La cuestión es si una recomendación personalizada comunica algo atribuible de forma independiente a la plataforma o si simplemente muestra material de terceros según un proceso editorial automatizado.
La grabación de audio del tribunal refleja una notable cautela por parte de los magistrados. Varios cuestionaron si la teoría de los demandantes podía limitarse al contenido terrorista dañino, en lugar de extenderse a toda la internet. Otros pusieron en duda la postura de Google de que las recomendaciones siempre están protegidas cuando el elemento original fue creado por otra persona.
El caso se sigue de cerca porque los tribunales inferiores generalmente han interpretado la Sección 230 de forma amplia, desestimando con frecuencia las demandas que buscan responsabilizar a las plataformas por alojar, organizar o recomendar contenido generado por los usuarios. Una interpretación más restrictiva de la Corte Suprema no determinaría por sí sola la responsabilidad final de Google por el ataque de París, pero podría permitir que más demandas avancen más allá de una moción inicial de desestimación y lleguen a la fase de descubrimiento de pruebas.
Un segundo caso centra la atención en la legislación antiterrorista
Un día después del caso González, el Tribunal escuchó el caso Twitter contra Taamneh, una disputa relacionada que podría determinar si es necesario siquiera abordar la cuestión del artículo 230. El argumento de Taamneh se refiere a la Ley Antiterrorista y a si las empresas de redes sociales pueden ser consideradas responsables de ayudar e instigar el terrorismo debido a que las organizaciones terroristas utilizaron sus servicios, ampliamente disponibles.
El expediente de Taamneh plantea una cuestión fundamental distinta: ¿qué significa que una empresa preste "a sabiendas" "asistencia sustancial" a un acto de terrorismo internacional cuando la misma plataforma se ofrece a miles de millones de usuarios comunes? Si el Tribunal concluye que los demandantes no han alegado adecuadamente la responsabilidad por complicidad en virtud de la ley antiterrorista, podría desestimar el litigio sin emitir una interpretación amplia del artículo 230.
Ese orden es importante. El Tribunal programó ambas disputas juntas en su calendario de audiencias, y los magistrados hicieron referencias a ambos casos en repetidas ocasiones. Esta combinación le ofrece al Tribunal una posible vía limitada: resolver primero la demanda por terrorismo amparada por la ley y luego decidir si es necesario un fallo general sobre la inmunidad de las plataformas.
Posibles consecuencias para la industria tecnológica
Para las empresas tecnológicas, lo que está en juego es tanto operativo como legal. La clasificación personalizada es una característica fundamental de los productos digitales modernos. Los sistemas de recomendación determinan qué vídeos, publicaciones, productos y anuncios ven los usuarios, y las empresas los ajustan continuamente mediante señales de interacción y modelos de aprendizaje automático. Si las recomendaciones pueden generar responsabilidad directa, distinta del contenido en sí, las plataformas podrían tener que rediseñar sus prácticas de moderación, clasificación y documentación para afrontar este nuevo riesgo de litigio.
Al mismo tiempo, los demandantes y sus partidarios argumentan que la amplia inmunidad ha permitido a las plataformas eludir la responsabilidad por sus propias decisiones de producto. Su teoría se centra no en la mera existencia de discursos perjudiciales de terceros, sino en el software que selecciona y promueve dichos discursos entre usuarios específicos. Esta distinción es tecnológicamente significativa, aunque el límite legal siga siendo difícil de definir.
El Tribunal no ha indicado cuándo emitirá su fallo. Su archivo de argumentos sitúa estos casos entre los de un período ya repleto de importantes disputas sobre el poder regulatorio federal. Sin embargo, para el sector tecnológico, pocas cuestiones son más fundamentales. La Sección 230 contribuyó a crear un marco legal que permitía a las plataformas crecer sin asumir la responsabilidad, al estilo de los editores, por cada contenido publicado por los usuarios. Los magistrados deben ahora decidir cómo se aplica este marco a una internet cada vez más organizada no por páginas estáticas, sino por algoritmos que realizan miles de millones de recomendaciones en tiempo real.
