El sustento de un artista está cada vez más absorbido por el diseño de la plataforma de redes sociales, e incluso dependiente de él. Saber rastrear tendencias, editar contenidos y capturar algoritmos para visibilidad puede ser tan necesario como agotador. No es sorprendente que muchos artistas sintieran cierta tristeza cuando Meta y YouTube perdieron los veredictos del jurado en California y Nuevo México en marzo pasado. Pero, como muchas cosas en Internet, los veredictos contra los gigantes de las redes sociales ofrecieron sólo una sensación inicial de satisfacción antes de que surgieran realidades más problemáticas.
Quienes apoyan los veredictos los ven como correcciones que deberían haberse hecho hace mucho tiempo. Los críticos los ven como el comienzo de un cambio legal que podría socavar las protecciones subyacentes de la expresión en línea, la moderación, la privacidad y las diversas comunidades digitales que los artistas han construido y de las que dependen. La cuestión no es simplemente si Meta y YouTube (que es propiedad de Alphabet, la empresa matriz de Google) merecen perder. Se trata de si las teorías legales utilizadas contra ellos pueden separarse de los sistemas que permiten a las personas publicar, descubrir y compartir trabajos creativos en línea.
En California, un jurado determinó que YouTube y Meta fueron responsables de los diseños de plataformas que finalmente hicieron adicta y dañaron a una mujer joven. En Nuevo México, Meta fue condenado ocultar lo que la empresa sabía sobre la explotación infantil que se estaba produciendo dentro de sus funciones de mensajería, permitiéndola efectivamente. Al identificar el diseño de la plataforma como la fuente de daño a los usuarios jóvenes, estos casos históricos se centraron no en lo que los usuarios vieron, sino en cómo lo vieron.
Al centrarse en el diseño de las plataformas, en lugar del contenido, los demandantes sortearon una barrera legal que ha protegido las plataformas en línea durante décadas: la Sección 230. Esta protección legal impedía que los sitios web fueran tratados como editores de contenido generado por los usuarios. Si una publicación, imagen o comentario dañino aparece en línea, la responsabilidad generalmente recae en el usuario que lo creó y no en el servicio que lo alojó.
Los defensores de la Sección 230 argumentan que esta protección hizo posible la Internet moderna, permitiendo a los sitios web alojar y moderar grandes cantidades de discurso de los usuarios. Según la doctrina predominante, la capacidad de las plataformas para ejercer discreción editorial (como la moderación) del contenido generado por el usuario equivale a su discurso protegido y, por lo tanto, no pueden enfrentar repercusiones legales por curar o eliminar contenido.
Los críticos de la Sección 230, sin embargo, creen que se ha convertido en una defensa que permite a las empresas de tecnología evitar la responsabilidad por los daños asociados con sus productos, proteger los sistemas corporativos opacos del escrutinio e impedir descubrimientos significativos para litigios.
En lugar de argumentar que Meta y YouTube eran responsables del contenido de sus plataformas, los demandantes en los casos recientes afirmaron que las empresas eran responsables de las características de diseño que moldeaban la forma en que los usuarios interactuaban con ese contenido. Caracterizaron herramientas como la reproducción automática, las recomendaciones, las notificaciones, los me gusta y el desplazamiento infinito como opciones de diseño de productos (no decisiones editoriales) que promovían el uso adictivo. Al enmarcar el presunto daño como consecuencia del diseño de la plataforma en lugar del contenido generado por el usuario, los demandantes finalmente evitaron los importantes obstáculos que la Sección 230 a menudo plantea a tales reclamos.
Separación de contenido del diseño.
Independientemente de las conclusiones de los tribunales, muchos defensores de los derechos digitales argumentan que el diseño de una plataforma es inherentemente inofensivo y que cualquier daño que pueda ocurrir es inseparable del discurso que distribuye la plataforma. Imagine una red social completamente llena de imágenes de pintura secándose, ¿cómo TechDirt El fundador Mike Masnick lo puso como ejemplo.. Si el diseño de la plataforma siguiera siendo exactamente el mismo (automático, notificaciones automáticas, desplazamiento infinito, recomendaciones algorítmicas), ¿seguiría considerándose adictiva o dañina? Masnick afirma que si la respuesta es no, entonces la fuente del supuesto daño no es el diseño en sí, sino el contenido que se transmite a través de él: el habla.
Esta distinción es importante porque la teoría jurídica detrás de estos casos se basa en tratar el diseño como algo separado del discurso. Si el impacto del diseño de una plataforma depende del discurso que pasa a través de ella, entonces la regulación del diseño puede equivaler en última instancia a una regulación de la distribución del discurso. Desde esta perspectiva, los sistemas de recomendación, los feeds y los algoritmos de clasificación no son sólo características del producto: son mecanismos a través de los cuales las plataformas organizan y presentan expresión.
Foto de Berke Citak en Unsplash
El resultado de estos casos no será la eliminación de todos los elementos de diseño que nos mantienen apegados a nuestros teléfonos. En cambio, es una posible reducción de las protecciones de la Sección 230 al permitir a los demandantes caracterizar las decisiones sobre cómo se muestra, recomienda, prioriza o elimina el contenido como opciones de diseño de producto en lugar de decisiones editoriales. Si los tribunales aceptan esa distinción, las plataformas podrían enfrentar responsabilidad por la forma en que presentan el contenido generado por los usuarios, incluso si el contenido subyacente en sí sigue protegido por la Sección 230. Los críticos advierten que tal cambio provocaría más litigios y erosionaría el límite legal entre el diseño de la plataforma y el juicio editorial.
Los cientos de millones de dólares que la empresa matriz de Meta y YouTube, Alphabet, debe entregar ahora a los demandantes en estos casos seguramente llamarán la atención. Pero la pregunta no es si estos gigantes tecnológicos sobrevivirán a estos veredictos. La pregunta es si la próxima generación de plataformas podrá sobrevivir a los desafíos que plantea. Se espera que el veredicto influya en unas 2.000 demandas pendientes por parte de padres y distritos escolares contra empresas de redes sociales en todo Estados Unidos, muchas de las cuales ya están en marcha. (YouTube acaba de ser establecido una de esas demandas presentada por un adolescente en Florida, aunque las demandas del demandante contra Meta, TikTok y Snap Inc. aún están en curso).
«Crear una responsabilidad significativa por las elecciones de diseño incentivará a las empresas de redes sociales a dejar de moderar el contenido por completo o cerrar debido al enorme riesgo legal», Erika Sanders, asesora legal de la Coalición Nacional Contra la Censura.el te dice La Gaceta de Arte. Los costos del litigio pueden alcanzar millones de dólares incluso antes del juicio, sumas que Meta puede estar dispuesta a pagar pero que las empresas más pequeñas ciertamente no pueden sobrevivir.
Sanders añade: «Veredictos del jurado como este probablemente harán que las grandes plataformas de redes sociales sean menos fáciles de usar y, al mismo tiempo, expulsarán a las plataformas más pequeñas que no pueden permitirse el lujo de correr el riesgo».
Quienes apoyan los veredictos contra Meta y el debilitamiento más amplio de la Sección 230 a menudo Señale analogías familiares: los cigarrillos.cinturones de seguridad y otras normas de seguridad del producto. Pero a diferencia de los cinturones de seguridad y los cigarrillos, las redes sociales no son un producto físico que existe independientemente de su uso: son un vehículo para el discurso. Esa distinción es importante porque el objetivo del diseño de productos para la rendición de cuentas no se limita a los sistemas de recomendación. Se extiende a la propia arquitectura de la comunicación.
En Nuevo México, el cifrado de extremo a extremo de Meta se ha caracterizado como una elección de diseño perjudicial. Sin embargo, el cifrado no es una característica cosmética del diseño de una plataforma. Es una tecnología de privacidad clave que a menudo protege a grupos vulnerables y marginados de la vigilancia, el abuso y la filtración de datos, incluidos artistas y activistas en regímenes opresivos. Tras los veredictos, Meta fue destituida. protecciones de cifrado de extremo a extremo de sus servicios de mensajería de Instagram.
¿Estos de un nuevo internet?
¿Qué tipo de Internet resultará de estas decisiones y los precedentes que sientan? Mientras exigimos responsabilidad a estas poderosas plataformas de caja negra que dan forma a nuestras vidas, medios de subsistencia e incluso nuestra creatividad, vale la pena preguntar qué desaparece cuando las plataformas se vuelven legalmente responsables no sólo de lo que dicen los usuarios, sino también de cómo ayudan a los usuarios a encontrarse entre sí. Sanders sostiene que las plataformas que enfrentan una mayor responsabilidad se volverán más cautelosas y se alejarán de cualquier contenido que pueda crear una exposición legal. El resultado, advierte, podría ser una mayor censura del arte controvertido o provocativo en línea y menos hogares digitales para los artistas a medida que las plataformas más pequeñas desaparezcan bajo el peso del riesgo legal.
Foto de camilo jiménez en Unsplash
Eric Goldman, decano asociado de investigación de la Facultad de Derecho de la Universidad de Santa Clara, advierte que las consecuencias a largo plazo pueden sentirlas más agudamente los creadores más pequeños y las comunidades de nicho, más que las plataformas mismas.
«Estoy muy preocupado por la capacidad futura de los artistas y creadores más jóvenes de expresarse en línea. Los editores de Internet ya están sintiendo una presión significativa para atender los intereses de la mayoría de maneras que excluyen perspectivas nuevas o específicas», dice Goldman. «Sin protecciones fuertes para los editores de Internet como la Sección 230, las obligaciones legales cada vez mayores que se imponen a los editores de Internet seguirán aumentando esa presión».
Vale la pena señalar a qué partes interesadas no se les dio voz en los tribunales durante estos juicios históricos: activistas de regímenes políticos que dependen de las redes sociales para protestar y sobrevivir, personas con discapacidad que dependen de plataformas comunitarias, grupos marginados que encuentran apoyo y educación en línea, y artistas cuyos medios de vida y audiencias se construyen con las redes sociales.
Para estas comunidades, este no es un cambio abstracto. Cuando las plataformas enfrentan presión y responsabilidad legal, la historia lo demuestra cuya respuesta es a menudo moderar demasiado o eliminar las protecciones por completo, siendo la expresión artística una de las primeras víctimas. Una plataforma de sobrecorrección no puede simplemente eliminar contenido dañino, sino que puede reducir la visibilidad, restringir los sistemas de recomendación o evitar alojar cualquier cosa que pueda generar exposición legal.
Quienes aplaudieron los veredictos en California y Nuevo México, y anticipan que habrá muchos más, no se equivocan al exigir rendición de cuentas y responsabilidad de las plataformas que nos conectan a todos. Pero los afectados por estos veredictos no son sólo las propias empresas, sino que también incluyen a las comunidades que dependen de ellas: artistas, activistas, usuarios marginados y audiencias que dependen de estos sistemas para encontrarse entre sí en primer lugar.
