CIVICUS conversa sobre las plataformas digitales y los derechos de la niñez y la adolescencia con Soledad Magnone, socióloga uruguaya y fundadora y directora de Jaaklac, una iniciativa de la sociedad civil que investiga y promueve una educación digital crítica y centrada en los derechos humanos.

En Estados Unidos se multiplican las demandas contra las grandes tecnológicas por el efecto de sus productos en la salud mental de la niñez. Estas demandas apuntan al diseño adictivo de las plataformas —los algoritmos, el desplazamiento infinito y la reproducción automática—, pensados para maximizar el tiempo de uso. Un fallo reciente, el primero de su tipo, ordenó a Google y Meta indemnizar con seis millones de dólares a una joven. Para la sociedad civil, esto sienta un precedente para exigir rendición de cuentas y proteger los derechos de la infancia en línea.

¿Qué estableció el fallo contra Google y Meta, y por qué es importante?

En marzo, el Tribunal Superior de Los Ángeles encontró a Google y a Meta responsables de diseñar plataformas que dañaron la salud mental de una usuaria joven. El caso señaló a Instagram y YouTube por fomentar el uso compulsivo, sobre todo entre adolescentes. En junio, la jueza rechazó el pedido de las empresas de repetir el juicio y el fallo quedó firme. La decisión confirmó algo que la sociedad civil viene advirtiendo desde hace años: las plataformas se diseñan privilegiando la ganancia económica por sobre la salud de quienes las usan.

Las plataformas compiten por atraer y retener a las generaciones más jóvenes, no solo porque marcan tendencias, sino porque son una porción enorme de quienes navegan por internet: una de cada tres personas que usan la web es menor de 18 años, y captar a estas personas como clientes desde temprana edad es una prioridad. Esa lógica comercial arranca incluso antes del nacimiento, con la venta de datos médicos, por ejemplo, mediante las aplicaciones de fertilidad y embarazo.

Amazon, Apple, Google, Meta y Netflix son parte de la vida diaria: nos informamos, nos entretenemos, nos organizamos y socializamos a través de ellas. Por eso cuesta tanto equilibrar la conexión permanente con el bienestar propio. Las plataformas deberían diseñarse buscando ese equilibrio y atendiendo sobre todo a los efectos adversos sobre grupos históricamente excluidos, como las infancias, en lugar de responder a los intereses de los más privilegiados.

¿Desde cuándo se conocen los daños que provocan las plataformas?

Por lo menos desde 2021, cuando una exempleada de Meta filtró documentos internos —los llamados Facebook Papers— que probaban que la empresa conocía los efectos nocivos de Facebook e Instagram sobre la salud mental adolescente. Esos documentos también revelaron que Meta destinaba el 87% de su presupuesto de detección de desinformación en Facebook a los contenidos en inglés, aunque solo el 9% de quienes usan esta plataforma hablaba ese idioma.

Que esas situaciones se repitan demuestra que las plataformas son incapaces de regularse a sí mismas, por más que insistan en que su tecnología es demasiado compleja como para que otros puedan regularla, y deja en evidencia la debilidad de las regulaciones internacionales que deberían frenarlas.

¿A qué se debe la debilidad de las regulaciones?

Parte del problema reside en que la mayoría de las corporaciones tecnológicas nació en Estados Unidos, un Estado que regula poco y es el único miembro de las Naciones Unidas que no ratificó la Convención sobre los Derechos del Niño.

Pero más allá de Estados Unidos, los derechos de la niñez tienden a diluirse en el diseño de las tecnologías digitales en todo el mundo. En la Unión Europea (UE), por ejemplo, la lucha contra la explotación sexual infantil se plantea como una falsa disyuntiva: para proteger a la niñez, iniciativas como Chat Control proponen escanear los mensajes privados de todas las personas, a costa de su privacidad. Y mientras se invocan los derechos de la infancia para justificar esa vigilancia, casos concretos y masivos de violaciones de dichos derechos, como el de los archivos Epstein, no avanzan, pese a las pruebas contenidas en miles de correos de personas vinculadas a gobiernos y empresas tecnológicas.

Aun así, ha habido progresos. La UE ha invertido mucho en concientización y regulación. Su norma más influyente es el Reglamento General de Protección de Datos, que permite a las personas ejercer su derecho a la privacidad y decidir sobre su información.

La UE también regula el diseño engañoso de ciertas plataformas, que recurren, por ejemplo, a una falsa sensación de urgencia para manipular compras o retener clientes. El peso de su mercado extiende esas reglas más allá de Europa. Muchas empresas no europeas terminan adoptando estas legislaciones para poder llegar a mercados de consumo europeos.

Además, la UE protege a las personas denunciantes (whistleblowers) que filtran documentos internos para exponer incumplimientos legales por parte de diferentes organizaciones, obligando a los Estados a ofrecer canales seguros y amparo legal.

¿Qué rol cumple la sociedad civil en la defensa de estos derechos?

La sociedad civil y la ciudadanía han sido decisivas para defender los derechos digitales y de la niñez. Impulsaron leyes de protección de datos personales y denunciaron malas prácticas y abusos de empresas tecnológicas y gobiernos.

Pero su trabajo es cada vez más difícil. Como los sistemas digitales funcionan como cajas negras, cuesta cada vez más acceder a la información, y las estructuras de poder desestiman e invisibilizan la investigación crítica de la sociedad civil.

Por eso necesitamos comunidades más amplias, que repartan mejor las responsabilidades y los recursos, y que puedan desarrollar mejores tecnologías con menos daños. Esa necesidad crece cuando el Estado y las empresas se desentienden. Pero es una labor que exige recursos hoy escasos y mal repartidos: se destina mucho más dinero a diseñar y desplegar inteligencia artificial que a vigilar sus consecuencias. La sociedad civil necesita financiamiento sostenido para que investigar el diseño de las plataformas deje de ser un trabajo voluntario, precario y peligroso.

¿Cómo debería diseñarse la tecnología para proteger a la niñez?

Hay que evitar el modelo de vigilancia que ya se cuela en las escuelas y las familias. Es un negocio de miles de millones de dólares que, en nombre de la eficiencia y la seguridad, recolecta datos mediante cámaras de videovigilancia, monitoreo de internet, plataformas de gestión de cursos y reconocimiento facial. En el estado brasileño de Paraná, un software de reconocimiento facial desarrollado en Europa escanea a diario a cientos de miles de estudiantes para tomar asistencia. Francia y Suecia ya habían prohibido esta tecnología, pero Europa no controla su exportación, que termina usándose en países donde la protección es más débil.

La alternativa es equilibrar en los entornos digitales los tres pilares de la Convención sobre los Derechos del Niño: participación, protección y provisión. Necesitamos normas basadas en derechos humanos, conocidas y fáciles de ejercer a cualquier edad y en cualquier contexto social. Construirlas exige abrir espacios de diálogo entre generaciones y entre todos los sectores, incluyendo centros de investigación, ciudadanía, empresas tecnológicas, gobiernos, organismos internacionales y organizaciones de la sociedad civil.

También hace falta una educación digital crítica. No basta con enseñar a usar la tecnología; hay que ayudar a las infancias y juventudes a entender cómo funciona, a quién beneficia y qué derechos están en juego. Así la protección deja de recaer solo en las familias y en la niñez, como ocurre hoy, y pasa a ser una tarea compartida.

CIVICUS entrevista a un amplio espectro de activistas, personas expertas y líderes de la sociedad civil para recabar diversas perspectivas sobre la acción de la sociedad civil y otros temas de actualidad, con el fin de publicarlas en su plataforma CIVICUS Lens. Las opiniones expresadas en las entrevistas son de las personas entrevistadas y no necesariamente reflejan las posiciones de CIVICUS. Su publicación no es una expresión de apoyo a los entrevistados ni a las organizaciones que representan.