Las puertas del campo

Con el creciente interés social y científico en las repercusiones que el uso de redes sociales tiene en el aprendizaje¹ y la salud mental de los más jóvenes —aunque la comunidad científica todavía no dispone de evidencia suficiente para establecer una relación causal², sí cabe suponer que actúe como factor desencadenante o agravante—, cada vez son más los estados que han decidido abordar tanto el acceso de los menores como, más recientemente, el diseño de las propias plataformas.
Establecer limitaciones en el ámbito digital es un reto complejo: implica legislar la actividad de compañías de ámbito transnacional con una visión a la vez global y técnica del problema para poder alcanzar soluciones que tengan un impacto real en los usuarios.
La regulación de menores en redes sociales la han abordado, con distintas estrategias y alcances, países como Reino Unido, Australia o Francia³, y actualmente es objeto de debate en otros tantos, entre ellos España, con el Proyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales.⁴
En el caso de Francia, su Consejo Constitucional tumbó en agosto la ley que pretendía vetar las redes a los menores de 15 años al considerarla desproporcionada. La decisión —que puede leerse íntegramente aquí— se sustenta en tres argumentos principales: se socava el derecho a la libertad de expresión y comunicación de los menores; supone un riesgo de privacidad para el resto de la población al exigir la identificación de todos los usuarios; y, por último, la descripción que se realiza de redes sociales es tan amplia que puede afectar a comunidades digitales que no entrañan ningún riesgo.
Sin entrar a valorar qué principio pesa más ni el balance cuantitativo entre riesgos y beneficios, los puntos anteriores merecen análisis: no niegan la necesidad de regular, sino que exigen mayor concreción, atención a las implicaciones sobre la privacidad y no dar por perjudiciales todos los entornos digitales.
Es indiscutible que las redes sociales exponen a los jóvenes a dinámicas y contenidos potencialmente nocivos, en especial las que actualmente abarcan la mayor parte del tráfico y que están en manos de grandes tecnológicas donde el usuario prácticamente carece de agencia sobre su experiencia digital. Aun así, esto no invalida que otros espacios puedan servir como medios de socialización complementarios y, en ocasiones, hasta más saludables que algunos entornos físicos. El acceso a las redes abre una ventana a realidades, culturas e información que no todos los jóvenes tienen garantizadas en su círculo cercano, especialmente si pertenecen a minorías, viven en ambientes hostiles o geográficamente aislados.
La protección de los menores mediante la restricción del acceso a determinadas plataformas está sujeta a retos no precisamente triviales. En primer lugar, es necesario identificar qué plataformas deben estar sujetas a esta prohibición, discerniendo, mediante métricas que eviten la arbitrariedad y con una mirada global, las que no suponen riesgos de las que sí, y no únicamente por la categoría de servicio. Esto permitiría evitar que otros entornos como Roblox —escenario de múltiples casos de abuso infantil⁵— queden fuera del alcance legal de las medidas al ser videojuegos y no redes sociales estrictamente hablando, como ocurre en el caso de Australia.⁶
Por otro lado, hay que establecer sistemas de verificación eficaces y robustos que, como se ha mencionado, habría que aplicar al total de los usuarios, asumiendo que ninguno será infalible: la falsificación de datos o una VPN bastan para eludirlos, un límite inherente a cualquier medida basada en el acceso.
Es necesario garantizar la seguridad de los ciudadanos en los entornos digitales, con especial énfasis en los menores de edad, pero la legislación debe estar orientada a soluciones éticas y respetuosas con el resto de derechos, además de ir acompañada de políticas de refuerzo de la educación digital —tanto de menores como de adultos— y de desarrollo de entornos digitales seguros.

El ejemplo de Meta

Mientras que la legislación francesa regula el acceso de los menores a las plataformas, el acuerdo extrajudicial alcanzado entre Meta y una coalición de estados de EE. UU. actúa directamente sobre el diseño de sus plataformas, estableciendo una estrategia diferente para aumentar la seguridad de los menores sin expulsarlos de las redes sociales.
Este enfoque en el diseño va en línea con el Digital Services Act (DSA) impulsado por la Unión Europea, que Meta también debe cumplir y cuyo articulado mantiene ciertas similitudes con el acuerdo estadounidense. Es relevante señalar que, mientras que en el caso de Meta se trata de un acuerdo individual, el DSA supone un marco regulatorio completo, más restrictivo y que afecta a todos los usuarios (no solo menores) y a múltiples plataformas, con sanciones calculadas en función del volumen de negocio mundial.
Aun así, por la relevancia internacional del caso —que puede leerse aquí— conviene repasar sus medidas principales, agrupadas en cuatro frentes: verificación de edad, control del tiempo de uso, diseño de los feeds y moderación de contenido.

Verificación de edad y supervisión parental – Secciones II.A, II.G y III

• En menos de un año, Meta debe implementar un verificador de edad —propio o de terceros— que distinga adolescentes (de 13 a 17 años) de niños menores de 13. El límite de falsos positivos —adolescentes clasificados por error como mayores de 18— se fija, para las herramientas de terceros, en el 10 % para los de 16-17 años y el 3 % para los de 13-15; con un sistema propio, los umbrales son más laxos (14 %/7 % el primer año y 10 %/5 % el segundo). De forma análoga, debe comprobar que quien solicita permisos parentales es efectivamente un adulto.

• Para detectar a los menores de 13 se aplican medidas técnicas: modelos de emparejamiento aproximado (soft-matching), un proceso de revisión que presume la minoría de edad salvo prueba en contra y examina la red de contactos de las cuentas eliminadas, y el desarrollo, en un año, de un modelo predictivo de edad (U13 Age Model).
• Los perfiles parentales reciben informes con el tiempo de uso y las cuentas con las que interactúan sus menores, además de alertas cuando estos buscan de forma repetida términos relacionados con suicidio, autolesiones o trastornos alimentarios. También se avisa de forma clara cada vez que un menor contacta por primera vez con un adulto.
• Los datos recogidos solo para verificar la edad deben eliminarse en un plazo razonable y no pueden usarse para otros fines. Se admiten algunas excepciones: Meta sí puede guardar los datos de menores de 13 que necesite para entrenar y evaluar el modelo predictivo, y los mínimos para detectar intentos de elusión. También conserva la fecha de nacimiento y la edad declaradas y el resultado de la clasificación.

Control de uso – Sección II.B

• Se establece un modo de acceso nocturno. En la primera fase los adolescentes no pueden acceder a las aplicaciones entre las 0:00 y las 6:00, excepto para mensajería y configuración, y las notificaciones push se desactivan entre las 22:00 y las 7:00. En la segunda fase, el bloqueo general se amplía a la franja de 22:00 a 7:00.
• El uso durante el día se limita por fases de manera análoga: en la primera, un límite por defecto de 2 horas acumuladas entre todas las aplicaciones de Meta; en la segunda, se añade un máximo de una hora por aplicación. Pueden modificarse, pero requieren aprobación explícita de un adulto.
• Durante el horario lectivo (8:00 a 15:00, de lunes a viernes, del 15 de agosto al 15 de junio) las notificaciones push quedan deshabilitadas por defecto.
• Se obliga a usar soft-matching (comparar identificador de dispositivo, teléfono, correo, etc.) para detectar cuentas secundarias creadas para sortear estos límites.
• Meta debe animar a los menores a descansar con avisos tras 60 y 90 minutos de uso diario y tras 15 minutos de uso continuado.

Diseño de feeds – Secciones II.C y II.D

• Meta debe ofrecer a los menores un feed sin personalización (equivalente al orden cronológico) como opción fácilmente accesible, y volver a proponérsela cada 90 días; solo queda activo por defecto si lo fija el perfil parental.
• Por defecto, los menores no ven el número de me gusta ni de reacciones en las publicaciones; solo mediante aprobación parental.

• Se deshabilitan en las cuentas de menores los filtros de realidad aumentada que distorsionan o idealizan la cara simulando cirugía plástica.

Moderación de contenido – Secciones II.E y II.F

• Ciertos contenidos —dieta y nutrición, peso y forma física, cuerpos musculados, procedimientos estéticos, partes del cuerpo asociadas a la idealización corporal o el relato de experiencias de malestar mental— se consideran sensibles en conjunto, y las plataformas deben limitar o interrumpir la exposición repetida a ellos. Por separado, deben impedir que los menores sigan cuentas clasificadas como inapropiadas para su edad o interactúen con ellas.
• Las cuentas de adultos marcadas como “potencialmente sospechosas” tienen visibilidad limitada para las cuentas de menores. Si se establece contacto entre ambos perfiles, se emite un aviso claro.
• Ante denuncias en inglés o español sobre contenido potencialmente peligroso (explotación, suicidio o acoso), Meta debe responder en menos de 6 horas al menos en el 90 % de los casos.
  En conjunto, suponen un paso en la dirección correcta: mejoran el statu quo y reconocen por fin la responsabilidad de la plataforma en cómo moldea la experiencia de usuario. Aun así, el grueso de las medidas pactadas tiene como foco aislar a los menores del contenido nocivo, sin centrar los esfuerzos en eliminarlo por completo de la red social. Además, es posible restituir la configuración con aprobación parental, lo que salvaguarda legalmente a la compañía y apela directamente tanto a la educación digital —que no necesariamente está garantizada— como a la responsabilidad de los tutores. Y habrá que ver hasta qué punto también se regula que estos puedan incurrir en negligencia al permitir de forma deliberada el acceso.

Hacia dónde ir

Difícilmente se van a abordar problemas complejos con soluciones sencillas. Pero cada vez hay más conciencia social sobre el impacto que tiene el diseño de los espacios digitales, y eso permite empezar a articular soluciones para crear plataformas más sanas, seguras y con mayor soberanía para el conjunto de los usuarios. Alcanzar ese objetivo, lejos de utópico, es tan viable como un parque o una plaza pública, siempre que se consideren al menos unos principios básicos:

• La educación digital como pilar fundamental. Teniendo en cuenta que el ámbito digital se ha consolidado como una esfera más de nuestra vida, es necesario establecer un marco pedagógico que cubra de verdad los aspectos técnicos y las implicaciones de las tecnologías que usamos a diario. Ese marco debe articularse teniendo en cuenta distintos perfiles:
  • Los usuarios, de forma universal, deben conocer los riesgos a los que se enfrentan y los derechos y garantías de que disponen. La defensa de los menores no debe eclipsar esa educación universal: son los adultos quienes activan o revierten las medidas de protección de las plataformas, y algunos de ellos —por edad o escasa destreza tecnológica— son también un colectivo vulnerable a las prácticas nocivas de los entornos digitales.
  • Los legisladores deben construir marcos normativos con un conocimiento técnico sólido y amplio del ámbito sobre el que operan, capaces de adaptarse a un entorno en constante cambio y de anticiparse a riesgos futuros. Ese conocimiento es lo que permite legislar de forma concreta, efectiva y preventiva, y no solo reactiva.
  • Las autoridades deben garantizar la seguridad ciudadana en el ámbito digital sin subestimar las consecuencias de determinadas prácticas. Para ello necesitan herramientas técnicas y jurídicas que les permitan aplicar la normativa de forma eficaz y rápida, y respetuosa con el resto de derechos de privacidad y libertad ciudadanas.
• El desarrollo y promoción de entornos digitales públicos como solución a largo plazo. Más allá de minimizar el impacto nocivo de los principales actores del sector tecnológico, los Estados y sus ciudadanos deben poner el foco en el desarrollo y uso efectivo de alternativas que escapen a las lógicas extractivistas de las grandes tecnológicas. El software libre y la adopción de tecnologías descentralizadas —como los protocolos federados que sustentan las redes sociales del Fediverso— devuelven a las personas y comunidades el control efectivo sobre los algoritmos de recomendación y los sistemas de moderación, permitiendo una mayor soberanía digital.
  La elección de estos sistemas requiere abordar otros retos y tensiones intrínsecos a su ciclo de vida como productos: es necesario invertir en su desarrollo técnico, cubrir los costes operativos y garantizar que sea posible mantener los estándares de calidad y seguridad sin depender de los grandes actores del sector. En el caso de los protocolos federados, la segmentación propia de estos modelos también presenta particularidades que deben considerarse a la hora de mantener la independencia a la vez que se garantiza una moderación de contenidos acorde al marco legal pertinente.
• Un enfoque multidisciplinar. Si la digitalización se ha convertido en un aspecto transversal a prácticamente todos los ámbitos de la vida —el comercio, las relaciones sociales, el trato con la Administración—, su estudio, su regulación y el diseño de soluciones deben plantearse desde una perspectiva multidisciplinar que incluya a la academia y a la sociedad civil, representada especialmente por los círculos de activismo digital o, en el caso de la protección de menores, las asociaciones de madres y padres. Ese contrapeso ha sido el que ha forzado avances de transparencia que el poder público no ofrecía por iniciativa propia —como el derecho a conocer el código fuente de las aplicaciones con las que la Administración decide⁷— y el que permite advertir cuándo, en aras de una mayor protección, la legislación cruza la línea del intervencionismo y socava derechos: de los bloqueos que dejan sin servicio a webs legítimas⁸ a las propuestas de rastreo masivo de las comunicaciones privadas.⁹ Sin esa mirada externa, los espacios digitales quedan a merced de la captura estatal.
• Sin entrar en las restricciones de acceso que cada Estado considere, hay que seguir legislando el diseño y la experiencia de usuario de las plataformas, garantizar su transparencia —precisamente para poder analizar y detectar riesgos— y, en última instancia, identificar de forma efectiva a los responsables en caso de negligencia. La protección de los menores en otros ámbitos ya reparte obligaciones entre las empresas cuando desarrollan su actividad, los tutores legales que deben velar por su acceso y los organismos de la Administración que intervienen ante la negligencia o el desamparo; esos mismos mecanismos deben replicarse en la esfera digital.

Estos principios no son únicos ni definitivos; dada la complejidad del problema, requieren un desarrollo normativo detallado que aborde de frente las fricciones entre ellos: hasta dónde ceder en privacidad a cambio de verificar la edad, cuánto poder operativo dar a las autoridades sin facilitar su propia extralimitación, qué herramientas usar para moderar en entornos fragmentados o qué protocolos elegir para que la federación sea realmente accesible¹⁰, entre otras. Aun así, son el punto de partida de una regulación que devuelva a la ciudadanía garantías sobre cómo se relaciona en Internet.