Redefinir el entorno digital: una cruzada por la seguridad de los jóvenes en las redes sociales

Las recientes audiencias en el Senado sobre las redes sociales fueron tanto acrimoniosas como convincentes. Los senadores se enfrentaron a los directores ejecutivos de empresas importantes como Meta, X, TikTok, Snap y Discord, planteando preguntas difíciles y exigiendo responsabilidad por el impacto de las plataformas en los usuarios jóvenes. Un telón de fondo conmovedor para estos procedimientos fueron los padres sentados detrás de los líderes tecnológicos, cuyos hijos han muerto en relación con el uso de las redes sociales. Sus historias conmovedoras agregaron una dimensión profundamente personal y trágica a las discusiones.

Las empresas de redes sociales están bajo fuego por su supuesta indiferencia hacia el daño que causan. Las consecuencias de sus operaciones se extienden a una serie de problemas graves, incluyendo el acoso, el suicidio de adolescentes, los trastornos alimentarios, la conducta violenta y la radicalización, entre otros.

En respuesta a estas preocupaciones apremiantes, el Senado ha sido proactivo en la elaboración de laLey de Seguridad en Línea para Niños (KOSA), una legislación integral destinada a abordar los numerosos peligros que enfrentan los niños en línea. Esta ley, el resultado de años de deliberación y numerosas revisiones, representa un esfuerzo legislativo para obligar a las empresas de redes sociales a asumir más responsabilidad por la seguridad y el bienestar de sus usuarios más jóvenes.

Pero ¿es esto suficiente?

No es transformacional, pero es un primer paso creíble

Sin analizar en detalle KOSA, está claro que la ley introduce medidas innovadoras, notablemente la definición de una “obligación de cuidado” que obliga a las plataformas a reducir los riesgos para los menores. Sin embargo, el alcance de KOSA es limitado.

Si el Congreso aprueba KOSA sin tomar más medidas, es posible que las deficiencias de la ley permitan que los efectos adversos de las redes sociales en los usuarios jóvenes sigan proliferando. En particular, KOSA no previene que los adultos se dirijan a los niños a través de estas plataformas, ya que solo restringe el contenido para adultos a los usuarios identificados como menores, sin implementar una verificación de edad obligatoria, una disposición que probablemente generará una gran controversia.

A pesar de estas limitaciones, KOSA representa un paso inicial positivo hacia la protección de los niños en línea. Sus defectos no son irreparables. Es importante que se considere la legislación no como una solución final, sino como el comienzo de un esfuerzo sostenido y de varios años para reformar las prácticas de las redes sociales y disminuir sus impactos nocivos en los niños. El camino hacia un entorno en línea más seguro para los menores requiere más que un esfuerzo legislativo único; exige un compromiso y una adaptación continuos.

La oposición fuerte es parte del territorio

KOSA comenzó en el lugar correcto, el Congreso de los Estados Unidos. Pero dado el alcance global de estas plataformas, la regulación efectiva requerirá apoyo federal y transnacional, como el de la Unión Europea, para garantizar una supervisión integral. Sin este respaldo legislativo, es poco probable que las plataformas de redes sociales implementen cambios voluntariamente que podrían disminuir sus métricas de participación entre los jóvenes.

La legislación federal, incluso en una escala modesta, ofrece un enfoque más unificado en comparación con una colección dispersa de leyes estatales, que podría permitir a los fiscales generales avanzar en objetivos políticos. Un marco federal garantiza un campo de juego nivelado para todas las plataformas en los estados, evitando que las empresas cumplidoras enfrenten desventajas competitivas. Sin embargo, elaborar dicha legislación es un proceso delicado, ya que debe resistir desafíos legales de diversas partes, incluyendo activistas de derechos, empresas de redes sociales importantes y proveedores de contenido para adultos, todos los cuales están preparados para defender vigorosamente sus intereses.

El desafío de prevenir la reacción legal se complica por la renuencia de las partes interesadas a comprometerse. Una estrategia radical, aunque potencialmente efectiva, podría implicar forzar un diálogo entre partes diversas, como la ACLU, activistas de derechos, abogados constitucionales y defensores de la seguridad de los niños, con la directiva de que nadie se va hasta que se alcance un consenso.

La cuestión de cómo la legislación debe regular el uso de la tecnología para la verificación de edad o identidad es crucial. Comparar las redes sociales con los servicios públicos subraya el argumento a favor de una regulación estricta: mientras proporcionan servicios esenciales, también plantean riesgos significativos. Esta analogía invita a una reevaluación del papel y la funcionalidad de las redes sociales, especialmente considerando cómo los algoritmos pueden llevar a los usuarios hacia contenidos cada vez más extremos y riesgosos en línea, impulsados por la búsqueda de una mayor participación y ganancias publicitarias. Esta dinámica puede llevar a que los niños se aíslen en cámaras de eco en línea que exacerbaban el odio y el descontento, alejándolos aún más de perspectivas más saludables.

Pero el cambio radical en las redes sociales no ocurrirá en un solo evento. KOSA representa un paso inicial importante, pero es solo una pieza en un rompecabezas complejo. Tiene el potencial de generar cambios, pero ocurrirán en etapas.

Es un maratón, no un sprint

Las complejidades de garantizar la seguridad en línea mientras se mantienen las libertades constitucionales son complicadas. El éxito probablemente se logre a través de un progreso incremental y reflexivo durante varios años.

La colaboración, el compromiso y la construcción de consenso serán fundamentales para el éxito de KOSA. Es un objetivo admirable, pero lograr un consenso de una vez es poco probable. Una expectativa más práctica es que KOSA sufra una refinación y mejora continua a través de actualizaciones anuales. Estos ajustes estarán informados por las experiencias del año anterior, adaptándose a los cambios en la tecnología, los patrones de mal uso y permitiendo que la industria tenga tiempo suficiente para adaptarse a las nuevas regulaciones.

Idealmente, la primera ronda, KOSA 2024, abarcaría calificaciones de contenido, verificación de edad y opciones de inclusión/exclusión, advertencias y censura al especificar:

• Qué contenido es inaceptable y/o ilegal;
• Qué contenido puede y debe ser bloqueado por las plataformas;
• Cómo etiquetar exactamente el contenido que es tóxico pero no puede ser bloqueado;
• Cómo advertir a los usuarios y a los padres, y qué barreras establecer alrededor del contenido sensible;
• Configuraciones de exclusión (de bloques de contenido) predeterminadas.

Reforma de algoritmos: controvertida pero potencialmente transformacional

La próxima fase de KOSA en 2025 se centrará en mejorar la rendición de cuentas y establecer sanciones más estrictas para las plataformas y las personas que participan en o facilitan actividades ilegales. Esto apunta a frenar no solo la difusión de contenido ilegal, sino también a abordar comportamientos que contribuyen a la crisis de salud mental entre los jóvenes, como el exceso de desplazamiento hacia abajo y la inmersión en entornos en línea dañinos.

Mirando hacia adelante, las iteraciones posteriores podrían marcar un cambio crucial en la operación misma de las plataformas de redes sociales, potencialmente centradas en “invertir los algoritmos” que actualmente guían a los usuarios, especialmente a los jóvenes, hacia espacios en línea negativos y riesgosos. La ambición aquí es no solo prevenir la exposición a contenido dañino, sino activamente dirigir a los usuarios hacia interacciones más seguras y positivas en línea.

Aunque potencialmente controvertida, la inversión de los algoritmos abre un camino para que las plataformas se reinventen. Al anticipar estos cambios, las empresas de redes sociales pueden prepararse para adaptar sus modelos de negocio. El objetivo es seguir siendo rentables mientras se fomenta un entorno que priorice el bienestar de sus usuarios, especialmente de los más jóvenes. Esta estrategia de pensamiento adelantado sugiere un escenario de ganar-ganar: proteger la salud mental de los usuarios y garantizar la viabilidad a largo plazo de las plataformas de redes sociales al cultivar una comunidad en línea más saludable y atractiva.

El cambio es demasiado tardío

El testimonio de las familias en las audiencias del Senado subraya la necesidad de más que cambios incrementales en la regulación de las redes sociales. Una revisión robusta, que comienza con KOSA 2024, es esencial para protegerse contra las amenazas en constante evolución de la inteligencia artificial y las influencias externas. El proceso requerirá ajustes continuos, similares a los de la SEC y FDA.

Pero la inacción no es una opción.

Una estrategia a largo plazo y enfocada es crítica para garantizar la seguridad de nuestros jóvenes en las plataformas de redes sociales. Al iniciar reformas integrales y refinar continuamente estas medidas, podemos mitigar el daño y finalmente cumplir con la promesa original de las redes sociales — mejorar nuestras vidas a través de la conexión.