Redefinindo o Ambiente Digital: Uma Cruzada pela Segurança dos Jovens nas Mídias Sociais

As recentes audiências no Senado sobre as mídias sociais foram tanto acrimoniosas quanto convincentes. Os senadores enfrentaram CEOs de grandes empresas, como Meta, X, TikTok, Snap e Discord, fazendo perguntas difíceis e exigindo responsabilidade pelas consequências das plataformas nos usuários jovens. O pano de fundo desses procedimentos foi reforçado pelos pais sentados atrás dos líderes da tecnologia, cujos filhos morreram em decorrência do uso das mídias sociais. Suas histórias comoventes deram uma dimensão profundamente pessoal e trágica às discussões.

As empresas de mídias sociais estão sob fogo por sua suposta indiferença ao dano que causam. As consequências de suas operações se estendem a uma série de questões graves, incluindo bullying, suicídio de adolescentes, distúrbios alimentares, comportamento violento e radicalização, entre outros.

Em resposta a essas preocupações urgentes, o Senado tem sido proativo na elaboração da Lei de Segurança Online para Crianças (KOSA), uma legislação abrangente destinada a abordar os muitos perigos que as crianças enfrentam online. Essa lei, resultado de anos de deliberação e numerous revisões, representa um esforço legislativo para compelir as empresas de mídias sociais a assumirem mais responsabilidade pela segurança e bem-estar de seus usuários mais jovens.

Mas será que isso é suficiente?

Não é transformacional, mas um primeiro passo credível

Sem microanalisar a KOSA, é claro que a lei introduz medidas inovadoras, notadamente definindo um “dever de cuidado” que exige que as plataformas reduzam os riscos para menores. No entanto, a abrangência da KOSA é limitada.

Se o Congresso aprovar a KOSA sem mais ação, suas deficiências podem permitir que os efeitos adversos das mídias sociais nos usuários jovens se multipliquem. Especificamente, a KOSA não impede que adultos visem crianças por meio dessas plataformas, pois apenas restringe o conteúdo adulto para usuários identificados como menores, sem implementar a verificação de idade obrigatória – uma provisão que provavelmente causará controvérsia significativa.

Apesar dessas limitações, a KOSA representa um passo positivo inicial para proteger as crianças online. Seus defeitos não são irreparáveis. É importante que a legislação seja vista não como uma solução final, mas como o início de um esforço sustentado e de vários anos para reformar as práticas das mídias sociais e diminuir seus impactos nocivos nas crianças. A jornada em direção a um ambiente online mais seguro para menores exige mais do que um esforço legislativo isolado; exige compromisso e adaptação contínuos.

Fortes oposições vêm com o território

A KOSA começou no lugar certo, o Congresso dos EUA. No entanto, dado o alcance global dessas plataformas, a regulação eficaz exigirá apoio federal e transnacional, como o da União Europeia, para garantir uma supervisão abrangente. Sem esse apoio legislativo, é improvável que as plataformas de mídias sociais implementem mudanças voluntariamente que possam diminuir suas métricas de engajamento entre os jovens.

A legislação federal, mesmo em uma escala modesta, oferece uma abordagem mais unificada em comparação com uma coleção dispersa de leis estaduais, que poderia permitir que os procuradores-gerais promovessem objetivos políticos. Um quadro federal garante um campo de jogo nivelado para todas as plataformas em todos os estados, impedindo que as empresas conformadas enfrentem desvantagens competitivas. No entanto, criar tal legislação é um processo delicado, pois deve resistir a desafios legais de várias partes, incluindo ativistas de direitos, grandes empresas de mídias sociais e provedores de conteúdo adulto, todos preparados para defender seus interesses vigorosamente.

O desafio de prevenir reações legais é complicado pela relutância dos stakeholders em comprometer-se. Uma estratégia radical, embora potencialmente eficaz, poderia envolver forçar um diálogo entre partes diversas, como a ACLU, ativistas de direitos, advogados constitucionais e defensores da segurança infantil, com a diretriz de que ninguém saia até que um consenso seja alcançado.

A questão de como a legislação deve regular o uso da tecnologia para verificação de idade ou identidade é crucial. Comparar as mídias sociais com utilidades públicas destaca o argumento para uma regulação rigorosa: embora forneçam serviços essenciais, também apresentam riscos significativos. Essa analogia convida a uma reavaliação do papel e da funcionalidade das mídias sociais, especialmente considerando como os algoritmos podem direcionar os usuários, especialmente os jovens, para conteúdos online extremos e arriscados, impulsionados pela busca de maior engajamento e receita publicitária. Essa dinâmica pode levar as crianças a se isolarem em câmaras de eco online que exacerbam o ódio e o descontentamento, afastando-as ainda mais de perspectivas mais saudáveis.

Mas mudanças abrangentes nas mídias sociais não acontecerão em um único evento. A KOSA representa um passo importante inicial, mas é apenas uma peça de um quebra-cabeça complexo. Tem o potencial de trazer mudanças, mas acontecerá em etapas.

É uma maratona, não uma corrida de curta distância.

As complexidades de garantir a segurança online enquanto se respeitam as liberdades constitucionais são complicadas. O sucesso provavelmente será alcançado por meio de progresso incremental e pensado ao longo de vários anos.

Colaboração, compromisso e construção de consenso serão críticos para o sucesso da KOSA. É um objetivo admirável, mas alcançar consenso de uma vez é improvável. Uma expectativa mais prática é que a KOSA sofra refinamentos e melhorias contínuos por meio de atualizações anuais. Essas ajustes serão informados pelas experiências do ano anterior, adaptando-se às mudanças tecnológicas, padrões de mau uso e permitindo que a indústria tenha tempo suficiente para se adaptar às novas regulamentações.

Idealmente, a primeira rodada, KOSA 2024, abrangeria classificações de conteúdo, verificação de idade e opt-out/in, avisos e censura, especificando:

• Que conteúdo é inaceitável e/ou ilegal;
• Que conteúdo pode e deve ser bloqueado pelas plataformas;
• Como rotular o conteúdo tóxico, mas que não pode ser bloqueado;
• Como alertar os usuários e pais, e quais barreiras estabelecer em torno de conteúdo sensível;
• Configurações de opt-out (de blocos de conteúdo) padrão.

Reforma de algoritmos: controversa, mas potencialmente transformadora

A próxima fase da KOSA em 2025 se concentrará em aumentar a responsabilidade e estabelecer penalidades mais rigorosas para as plataformas e indivíduos que se envolvem ou facilitam atividades ilegais. Isso visa não apenas conter a disseminação de conteúdo ilegal, mas também abordar comportamentos que contribuem para a crise de saúde mental entre os jovens, como o excesso de “doom-scrolling” e a imersão em ambientes online nocivos.

Olhando para o futuro, iterações subsequentes poderiam marcar uma mudança pivotal na operação das plataformas de mídias sociais, potencialmente centrada em “reverter os algoritmos” que atualmente guiam os usuários, especialmente os jovens, em direção a espaços online negativos e arriscados. A ambição aqui é não apenas prevenir a exposição a conteúdo nocivo, mas ativamente direcionar os usuários para interações online mais seguras e positivas.

Embora potencialmente controversa, a reversão dos algoritmos abre um caminho para que as plataformas reinventem a si mesmas. Antecipando essas mudanças, as empresas de mídias sociais podem se preparar para adaptar seus modelos de negócios. O objetivo é permanecer lucrativa enquanto fomenta um ambiente que prioriza o bem-estar de seus usuários, especialmente a população mais jovem. Essa estratégia de pensamento prospectivo sugere um cenário de vitória-vitória: protegendo a saúde mental dos usuários e garantindo a viabilidade de longo prazo das plataformas de mídias sociais, cultivando uma comunidade online mais saudável e engajada.

Mudança é longamente esperada

O testemunho das famílias nas audiências do Senado destaca a necessidade de mais do que mudanças incrementais na regulação das mídias sociais. Uma revisão robusta, começando com a KOSA 2024, é essencial para proteger contra as ameaças evolutivas da inteligência artificial e influências externas. O processo exigirá ajustes contínuos, semelhantes aos da SEC e FDA.

Mas a inação não é uma opção.

Uma estratégia focada e de longo prazo é crítica para garantir a segurança de nossos jovens nas plataformas de mídias sociais. Iniciando reformas abrangentes e refinando continuamente essas medidas, podemos mitigar danos e finalmente cumprir a promessa original das mídias sociais — melhorar nossas vidas por meio da conexão.