Przebudowanie cyfrowego placu zabaw: krucjata na rzecz bezpieczeństwa młodzieży w mediach społecznościowych

Niedawne przesłuchania w Senacie na temat mediów społecznościowych były zarówno burzliwe, jak i przekonywujące. Senatorowie stawiali twarde pytania i domagali się odpowiedzialności od CEO dużych firm, takich jak Meta, X, TikTok, Snap i Discord, za wpływ tych platform na młodych użytkowników. Rodzice, którzy siedzieli za liderami technologicznymi, a których dzieci zmarły w związku z używaniem mediów społecznościowych, dodali smutny i osobisty wymiar dyskusjom.

Spółki medialne są atakowane za ich pozorną obojętność wobec szkód, które powodują. Konsekwencje ich działań sięgają szeregu poważnych problemów, w tym prześladowania, samobójstw nastolatków, zaburzeń odżywiania, zachowań agresywnych i radykalizacji, między innymi.

W odpowiedzi na te pilne problemy Senat był aktywny w tworzeniu Ustawy o bezpieczeństwie dzieci w internecie (KOSA), kompleksowej ustawy mającej na celu rozwiązanie wielu niebezpieczeństw, jakie dzieci spotykają w sieci. Ta ustawa, wynik lat debat i licznych poprawek, reprezentuje legislacyjne starania, aby spółki medialne wzięły większą odpowiedzialność za bezpieczeństwo i dobrobyt swoich najmłodszych użytkowników.

Ale czy to wystarczy?

Nie jest to przełomowe, ale godny uwagi pierwszy krok

Bez szczegółowej analizy KOSA, jest jasne, że ustawa wprowadza innowacyjne środki, zwłaszcza definicję “obowiązku staranności”, który nakazuje platformom zmniejszać ryzyko dla nieletnich. Jednak zakres KOSA jest ograniczony.

Jeśli Kongres uchwali KOSA bez dalszych działań, jego braki mogą pozwolić na dalsze negatywne skutki mediów społecznościowych dla młodych użytkowników. Konkretnie, KOSA nie zapobiega dorosłym celowaniu w dzieci za pośrednictwem tych platform, ponieważ ogranicza tylko treści dla użytkowników zidentyfikowanych jako nieletni, bez wprowadzania obowiązkowej weryfikacji wieku – postanowienie, które prawdopodobnie wywoła znaczny spór.

Pomimo tych ograniczeń, KOSA reprezentuje pozytywny pierwszy krok w kierunku zabezpieczenia dzieci w sieci. Jego wady nie są nie do naprawienia. Ważne jest, aby ustawę traktować nie jako ostateczne rozwiązanie, ale jako początek wieloletnich, złożonych wysiłków na rzecz reformy praktyk mediów społecznościowych i zmniejszania ich szkodliwego wpływu na dzieci. Droga do bezpieczniejszego środowiska online dla nieletnich wymaga więcej niż jednorazowych wysiłków legislacyjnych; wymaga ciągłego zaangażowania i adaptacji.

Silny sprzeciw idzie w parze z terytorium

KOSA zaczęła się we właściwym miejscu, w Kongresie Stanów Zjednoczonych. Jednakże, biorąc pod uwagę globalny zasięg tych platform, skuteczna regulacja wymagałaby federalnego i transnarodowego wsparcia, takiego jak wsparcie Unii Europejskiej, aby zapewnić kompleksową kontrolę. Bez takiego wsparcia legislacyjnego, nie jest prawdopodobne, że platformy społeczne dobrowolnie wprowadzą zmiany, które mogłyby potencjalnie zmniejszyć ich wskaźniki zaangażowania wśród młodszych demografii.

Ustawodawstwo federalne, nawet w skromnym zakresie, oferuje bardziej zjednoczone podejście w porównaniu z rozproszoną kolekcją stanowych praw, które mogłyby umożliwić prokuratorom generalnym dalsze polityczne cele. Federalny framework zapewnia równy podział dla wszystkich platform w stanach, uniemożliwiając firmom zgodnym z przepisami stawianie czoła konkurencyjnym niekorzyściom. Jednak tworzenie takiego ustawodawstwa jest delikatnym procesem, ponieważ musi ono wytrzymać wyzwania prawne z różnych stron, w tym z praw człowieka, dużych firm medialnych, dostawców treści dla dorosłych, którzy są gotowi bronić swoich interesów zdecydowanie.

Wyzwanie wyprzedzania prawnego sprzeciwu jest skomplikowane przez niechęć stron do kompromisu. Radykalna, choć potencjalnie skuteczna strategia, mogłaby polegać na wymuszeniu dialogu między różnymi stronami, takimi jak ACLU, aktywiści na rzecz praw, prawnicy konstytucyjni i obrońcy bezpieczeństwa dzieci, z dyrektywą, że nikt nie opuszcza, dopóki nie osiągnie konsensusu.

Kwestia, w jaki sposób ustawodawstwo powinno regulować korzystanie z technologii do weryfikacji wieku lub tożsamości, jest kluczowa. Porównanie mediów społecznościowych do użyteczności podkreśla argument za surową regulacją: podczas gdy świadczą one niezbędne usługi, niosą one również znaczne ryzyko. Ta analogia zaprasza do ponownej oceny roli i funkcjonalności mediów społecznościowych, zwłaszcza biorąc pod uwagę, jak algorytmy mogą prowadzić użytkowników do coraz bardziej ekstremalnych treści, napędzanych przez dążenie do wyższych wskaźników zaangażowania i dochodów z reklam. Ta dynamika może prowadzić do izolowania się dzieci w internetowych izbach echo, które nasilają nienawiść i niezadowolenie, oddalając je jeszcze bardziej od zdrowszych perspektyw.

Jednak przełomowa zmiana w mediach społecznościowych nie nastąpi w jednym wydarzeniu. KOSA reprezentuje ważny pierwszy krok, ale jest to tylko jeden element w złożonej układance. Ma potencjał, aby przynieść zmianę, ale będzie to następowało etapami.

To jest maraton, a nie sprint

Złożoność zapewnienia bezpieczeństwa online przy jednoczesnym respektowaniu wolności konstytucyjnych jest skomplikowana. Sukces zostanie osiągnięty przez stopniowy, przemyślany postęp w ciągu kilku lat.

Współpraca, kompromis i budowanie konsensusu będą kluczowe dla sukcesu KOSA. To godny cel, ale osiągnięcie konsensusu w jednym zamachu jest mało prawdopodobne. Bardziej praktyczne oczekiwanie jest takie, że KOSA będzie podlegała ciągłej poprawie i udoskonaleniu za pomocą rocznych aktualizacji. Te dostosowania będą informowane przez doświadczenia z poprzedniego roku, dostosowując się do zmian w technologii, wzorców nadużyć i pozwalając branży na odpowiedni czas, aby dostosować się do nowych regulacji.

Idealnie, pierwsza runda, KOSA 2024, powinna objąć oceny treści, weryfikację wieku i opcje wyłączenia/optymalizacji, ostrzeżenia i cenzurę, określając:

• Co jest niedopuszczalne i/lub niezgodne z prawem;
• Jakie treści mogą i muszą być zablokowane przez platformy;
• W jaki sposób należy oznaczyć treści, które są toksyczne, ale nie mogą być zablokowane;
• Jak ostrzegać użytkowników i rodziców oraz jakie bariery umieścić wokół wrażliwych treści;
• Ustawienia domyślne wyłączenia (zablokowania treści).

Reforma algorytmu: kontrowersyjna, ale potencjalnie przełomowa

Następna faza KOSA w 2025 roku będzie koncentrowała się na zwiększeniu odpowiedzialności i ustanowieniu surowszych kar dla platform i osób, które angażują się lub ułatwiają nielegalne działania. To ma na celu powstrzymanie nie tylko rozpowszechniania nielegalnych treści, ale także zajmowanie się zachowaniami, które przyczyniają się do kryzysu zdrowia psychicznego wśród młodzieży, takimi jak nadmierne przewijanie i zanurzanie się w szkodliwych środowiskach online.

Patrząc dalej, późniejsze iteracje mogą oznaczać przełomową zmianę w samej operacji platform społecznościowych, potencjalnie koncentrując się na “odwróceniu algorytmów”, które obecnie prowadzą użytkowników, zwłaszcza młodych, do negatywnych i ryzykownych przestrzeni online. Ambicją jest nie tylko zapobieganie narażeniu na szkodliwe treści, ale także aktywne kierowanie użytkowników ku bezpieczniejszym, bardziej pozytywnym interakcjom online.

Chociaż potencjalnie kontrowersyjna, odwrócenie algorytmów otwiera drogę dla platform do przebudowy samej siebie. Przewidując te zmiany, spółki medialne mogą przygotować się do adaptacji swoich modeli biznesowych. Celem jest pozostanie rentownym przy jednoczesnym tworzeniu środowiska, które priorytetem stawia dobrobyt użytkowników, zwłaszcza młodszej demografii. Ta strategia myślenia o przyszłości sugeruje sytuację wygranych: zabezpieczanie zdrowia psychicznego użytkowników i zapewnianie długoterminowej żywotności platform społecznościowych poprzez kultywowanie zdrowszej, bardziej angażującej społeczności online.

Zmiana jest długo oczekiwana

Zeznania rodzin na przesłuchaniach w Senacie podkreślają potrzebę więcej niż stopniowych zmian w regulacji mediów społecznościowych. Zdecydowana przebudowa, zaczynająca się od KOSA 2024, jest niezbędna do ochrony przed ewoluującymi zagrożeniami sztucznej inteligencji i wpływów zewnętrznych. Proces ten będzie wymagał ciągłych dostosowań, podobnych do tych w SEC i FDA.

Ale brak działania nie jest opcją.

Skoncentrowana, długoterminowa strategia jest kluczowa dla zapewnienia bezpieczeństwa naszej młodzieży na platformach społecznościowych. Poprzez inicjowanie kompleksowych reform i ciągłe doskonalenie tych środków, możemy złagodzić szkody i wreszcie spełnić pierwotną obietnicę mediów społecznościowych – poprawić nasze życie poprzez połączenie.