Перевизначення цифрової арени: хрестовий похід за безпеку молоді в соціальних медіа

Нещодавні слухання в Сенаті щодо соціальних медіа були як суперечливі, так і переконливі. Сенатори поставили перед генеральними директорами великих компаній, таких як Meta, X, TikTok, Snap і Discord, складні питання та вимоги щодо відповідальності за вплив платформ на молодих користувачів. Додатковим трагічним тлом цих процедур були батьки, які сиділи позаду керівників технологічних компаній, чиї діти загинули через використання соціальних медіа. Їхні серцеві історії додали глибоко особистий і трагічний вимір до обговорень.

Компанії соціальних медіа піддаються критиці за свою пасивність щодо шкоди, яку вони завдають. Наслідки їхньої діяльності поширюються на ряд серйозних питань, включаючи булінг, самогубство підлітків, розлади харчування, агресивну поведінку та радикалізацію, серед інших.

У відповідь на ці нагальні проблеми Сенат був активним у створенні Закону про безпеку дітей в Інтернеті (KOSA), комплексного законопроєкту, спрямованого на вирішення численних небезпек, з якими стикаються діти в Інтернеті. Цей закон, результат років обговорень і численних змін, представляє законодавчу спробу змусити компанії соціальних медіа взяти на себе більшу відповідальність за безпеку та добробут своїх молодих користувачів.

Але чи це достатньо?

Не трансформаційний, але заслуговує на похвалу перший крок

Без детального аналізу KOSA зрозуміло, що закон вводить інноваційні заходи, зокрема визначення “обов’язку піклування”, який зобов’язує платформи зменшити ризики для неповнолітніх. Однак діапазон дії KOSA обмежений.

Якщо Конгрес прийме KOSA без подальших дій, його недоліки можуть дозволити негативним наслідкам соціальних медіа для молодих користувачів поширитися. Зокрема, KOSA не запобігає тому, щоб дорослі націлювалися на дітей через ці платформи, оскільки він лише обмежує дорослий контент для користувачів, ідентифікованих як неповнолітні, без реалізації обов’язкової верифікації віку – положення, яке, ймовірно, викличе значну суперечку.

Незважаючи на ці обмеження, KOSA представляє позитивний перший крок до захисту дітей в Інтернеті. Його недоліки не є незворотними. Що важливо, законодавство повинно бути розглянуте не як остаточне рішення, а як початок тривалої, багаторічної спроби реформувати практику соціальних медіа та зменшити їхню шкідливу дію на дітей. Подорож до безпечнішої онлайн-довкілля для неповнолітніх вимагає більше, ніж одноразові законодавчі зусилля; це вимагає постійної присутності та адаптації.

Сильна опозиція супроводжує територію

KOSA почався з правильного місця, у Конгресі США. Однак, враховуючи глобальний охват цих платформ, ефективне регулювання буде вимагати федеральної та транснаціональної підтримки, наприклад, таких як Європейський Союз, для забезпечення комплексного нагляду. Без такого законодавчого забезпечення малоймовірно, що соціальні платформи добровільно впровадять зміни, які потенційно можуть зменшити їхню участь серед молодших демографічних груп.

Федеральні законодавчі акти, навіть у скромному масштабі, пропонують більш уніфікований підхід у порівнянні з розрізненим збором державних законів, які могли б дозволити генеральним прокурорам просувати політичні цілі. Федеральна структура забезпечує рівну гру для всіх платформ по штатах, запобігаючи тим, щоб компанії, які дотримуються законодавства, зазнавали конкурентних недоліків. Однак створення такого законодавства є деликатним процесом, оскільки воно повинно витримувати юридичні виклики з різних сторін, включаючи правозахисників, великі компанії соціальних медіа та постачальників дорослого контенту, всі з яких готові енергійно захищати свої інтереси.

Виклик попередження юридичної реакції ускладнюється неохотою учасників до компромісу. Радикальна, хоча й потенційно ефективна, стратегія могла б полягати у тому, щоб змусити діалог між різними сторонами, такими як ACLU, правозахисники, конституційні юристи та захисники безпеки дітей, з директивою, що ніхто не покидає, доки не буде досягнуто консенсусу.

Питання про те, як законодавство повинно регулювати використання технологій для верифікації віку чи ідентичності, є вирішальним. Порівняння соціальних медіа з комунальними послугами підкреслює аргумент на користь суворого регулювання: хоча вони надають важливі послуги, вони також створюють значні ризики. Ця аналогія запрошує до переоцінки ролі та функціональності соціальних медіа, особливо з урахуванням того, як алгоритми можуть спрямовувати користувачів до все більш екстремального контенту, підігрітою погоні за вищою участю та доходами від реклами. Ця динаміка може привести до того, що діти ізолюють себе в онлайн-камерах, які посилюють ненависть та незадоволеність, ще більше відштовхуючи їх від здоровіших поглядів.

Але суттєві зміни в соціальних медіа не відбудуться в одному заході. KOSA представляє важливий перший крок, проте це лише одна частина складної пазла. У нього є потенціал для зміни, але це відбудеться етапами.

Це марафон, а не спринт

Нюанси забезпечення онлайн-безпеки при збереженні конституційних свобод є складними. Успіх, ймовірно, буде досягнутий через поступовий, вдумливий прогрес упродовж кількох років.

Співпраця, компроміс та будівництво консенсусу будуть критично важливими для успіху KOSA. Це похвальне завдання, проте досягнення консенсусу в одному заході є малоймовірним. Більш практичним очікуванням є те, що KOSA буде продовжено та вдосконалено через щорічні оновлення. Ці корективи будуть інформовані попереднім досвідом, адаптацією до змін технологій, моделей зловживання та надання галузі достатнього часу для адаптації до нових правил.

Ідеально, перший раунд, KOSA 2024, мав би охопити рейтинги контенту, верифікацію віку та опцію виходу/входу, попередження та цензуру шляхом вказівки:

• Який контент є недопустимим і/або незаконним;
• Який контент може і повинен бути заблокований платформами;
• Як точно позначити контент, який є токсичним, але не може бути заблокований;
• Як попередити користувачів та батьків, і які бар’єри встановити навколо чутливого контенту;
• Опція виходу (з блокування контенту) за умовчанням.

Реформа алгоритмів: суперечлива, проте потенційно трансформаційна

Наступна фаза KOSA в 2025 році буде зосереджена на підвищенні відповідальності та встановленні суворіших покарань для платформ та осіб, які займаються або сприяють незаконній діяльності. Це спрямовано на припинення не лише поширення незаконного контенту, але й на вирішення поведінки, яка сприяє кризі психічного здоров’я серед молоді, такої як надмірне скролінг та занурення в шкідливі онлайн-середовища.

Подивившись далі, подальші ітерації могли б позначити суттєву зміну у самій роботі соціальних медіа-платформ, потенційно центруючи навколо “обертання алгоритмів”, які зараз спрямовують користувачів, особливо молодих, до негативних та ризикованих онлайн-просторів. Амбіція полягає не лише у попередженні експозиції до шкідливого контенту, але й у активному спрямуванні користувачів до безпечніших, більш позитивних взаємодій в Інтернеті.

Хоча це суперечливо, обертання алгоритмів відкриває можливість для платформ переосмислити себе. Антиципуючи ці зміни, компанії соціальних медіа можуть готуватися до адаптації своїх бізнес-моделей. Метою є залишатися прибутковими, одночасно створюючи середовище, яке пріоритезує добробут своїх користувачів, особливо молодшої демографічної групи. Ця прогресивна стратегія пропонує виграш-виграш сценарій: забезпечення безпеки психічного здоров’я користувачів та забезпечення довгострокової життєздатності соціальних платформ шляхом культивування здоровішої, більш привабливої онлайн-спільноти.

Зміна вже давно очікується

Свідчення сімей на слуханнях у Сенаті підкреслюють необхідність більш ніж інкрементних змін у регулюванні соціальних медіа. Робустна ревізія, починаючи з KOSA 2024, є суттєвою для захисту від еволюційних загроз штучного інтелекту та зовнішніх впливів. Процес буде вимагати постійних корективів, подібних до тих, що здійснюються SEC та FDA.

Але бездіяльність не є варіантом.

Фокусована, довгострокова стратегія є критично важливою для забезпечення безпеки молоді на соціальних медіа-платформах. Розпочавши комплексні реформи та продовжуючи вдосконалювати ці заходи, ми можемо помітно зменшити шкоду та нарешті виконати первинну обіцянку соціальних медіа — поліпшити наші життя через зв’язок.