Переопределение цифровой площадки: крестовый поход за безопасность молодежи в социальных сетях

Недавние сенатские слушания по социальным сетям были одновременно ожесточенными и убедительными. Сенаторы столкнулись с генеральными директорами крупных компаний, таких как Meta, X, TikTok, Snap и Discord, задавая им жесткие вопросы и требуя ответственности за влияние этих платформ на молодых пользователей. Родители, сидевшие за спинами технологических лидеров, чьи дети умерли в связи с использованием социальных сетей, добавили поэтический фон к этим процедурам. Их разрывающие сердце истории придавали глубоко личный и трагический характер обсуждениям.

Компании социальных сетей подвергаются критике за их предполагаемую безразличность к вреду, который они причиняют. Последствия их деятельности распространяются на ряд серьезных проблем, включая буллинг, подростковый суицид, расстройства питания, агрессивное поведение и радикализацию, среди прочих.

В ответ на эти насущные проблемы Сенат принимал активные меры по разработке закона о безопасности детей в Интернете (KOSA), комплексного законодательного акта, направленного на решение многочисленных опасностей, с которыми сталкиваются дети в Интернете. Этот акт, результат летних обсуждений и многочисленных редактирований, представляет собой законодательную попытку заставить компании социальных сетей взять на себя больше ответственности за безопасность и благополучие своих самых молодых пользователей.

Но достаточно ли этого?

Не трансформационно, но заслуживающий доверия первый шаг

Без микроанализа KOSA rõчно, что акт вводит инновационные меры, в частности, определяя “долг заботы”, который требует от платформ снижать риски для несовершеннолетних. Однако, охват KOSA ограничен.

Если Конгресс примет KOSA без дальнейших действий, его недостатки могут позволить негативным последствиям социальных сетей для молодых пользователей распространиться. В частности, KOSA не предотвращает того, что взрослые будут нацеливаться на детей через эти платформы, поскольку он только ограничивает контент для взрослых для пользователей, идентифицированных как несовершеннолетние, без реализации обязательной верификации возраста – положение, которое, вероятно, вызовет значительную полемику.

Несмотря на эти ограничения, KOSA представляет собой положительный первоначальный шаг к защите детей в Интернете. Его недостатки не являются неремонтными. Важно, что законодательство должно рассматриваться не как окончательное решение, а как начало устойчивых, многолетних усилий по реформированию практик социальных сетей и снижению их вредного воздействия на детей. Путь к более безопасной онлайн-среде для несовершеннолетних требует больше, чем одноразовые законодательные усилия; он требует постоянной приверженности и адаптации.

Сильная оппозиция является частью территории

KOSA начался в правильном месте, в Конгрессе США. Но учитывая глобальный охват этих платформ, эффективное регулирование потребует федеральной и транснациональной поддержки, такой как поддержка Европейского Союза, для обеспечения комплексного надзора. Без такого законодательного обеспечения маловероятно, что социальные платформы добровольно внедрят изменения, которые потенциально могут снизить их показатели вовлеченности среди более молодых демографических групп.

Федеральное законодательство, даже в скромных масштабах, предлагает более унифицированный подход по сравнению с разрозненной коллекцией государственных законов, которые могли бы позволить генеральным прокурорам продвигать политические цели. Федеральная основа обеспечивает равные условия для всех платформ во всех штатах, предотвращая то, что компаниям, которые соблюдают правила, придется сталкиваться с конкурентными недостатками. Однако разработка такого законодательства является деликатным процессом, поскольку оно должно выдержать юридические проблемы со стороны различных сторон, включая правозащитников, крупные компании социальных сетей и поставщиков контента для взрослых, все из которых готовы яростно защищать свои интересы.

Проблема предотвращения юридического давления усложняется нежеланием заинтересованных сторон идти на компромисс. Радикальная, хотя и потенциально эффективная, стратегия могла бы заключаться в том, чтобы заставить диалог между различными сторонами, такими как ACLU, правозащитники, конституционные юристы и защитники безопасности детей, с директивой, что никто не уйдет, пока не будет достигнуто согласие.

Вопрос о том, как законодательство должно регулировать использование технологий для верификации возраста или идентификации, является решающим. Сравнение социальных сетей с коммунальными услугами подчеркивает аргумент в пользу строгого регулирования: хотя они предоставляют необходимые услуги, они также представляют значительные риски. Этот аналогий приглашает переоценить роль и функциональность социальных сетей, особенно учитывая, как алгоритмы могут направлять пользователей к все более экстремальному контенту, подогреваемому стремлением к более высокой вовлеченности и доходам от рекламы. Эта динамика может привести к тому, что дети будут изолироваться в онлайн-камерах, которые усугубляют ненависть и недовольство, еще больше отдаляя их от более здоровых точек зрения.

Но значительные изменения в социальных сетях не произойдут за один раз. KOSA представляет собой важный первоначальный шаг, но это только одна часть сложной головоломки. У него есть потенциал для изменения, но это произойдет на протяжении нескольких этапов.

Это марафон, а не спринт

Сложности обеспечения онлайн-безопасности при сохранении конституционных свобод являются сложными. Успех, вероятно, будет достигнут через постепенный, вдумчивый прогресс на протяжении нескольких лет.

Сотрудничество, компромисс и построение консенсуса будут иметь решающее значение для успеха KOSA. Это похвальная цель, но достижение консенсуса за один раз маловероятно. Более практичным ожиданием является то, что KOSA будет подвергаться постоянному совершенствованию и улучшению посредством ежегодных обновлений. Эти корректировки будут информироваться опытом предыдущего года, адаптируясь к изменениям в технологиях, моделях злоупотребления и позволяя отрасли достаточное время для адаптации к новым правилам.

Идеально, первый раунд, KOSA 2024, должен включать рейтинги контента, верификацию возраста и опцию отказа/согласия, предупреждения и цензуру, указывая:

• Какой контент является недопустимым и/или незаконным;
• Какой контент может и должен быть заблокирован платформами;
• Точно, как помечать контент, который является токсичным, но не может быть заблокирован;
• Как предупреждать пользователей и родителей, и какие барьеры устанавливать вокруг чувствительного контента;
• Опция отказа (от блокировки контента) по умолчанию.

Реформа алгоритмов: спорная, но потенциально трансформационная

Следующая фаза KOSA в 2025 году будет сосредоточена на повышении подотчетности и установлении более строгих наказаний для платформ и лиц, которые занимаются или способствуют незаконной деятельности. Это направлено на снижение не только распространения незаконного контента, но и на решение поведенческих проблем, которые способствуют кризису психического здоровья среди молодежи, таких как чрезмерное скроллинг и погружение в вредные онлайн-среды.

Глядя вперед, последующие итерации могли бы ознаменовать важный сдвиг в самой операции социальных сетей, потенциально центрируясь вокруг “обращения алгоритмов”, которые в настоящее время направляют пользователей, особенно молодых, к негативным и рискованным онлайн-пространствам. Стремление здесь заключается не только в предотвращении воздействия вредного контента, но и в активном направлении пользователей к более безопасным и позитивным онлайн-взаимодействиям.

Хотя это может быть спорным, обращение алгоритмов открывает путь для платформ переизобрести себя. Предвидя эти изменения, компании социальных сетей могут подготовиться к адаптации своих бизнес-моделей. Цель состоит в том, чтобы остаться прибыльными, одновременно создавая среду, которая ставит во главу угла благополучие своих пользователей, особенно более молодой демографической группы. Эта перспектива предполагает выигрыш-win сценарий: защита психического здоровья пользователей и обеспечение долгосрочной жизнеспособности социальных платформ путем культивирования более здорового и увлекательного онлайн-сообщества.

Изменения давно назрели

Свидетельства семей на сенатских слушаниях подчеркивают необходимость более чем постепенных изменений в регулировании социальных сетей. Радикальная переработка, начиная с KOSA 2024, является необходимой для защиты от эволюционирующих угроз искусственного интеллекта и внешних влияний. Процесс будет требовать постоянных корректировок, подобных тем, которые используются в SEC и FDA.

Но бездействие не является вариантом.

Сосредоточенная, долгосрочная стратегия имеет решающее значение для обеспечения безопасности молодежи на социальных платформах. Инициируя комплексные реформы и постоянно совершенствуя эти меры, мы можем снизить вред и, наконец, выполнить первоначальную обещание социальных сетей – улучшить нашу жизнь через связь.