关注我们.

思想领袖

重新定义数字游乐场:社交媒体中青少年安全的远征

mm

发布时间

 on

最近 社交媒体上的参议院听证会 既尖刻又令人信服。参议员们面对 Meta、X、TikTok、Snap 和 Discord 等大公司的首席执行官提出了尖锐的问题,并要求对这些平台对年轻用户的影响承担责任。坐在科技领袖身后的父母为这些诉讼增添了令人心酸的背景,他们的孩子的死亡与社交媒体的使用有关。他们令人心碎的故事为讨论增添了深刻的个人和悲剧色彩。

社交媒体公司因对其造成的伤害漠不关心而受到批评。他们的行动造成了一系列严重问题,包括欺凌、青少年自杀、饮食失调、暴力行为和激进化等。

为了应对这些紧迫的担忧,参议院一直在积极制定 儿童在线安全法案 (KOSA)是一项全面的立法,旨在解决儿童在网上面临的各种危险。该法案是经过多年审议和多次修订的结果,代表了一项立法努力,旨在迫使社交媒体公司对其最年轻用户的安全和福祉承担更多责任。

但是够了吗?

不是转型,但值得信赖的第一步

无需对 KOSA 进行微观分析,很明显该法案引入了创新措施,特别是定义了“注意义务”,要求平台降低未成年人的风险。然而,KOSA 的影响力有限。 

如果国会在不采取进一步行动的情况下颁布 KOSA,其缺陷可能会使社交媒体对年轻用户的不利影响激增。具体来说,KOSA 并不阻止成年人通过这些平台针对儿童,因为它只限制未成年用户的成人内容,而没有实施强制性年龄验证——这一条款可能会引发重大争议。

尽管存在这些限制,KOSA 仍然是保护上网儿童的积极的第一步。它的缺陷并非无法弥补。重要的是,该立法不应被视为最终解决方案,而应被视为改革社交媒体实践并减少其对儿童有害影响的持续多年努力的开始。为未成年人打造更安全的网络环境需要的不仅仅是一次性的立法努力;它需要持续的承诺和适应。

领土上强烈反对

KOSA 的起点是正确的,那就是美国国会。但考虑到这些平台的全球影响力,有效的监管将需要联邦和跨国的支持,例如欧盟的支持,以确保全面的监督。如果没有这样的立法支持,社交平台不太可能自愿实施可能会降低其在年轻人群中的参与度指标的变革。

与分散的各州法律相比,联邦立法即使规模不大,也提供了更加统一的方法,这可以使总检察长能够进一步实现政治目标。联邦框架确保各州所有平台的公平竞争环境,防止合规公司面临竞争劣势。然而,制定此类立法是一个微妙的过程,因为它必须承受来自各方的法律挑战,包括维权人士、主要社交媒体公司和成人内容提供商,他们都准备好大力捍卫自己的利益。

由于利益相关者不愿妥协,先发制人的法律阻力的挑战变得更加复杂。一种激进但可能有效的策略可能包括迫使不同政党之间进行对话,例如美国公民自由联盟、权利活动人士、宪法律师和儿童安全倡导者,并发出一项指令,在达成共识之前任何人都不能离开。

立法应如何规范年龄或身份验证技术的使用问题至关重要。将社交媒体与公用事业进行比较,凸显了严格监管的论点:它们在提供基本服务的同时,也带来了重大风险。这种类比引发了对社交媒体角色和功能的重新评估,特别是考虑到算法如何在追求更高参与度和广告收入的推动下推动用户走向日益极端的内容。这种动态可能导致儿童将自己孤立在网络回声室中,从而加剧仇恨和不满,进一步疏远他们从更健康的角度来看。

但社交媒体的彻底改变不会在一次事件中发生。 KOSA 代表了重要的第一步,但它只是复杂难题中的一小部分。它有潜力带来改变,但会分阶段发生。

这是一场马拉松,而不是短跑。

在维护宪法自由的同时确保网络安全是错综复杂的。通过几年内渐进的、深思熟虑的进展,可能会取得成功。

合作、妥协和建立共识对于 KOSA 的成功至关重要。这是一个令人钦佩的目标,但一举达成共识的可能性不大。更实际的期望是 KOSA 通过年度更新不断完善和增强。这些调整将借鉴前一年的经验,适应技术的转变和滥用模式,并让行业有足够的时间来适应新的法规。

理想情况下,第一轮 KOSA 2024 将包括内容评级、年龄验证和选择退出/加入、警告和审查,具体规定:

  • 哪些内容是不可接受和/或非法的;
  • 哪些内容可以而且必须被平台屏蔽;
  • 到底如何对有毒但无法屏蔽的内容进行标注;
  • 如何警告用户和家长,以及在敏感内容周围设置哪些障碍;
  • 选择退出(内容块)默认设置。

算法改革:有争议但具有潜在变革性 

KOSA 的下一阶段(2025 年)将重点加强问责制,并对参与或协助非法活动的平台和个人制定更严厉的处罚措施。此举不仅旨在遏制非法内容的传播,还旨在解决导致青少年心理健康危机的行为,例如过度的末日滚动和陷入有害的网络环境。

展望未来,后续的迭代可能标志着社交媒体平台运营的关键转变,可能以“扭转算法”为中心,这些算法目前引导用户,尤其是年轻人,走向负面和危险的在线空间。我们的目标不仅是防止接触有害内容,而且积极引导用户进行更安全、更积极的在线互动。

虽然可能存在争议,但扭转算法为平台重塑自我开辟了一条途径。通过预测这些变化,社交媒体公司可以准备调整其商业模式。目标是保持盈利,同时营造一个优先考虑用户福祉的环境,尤其是年轻人的福祉。这一前瞻性战略提出了一种双赢的方案:通过培育更健康、更具吸引力的在线社区,保障用户的心理健康并确保社交平台的长期生存能力。

改变早就该发生了

家庭在参议院听证会上的证词强调,社交媒体监管不仅仅需要渐进式改变。从 KOSA 2024 开始的强有力的改革对于防范人工智能和外部影响不断演变的威胁至关重要。该过程将需要不断调整,类似于 证券交易委员会FDA.

但无所作为并不是一种选择。

一项有重点的长期战略对于确保青少年在社交媒体平台上的安全至关重要。通过启动全面改革并不断完善这些措施,我们可以减轻伤害,并最终兑现社交媒体最初的承诺——通过联系改善我们的生活。

杰夫坂濑川是 用户画像的信任与安全架构师。 Jeff 在 Google、Facebook、Square 和 Sift 等公司的信任与安全领域拥有十多年的经验,是风险管理和合规性方面的专家。他热衷于确保所有用户的安全在线体验。