思想领袖

重定义数字游乐场:社交媒体青年安全的十字军东征

mm

最近的参议院关于社交媒体的听证会既激烈又引人入胜。参议员们面对来自主要公司的CEO,如Meta、X、TikTok、Snap和Discord,提出尖锐的问题,要求他们对平台对年轻用户的影响负责。这些听证会的背景是坐在科技领导人后面的父母,他们的孩子的死亡与社交媒体使用有关。他们令人心碎的故事为讨论添加了深刻的个人和悲惨的维度。

社交媒体公司因其被认为的对自己造成的伤害的漠不关心而受到批评。他们的运营后果包括一系列严重的问题,包括欺凌、青少年自杀、饮食失调、暴力行为和激进化等。

为了应对这些紧迫的问题,参议院一直积极地制定儿童在线安全法案(KOSA),这是一项全面性的立法,旨在解决儿童在线面临的各种危险。该法案是多年审议和多次修订的结果,代表了立法机构迫使社交媒体公司对其最年轻用户的安全和福祉承担更多责任的努力。

但这是否足够?

不是变革性的,但是一步值得称赞的第一步

不需要对KOSA进行微观分析,就可以看出该法案引入了创新措施,特别是定义了“照顾义务”,要求平台减少对未成年人的风险。然而,KOSA的范围是有限的。

如果国会在不采取进一步行动的情况下通过KOSA,其缺陷可能会导致社交媒体对年轻用户的负面影响继续蔓延。特别是,KOSA并没有阻止成年人通过这些平台针对儿童,因为它只限制了被识别为未成年人的用户的成人内容,而没有实施强制性年龄验证——这可能是一个引起重大争议的规定。

尽管存在这些限制,KOSA代表了朝着保护儿童在线安全迈出的积极的第一步。其缺陷并非无法修复。重要的是,该立法应被视为最终解决方案的开始,而不是对社交媒体实践进行改革和减少其对儿童的有害影响的持续、多年努力的开始。确保在线环境对未成年人安全的旅程需要比一次性立法努力更长久的承诺和适应。

强烈的反对是必然的

KOSA从正确的地方开始,即美国国会。但是,考虑到这些平台的全球影响,有效的监管将需要联邦和跨国支持,例如欧盟,以确保全面监督。没有这种立法支持,社交平台不太可能自愿实施可能降低其在年轻人口中的参与度指标的变化。

即使是有限的联邦立法,也比各州法律的杂乱无章提供了更统一的方法,这可能会使遵守公司面临竞争劣势。然而,制定这样的立法是一个微妙的过程,因为它必须能够抵御来自各个方面的法律挑战,包括权利活动家、主要社交媒体公司和成人内容提供商,他们都准备好积极地捍卫自己的利益。

预防法律反弹的挑战因利益相关者不愿意妥协而加剧。一个激进但可能有效的策略可能涉及迫使不同方之间进行对话,例如美国公民自由联盟、权利活动家、宪法律师和儿童安全倡导者,并指示他们不要离开,直到达成共识。

关于如何规范技术用于年龄或身份验证的法律至关重要。将社交媒体与公用事业进行比较强调了严格监管的必要性:虽然它们提供基本服务,但也带来了重大风险。这种类比邀请人们重新评估社交媒体的角色和功能,特别是考虑到算法如何将用户,尤其是年轻用户,引导到负面和有风险的在线空间。这种动态可能导致儿童在在线回音室中孤立自己,这些回音室加剧了仇恨和不满,进一步使他们与更健康的观点脱节。

但社交媒体的根本性改变不会在一夜之间发生。KOSA代表了一个重要的第一步,但它只是一个复杂拼图中的一块。它有可能带来改变,但这种改变将逐渐发生。

这是一场马拉松,而不是短跑

确保在线安全同时维护宪法自由的复杂性是显而易见的。成功可能需要多年的渐进式、深思熟虑的进步。

合作、妥协和共识建设将是KOSA成功的关键。虽然这是一个令人钦佩的目标,但不太可能在一蹴而就中实现共识。更为实际的期望是KOSA将在年度更新中不断完善和增强。这些调整将根据前一年的经验进行,适应技术的变化、滥用模式,并给行业足够的时间来适应新的法规。

理想情况下,第一轮KOSA 2024将包括内容评级、年龄验证和退出/进入、警告和审查,具体规定:

  • 什么内容是不可接受和/或违法的;
  • 什么内容可以和必须被平台阻止;
  • 如何标记有毒但无法阻止的内容;
  • 如何警告用户和家长,并在敏感内容周围设置屏障;
  • 退出(内容块)默认设置。

算法改革:有争议但可能具有变革性的

KOSA的下一阶段将于2025年重点加强问责制和建立更严格的惩罚措施,针对从事或促进非法活动的平台和个人。这旨在不仅遏制非法内容的传播,还要解决促成青年中精神健康危机的行为,例如过度的“灾难滚动”和陷入有害的在线环境。

展望未来,后续迭代可能标志着社交媒体平台运营方式的根本性转变,可能围绕“逆转算法”展开,这些算法目前将用户,尤其是年轻用户,引导到负面和有风险的在线空间。这里的雄心壮志不仅是防止接触有害内容,还积极地引导用户向更安全、更积极的在线互动。

虽然这种转变可能存在争议,但它为平台提供了重新定义自己的机会。通过预测这些变化,社交媒体公司可以准备好适应他们的商业模式。目标是保持盈利能力,同时培养一个优先考虑其用户福祉(尤其是年轻一代)的环境。这种前瞻性战略表明这是一个双赢的局面:保护用户的精神健康和确保社交平台的长期可行性,通过培养一个更健康、更吸引人的在线社区。

改变是长期以来必需的

在参议院听证会上的证词凸显了对社交媒体监管的需求,不仅仅是渐进式的改变。从KOSA 2024开始,全面改革对于防范人工智能和外部影响的不断演变威胁至关重要。这个过程将需要持续的调整,类似于证券交易委员会和食品药物管理局的做法。

但不作为不是一个选择。

一个专注的长期战略对于确保我们的青年在社交媒体平台上的安全至关重要。通过启动全面改革并不断完善这些措施,我们可以减轻伤害,最后实现社交媒体最初的承诺——通过联系使我们的生活更美好。

Jeff Sakasegawa 是 Persona 的信任与安全架构师。凭借十多年的信任与安全领域经验,曾在 Google、Facebook、Square 和 Sift 等公司任职,Jeff 是风险管理和合规方面的专家。他热衷于确保所有用户拥有安全的在线体验。