사상 리더

디지털 놀이터 재정의: 청소년의 소셜 미디어 안전을 위한 십자군

mm
Unite.AI를 Google의 선호 소스에 추가

최근 소셜 미디어에 대한 상원 청문회는 양립과 매력 모두를 갖췄다. 상원 의원들은 메타, X, 틱톡, 스냅, 디스코드 등의 주요 회사에서来的 최고 경영자들에게 어려운 질문을 던지고 청소년 사용자에 대한 플랫폼의 영향에 대한 책임을 물었다. 이러한 절차의 감동적인 배경은 기술 리더들 뒤에 앉아 있는 부모들이었다. 그들의 아이들의 죽음은 소셜 미디어 사용과 관련이 있다. 그들의 마음을 아프게 하는 이야기들은 토론에 깊은 개인적이고 비극적인 차원을 부여했다.

소셜 미디어 회사들은 그들이 gây하는 해를 무시한 것으로 비난을 받고 있다. 그들의 운영의 결과는 집단 따돌림, 청소년 자살, 식사 장애, 폭력적인 행동, 급진화 등 다양한 심각한 문제로 확장된다.

이러한 긴급한 문제에 대응하여, 상원은 아동 온라인 안전법 (KOSA)을 제정했다. 이는 어린이들이 온라인에서 직면하는 다양한 위험에 대한 종합적인 입법이다. 이 법은 수년간의 토론과 수많은 개정의 결과로, 소셜 미디어 회사들이 가장 어린 사용자의 안전과 복지를 더 많이 책임지도록 강요하는 입법적 노력이다.

하지만 이것이 충분한가?

변화의 첫 번째 단계지만 변혁적이지는 않다

KOSA를 세부적으로 분석하지 않더라도, 이 법은 혁신적인 조치를 도입한다는 것이 명확하다. 특히, 소셜 미디어 플랫폼이 청소년에게 미치는 위험을 줄이는 의무를 정의한다. 그러나 KOSA의 범위는 제한적이다.

만약 의회가 추가 조치를 취하지 않고 KOSA를 제정한다면, 소셜 미디어의 부정적인 영향이 청소년에게 퍼질 수 있다. 특히, KOSA는 성인 콘텐츠를 18세 미만 사용자에게 제한하지만, 필수적인 나이 인증을 구현하지 않는다. 이는 상당한 논쟁을 불러일으킬 가능성이 있다.

이러한 제한에도 불구하고, KOSA는 어린이들을 온라인에서 안전하게 지키는 첫 번째 단계로 긍정적인 의미를 갖는다. 그 결점은 고칠 수 있다. 중요하게는, 이 법은 최종적인 해결책이 아니라, 소셜 미디어 관행을 개혁하고 청소년에게 미치는 해로운 영향을 줄이기 위한 지속적인 노력의 시작으로 보아야 한다. 청소년을 위한 더 안전한 온라인 환경을 만들기 위한 여정은 일회적인 입법적 노력만으로는 충분하지 않다. 이는 지속적인 헌신과 적응을 필요로 한다.

강한 반대는 영토와 함께 온다

KOSA는 미국 의회에서 시작되었다. 그러나 이러한 플랫폼의 글로벌 범위에 비추어 볼 때, 효과적인 규제는 연방 및 초국가적 지지를 필요로 한다. 이러한 규제적 지원 없이, 소셜 플랫폼이 자발적으로 청소년 인구 통계에 대한 참여 지표를 낮출 수 있는 변경을 구현할 가능성은 낮다.

연방 입법, 즉 소규모 입법은 다양한 주 법률의 모음보다 더 통일된 접근 방식을 제공한다. 이는 각 주의 검사들이 정치적 목표를 추구하는 것을 방지할 수 있다. 연방 프레임워크는 모든 플랫폼에 대한 수준된 경쟁 환경을 보장한다. 그러나 이러한 입법을 제정하는 것은 복잡한 과정이다. 이는 다양한 분야의 법적 도전을 견디시켜야 한다.

다양한 당사자 간의 대화를 강제하는 급진적이지만 потен적으로 효과적인 전략은 ACLU, 인권 활동가, 헌법 변호사, 아동 안전 옹호자 등 다양한 당사자 간의 대화를 강제하는 것이다. 그들은 모두 자신의 이익을 강력하게 옹호할 준비가 되어 있다.

기술을 사용하여 나이 또는 신원 확인을 규제하는 법은 결정적이다. 소셜 미디어를 공공 유틸리티와 비교하면, 엄격한 규제를 주장하는 논리가 된다. 이는 소셜 미디어의 역할과 기능성을 재평가하도록 초대한다. 특히, 알고리즘이 사용자를 극단적인 콘텐츠로 유도하는 방식과 광고 수익을 추구하는 방식이 어떻게 청소년을孤立시키는지 이해하는 것이 중요하다.

그러나 소셜 미디어의 광범위한 변화는 단일 이벤트로 발생하지 않는다. KOSA는 중요한 첫 번째 단계이지만, 이는 복잡한 퍼즐의 한 조각에 불과하다. 이는 변화를 가져올 수 있지만, 이는 단계적으로 발생할 것이다.

마라톤, 스프린트가 아니다

온라인 안전을 보장하면서 헌법적 자유를 지키는 것은 복잡하다. 성공은 여러 해에 걸쳐서 점진적으로 달성될 것이다.

협력,妥協, 합의는 KOSA의 성공에 결정적이다. 이는 훌륭한 목표이지만, 일회적인 합의를 달성하는 것은 어렵다. 더 실질적인 기대는 KOSA가 연간 업데이트를 통해 지속적으로 개선되고 강화되는 것이다. 이러한 조정은 이전 해의 경험, 기술의 변화, 남용 패턴에 대한 대응, 그리고 산업이 새로운 규제에 적응할 수 있는 시간을 고려하여 이루어질 것이다.

理想적으로, 첫 번째 버전인 KOSA 2024는 콘텐츠 등급, 나이 인증 및 옵트아웃/인, 경고 및 검열을 지정함으로써:

  • 어떤 콘텐츠가 수용 불가능하거나 불법인지;
  • 어떤 콘텐츠를 플랫폼이 차단해야 하는지;
  • 독성이지만 차단할 수 없는 콘텐츠를 어떻게 레이블링할 것인지;
  • 사용자와 부모를 어떻게 경고하고, 어떤 장벽을 민감한 콘텐츠 주변에 둘 것인지;
  • 콘텐츠 차단의 기본 설정.

알고리즘 개혁: 논란의 여지 있지만 잠재적으로 변혁적

KOSA의 다음 단계는 2025년에 책임성을 강화하고 플랫폼 및 개인이 불법 행위를 하는 경우 더 엄격한 처벌을 설정하는 것이다. 이는 불법 콘텐츠의 확산뿐만 아니라, 청소년의 정신 건강 위기를 악화시키는 행동, 즉 과도한 스크롤링이나 유해한 온라인 환경에 대한 노출을 해결하기 위한 것이다.

더 나아가, 이후의 반복은 소셜 미디어 플랫폼의 운영에 대한 근본적인 변화를 가져올 수 있다. 특히, 사용자를 부정적인 온라인 공간으로 유도하는 현재의 알고리즘을 “반전”시키는 것을 목표로 한다. 여기서의 목표는 유해한 콘텐츠에 대한 노출을 방지하는 것뿐만 아니라, 사용자를 더 안전하고 긍정적인 상호작용으로 유도하는 것이다.

이러한 변화는 논란의 여지가 있지만, 소셜 미디어 회사들이 자신을 재창조할 수 있는 기회를 제공한다. 이러한 변화에 대비하여, 소셜 미디어 회사들은 비즈니스 모델을 적응시키기 위해 준비할 수 있다. 목표는 사용자의 복지를 우선시하는 환경을 조성하면서도 수익성을 유지하는 것이다. 이는 승승的情况이다: 사용자의 정신 건강을 보호하고, 더 건강한 온라인 커뮤니티를 조성하여 소셜 플랫폼의 장기적인 지속 가능성을 보장한다.

변화는 오래전부터 필요했다

상원 청문회에서 가족들의 증언은 소셜 미디어 규제에 대한 더 심층적인 변화의 필요성을 강조한다. 강력한 개혁, 즉 KOSA 2024를 시작으로, 인공 지능과 외부 영향의不断하는 위협으로부터 어린이들을 보호하기 위해 필요하다. 이 과정은 지속적인 조정을 필요로 할 것이다.

그러나 무행동은 선택이 아니다.

초점을 맞추고 장기적인 전략은 소셜 미디어 플랫폼에서 우리의 청소년을 안전하게 지키는 데 결정적이다. 종합적인 개혁을 시작하고 이러한 조치를 지속적으로 개선함으로써, 우리는 해를 줄이고 최终적으로 소셜 미디어의 원래 약속, 즉 연결을 통해 우리의 삶을 개선하는 것을 달성할 수 있다.

제프 사카세가와는 Persona의 신뢰 및 안전 아키텍트입니다. 구글, 페이스북, 스퀘어, 시프트와 같은 회사에서 신뢰 및 안전 분야에서 10년 이상의 경험을 가지고 있습니다. 제프는 위험 관리 및 규정 준수를 전문으로 하며 모든 사용자가 안전한 온라인 경험을 할 수 있도록 열정적으로 일하고 있습니다.