AI 생성 디스인포메이션으로부터 우리를 보호할 사람은 누구인가?

제네레이티브 AI는 1년도 되지 않아 제로에서 백으로 발전했습니다. 초기이지만 비즈니스에 변화를 줄 수 있는 잠재력을 보여주었습니다. 우리는 모두 이에 동의할 수 있습니다. 그러나 이 기술이 가져올 위험을 어떻게 억제할 것인지에 대해서는 의견이 분분합니다.

분명히 말하자면, 나는 혁신을 지지하며, 공포를 조성하는 사람이 아닙니다. 그러나 최근의 잘못된 정보가 증가하고 있는데, 이는 현재의 논쟁적인 문제에 대한 편향을 조장하는 것으로, 제네레이티브 AI가 만약 제재 없이 방치된다면 사회에 큰 혼란을 가져올 수 있습니다.

우리는 이미 소셜 미디어에서 이러한 문제를 경험했습니다. 그러나 그것은 수년이 걸렸고, 우리는 어려운 교훈을 얻었습니다. 우리는 무엇인가를 배웠습니다. 오늘의 질문은 누가 제네레이티브 AI의 현실 왜곡을 막을 수 있을까요? 그리고 어떻게?

예상대로, 정부가 행동하기 시작했습니다. 유럽은 기술 규제에서 앞장서고 있으며, 미국은 그 뒤를 따르고 있습니다. 버든 대통령은 지난 10월 행정 명령을 내렸습니다.

그러나 제네레이티브 AI를 진실하게 유지하기 위해서는全球적인 협력이 필요합니다. 그리고 정부가 도움을 줄 수 있으려면, 먼저 현재 접근 방식의 한계를 이해해야 합니다.

아이디티 문제가 더 심각해졌다

이 새로운 세계에서, 진실은 의견의 바다에서 사실로 위장한 가짜 정보를 찾는 것이 됩니다. 누가 이 콘텐츠를 만들었는지가 중요합니다.

그리고 모든 소셜 미디어 계정이 아이디를 인증해야 한다고 명령하는 것은 쉽지 않습니다. 강한 반대가 있을 것이며, 어떤 경우에는匿名성이 필요합니다. 또한, 최악의 콘텐츠를 소비하는 사람들은 신뢰할 수 있는 출처인지, 어디서 왔는지 관심이 없습니다.

이러한 예외에도 불구하고, 제네레이티브 AI와의斗争에서 아이디의 역할은 과소평가되고 있습니다. 회의론자们, 들어보세요.

만약 규제나 사회적 양심이 플랫폼에 아이디 인증을 선택하게 한다면, 사용자는 신뢰할 수 있는 출처를 더 잘 결정할 수 있을 것입니다. 同样重要한 것은, 아이디가 책임을 지는 것을 지원합니다. 플랫폼은 반복적으로 AI 생성 콘텐츠를 남용하는 사용자에 대한 조치를 취할 수 있습니다.

제네레이티브 AI의 위험을 높일수록, 아이디가 중요해집니다. 일부에서는 반대할 수 있지만, 아이디 인증이 모든 계정에 제공된다면, 이는 큰 긍정적인 영향을 미칠 것입니다.

모더레이션의 딜레마

콘텐츠 모더레이션, 즉 자동 및 수동 모더레이션은 원치 않는 콘텐츠에 대한 마지막 방어선입니다. 수동 모더레이션은 심리적 위해를 겪을 수 있으며, 또한 비싼 비용이 들고 편향된 검열로 의심을 받을 수 있습니다.

자동 모더레이션은 인간의 능력을 초과하는 콘텐츠를 다룰 수 있지만, 맥락과 문화적 뉴앙스를 이해하지 못합니다. 두 가지 모더레이션이 모두 필요하지만, 이는 부분적인 해결책입니다.

제네레이티브 AI를 통제하는 일반적인 처방은 “테크 리더, 정부, 시민 사회의 협력이 필요하다”입니다. 그러나 구체적으로 무엇을 해야 할까요?

정부는 플랫폼에 아이디 인증을 제공하고, 모든 게시물에 인증 정보를 표시하도록 할 수 있습니다. 또한, 신뢰할 수 있는 출처를 평가하는 기준을 개발할 수 있습니다. 협력은 사적 부문이 방향을 잃지 않도록, 보편적인 표준을 개발하는 데 필요합니다.

마지막으로, 악의적인 AI 생성 콘텐츠를制作하는 것이 불법이어야 합니까? 불법적인 활동을 위한 콘텐츠를 금지하는 법률은 유해 콘텐츠의 양을 줄이고, 모더레이터의 부담을 줄일 수 있습니다. 나는 규제와 법률이 디스인포메이션을 완전히 물리칠 수 있다고 생각하지 않지만, 이러한 위협에 대처하는 데에는 필수적입니다.

밝은 미래: 혁신

혁신의 가능성이让我乐观합니다. 우리는 정치인이나 플랫폼 소유자가 AI 생성 디스인포메이션으로부터 완전히 보호할 수 없다고 생각합니다. 그들은 큰 간격을 남기고, 이는 새로운 기술의 발명으로 이어질 것입니다.

우리는 이미 소셜 미디어의 단점을 경험했습니다. 제네레이티브 AI는 인간에게 큰 악영향을 미칠 수 있습니다.

楽観적으로 보자면, 제네레이티브 AI의 위험을 줄이기 위한 다각적인 접근 방식이 있습니다. 먼저, 불법 사용을 위한 콘텐츠 생성을 제한합니다. 다음으로, 익명성을 거부하는 사용자의 아이디를 확인합니다. 그다음, 신뢰할 수 있는 출처를 표시하고, 포스터의 아이디 또는 익명성을 표시합니다. 마지막으로, 자동 및 수동 모더레이션이 최악의 콘텐츠를 걸러냅니다. 나는 곧 새로운 인증 기술이 등장할 것으로 기대합니다.

모든 것을 합치면, 우리는 더 나은, 그러나 완벽하지는 않은 해결책을 찾을 수 있을 것입니다. 그동안, 우리는 무엇이 진짜이고,谁가 진실을 말하며,誰가 우리를 속이고 있는지 알기 위한 기술을 개발해야 합니다.