사상가
2023년 비즈니스를 위해 생성 AI 음성을 윤리적으로 사용하는 방법
2022년 말에는 OpenAI 및 ChatGPT의 놀라운 인기로 인해 널리 채택되는 AI 기술이 뒤따랐습니다. AI는 처음으로 성공적인 비즈니스 결과를 창출하는 데 있어 유용성과 가치를 입증함으로써 대중 시장의 매력을 얻었습니다.
2023년 일반인들에게는 혁명처럼 보이는 많은 AI 기술들이 실제로는 대기업과 언론에서 몇 년 전부터 활발히 사용되고 있다. 저와 함께 이러한 솔루션을 지원하는 기술, 특히 음성 복제를 위한 생성 AI 시스템, 비즈니스 이점 및 AI 사용에 대한 윤리적 접근 방식에 대해 자세히 살펴보겠습니다.
음성 복제는 어떻게 작동합니까?
즉, 음성 복제는 한 사람이 다른 사람의 목소리를 사용하여 말할 수 있게 합니다.
생성 AI 기술을 사용하여 사람의 목소리를 녹음하고 이를 사용하여 동일한 사람의 목소리로 새로운 오디오 콘텐츠를 생성합니다. 그것은 본질적으로 사람들이 스스로 말하지 않더라도 누군가가 말했을 내용을 들을 수 있도록 합니다.
기술적인 측면에서는 상황이 그리 복잡해 보이지 않습니다. 그러나 조금 더 깊이 들어가면 시작하기 위한 몇 가지 최소 요구 사항이 있습니다.
- 원본 음성을 복제하려면 최소 5분 분량의 고품질 녹음 오디오가 필요합니다. 불완전한 부분이 모델 출력의 정확도에 영향을 미칠 수 있으므로 이러한 기록은 깨끗하고 배경 잡음이나 기타 왜곡이 없어야 합니다.
- 그런 다음 이러한 녹음을 생성 AI 모델에 공급하여 "음성 아바타"를 만듭니다.
- 그런 다음 피치와 타이밍의 음성 패턴을 정확하게 재현하도록 모델을 훈련시킵니다.
- 완료되면 이 훈련된 모델은 다른 사람의 소스 음성을 사용하여 무제한 콘텐츠를 생성할 수 있으므로 사실적으로 들리는 복제 음성을 생성하는 효과적인 도구가 됩니다.
이것은 많은 사람들이 윤리적 문제를 제기하는 지점입니다. 다른 사람의 입에 텍스트를 삽입할 수 있고 그 단어가 진짜인지 가짜인지 구분할 수 없다면 어떻게 될까요?
예, 이 가능성은 현실이 된 지 오래되었습니다. OpenAI와 ChatGPT의 경우처럼 현재 우리는 간과할 수 없는 많은 윤리적 문제에 직면해 있습니다.
AI의 윤리적 기준
채택 초기 단계에 있는 다른 많은 새로운 기술과 마찬가지로 주요 위협은 토론과 귀중한 지식의 소스로 위협을 인정하기보다는 기술에 대한 부정적인 낙인을 만드는 것입니다. 중요한 것은 악의적인 행위자가 기술과 제품을 악용하고 완화 도구를 적용하고 학습을 계속하는 데 사용하는 방법을 폭로하는 것입니다.
오늘날 우리는 생성 AI 사용과 관련된 윤리적 기준을 위한 세 가지 계층의 프레임워크를 가지고 있습니다. 국가 및 초국가적 규제 계층은 개발 초기 단계에 있습니다. 정책 세계는 신흥 기술의 개발 속도를 따라잡지 못할 수 있지만, 우리는 이미 EU가 AI 규제에 대한 EU 제안 와 2022년 허위 정보 실행 강령 이는 거대 기술 회사가 악의적인 AI 조작 콘텐츠의 유포를 해결하기 위한 기대치를 설명합니다. 국가 차원에서 우리는 미국과 영국이 이 문제를 해결하기 위한 규제의 첫 단계를 국립 딥페이크 및 디지털 출처 태스크 포스 그리고 영국 온라인 안전 청구서.
기술 산업 계층은 기업과 기술자가 새로운 기술과 사회 보안 및 개인 정보 보호에 미치는 영향과 관련하여 이 새로운 현실을 받아들이면서 더 빠르게 움직이고 있습니다. 생성적 AI의 윤리에 대한 대화는 활기차고 생성적 AI 사용에 관한 행동 강령에 대한 업계 이니셔티브 개발로 이어졌습니다. AI 합성 미디어 행동 강령에 대한 파트너십) 및 여러 회사에서 발표한 윤리적 진술. 문제는 어떻게 행동을 실용적으로 만들 것인가 하는 것입니다. 그리고 제품, 특정 기능 및 팀의 절차에 영향을 미칠 수 있습니까?
다양한 미디어 및 엔터테인먼트, 사이버 보안 및 AI 윤리 커뮤니티와 함께 이 문제를 해결하기 위해 저는 특히 AI 콘텐츠 및 음성을 처리하기 위한 몇 가지 실용적인 원칙을 공식화했습니다.
- IP 소유자와 복제된 음성을 사용하는 회사는 법적 계약에 서명함으로써 원본 음성 사용과 관련된 많은 잠재적인 합병증을 피할 수 있습니다.
- 프로젝트 소유자는 청취자가 오해하지 않도록 복제된 음성의 사용을 공개적으로 공개해야 합니다.
- 음성용 AI 기술을 연구하는 회사는 AI 생성 콘텐츠를 감지하고 식별할 수 있는 기술 개발에 일정 비율의 리소스를 할당해야 합니다.
- 워터마크로 AI 생성 콘텐츠에 레이블을 지정하면 음성 인증이 가능합니다.
- 각 AI 서비스 공급자는 작업에 동의하기 전에 각 프로젝트의 영향(사회적, 비즈니스 및 개인 정보 보호 수준)을 검토해야 합니다.
물론 AI의 윤리 원칙은 온라인에서 직접 만든 딥 페이크의 확산에 영향을 미치지 않습니다. 그러나 그들은 공개 시장의 손이 닿지 않는 회색의 모든 프로젝트를 추진할 것입니다.
2021~22년에는 윤리와 사회에 큰 영향을 미치는 다양한 주류 프로젝트에 AI 음성이 사용되었습니다. 여기에는 다음이 포함됩니다. 어린 루크 스카이워커의 목소리 복제 만달로리안 시리즈의 경우 God of War 2의 AI 음성및 역사적인 '달 재해의 경우'에 대한 리처드 닉슨의 목소리.
기술에 대한 신뢰는 미디어와 엔터테인먼트를 넘어 성장하고 있습니다. 많은 산업 분야의 전통적인 비즈니스는 프로젝트에서 복제된 음성을 사용하고 있습니다. 다음은 가장 눈에 띄는 몇 가지 사용 사례입니다.
산업 사용 사례
2023년에도 음성 복제는 수많은 이점을 얻을 다양한 비즈니스와 함께 계속해서 성장할 것입니다. 의료 및 마케팅에서 고객 서비스 및 광고 산업에 이르기까지 음성 복제는 조직이 고객과 관계를 구축하고 워크플로를 간소화하는 방법을 혁신하고 있습니다.
음성 복제는 온라인 환경에서 일하는 의료 전문가 및 사회 복지사에게 도움이 됩니다. 의료 전문가와 동일한 목소리를 내는 디지털 아바타는 환자와 환자 간의 유대감을 강화하여 신뢰를 높이고 고객을 유지합니다.
영화 및 엔터테인먼트 산업에서 음성 복제의 잠재적인 응용 분야는 방대합니다. 콘텐츠를 여러 언어로 더빙, 어린이 및 성인 추가 대화 대체(ADR), 거의 무한한 사용자 지정 옵션 배열이 모두 이 기술로 가능합니다.
마찬가지로 운영 부문에서 AI 기반 음성 복제는 대화형 음성 응답 시스템 또는 기업 교육 비디오를 위한 비용 효율적인 솔루션이 필요한 브랜드에 탁월한 결과를 제공할 수 있습니다. 음성 합성 기술을 통해 배우들은 녹음에서 잔존물을 얻는 능력을 높이면서 범위를 확장할 수 있습니다.
마지막으로, 광고 제작 스튜디오에서 음성 복제의 출현은 광고 제작과 관련된 비용과 시간을 크게 줄이는 데 도움이 되었습니다. 복제할 수 있는 고품질 녹화물이 있는 한(가용하지 않은 배우의 경우도 포함) 광고를 그 어느 때보다 빠르고 창의적으로 제작할 수 있습니다.
흥미롭게도 기업과 SMB는 음성 복제를 활용하여 브랜드에 고유한 것을 만들 수 있습니다. 대규모 프로젝트는 가장 야심 찬 계획을 실현할 수 있는 반면 소규모 기업은 이전에 비용이 많이 들던 규모 모델에 액세스할 수 있습니다. 그것이 진정한 민주화의 의미입니다.
최대 포장
AI 음성 복제는 독특한 고객 경험 창출, 자연어 처리 기능을 제품 및 서비스에 통합, 완전히 실제처럼 들리는 매우 정확한 음성 흉내 생성 등 획기적인 이점을 기업에 제공합니다.
2023년에도 경쟁력을 유지하려는 기업은 AI 음성 복제를 살펴봐야 합니다. 기업은 이 기술을 사용하여 윤리적으로 책임 있는 방식으로 시장 점유율을 확보하고 고객을 유지하는 다양한 새로운 가능성을 열 수 있습니다.
