에이도비의 이사인 그레이스 이, 에이아이 윤리 및 접근성 담당 이사 – 인터뷰 시리즈

그레이스 이는 에이도비의 이사인 이사인 에이아이 윤리 및 접근성 담당 이사로, 전 세계적으로 에이도비의 산업을 선도하는 에이아이 혁신을 지속적으로 발전시키기 위한 글로벌 조직 전체 작업을 주도하며, 에이도비의 핵심 가치와 윤리 원칙에 따라 에이아이 혁신이 지속적으로 발전할 수 있도록 프로세스, 도구, 교육 및 기타 자원을 개발하고 있습니다. 그레이스는 에이도비의 책임 있는 기술 개발과 사용에 대한 에이도비의 약속을 발전시키고, 모든 에이도비의 작업에서 윤리와 포용성을 중심으로 에이아이를 개발합니다. 이러한 작업의 일환으로, 그레이스는 에이도비의 에이아이 윤리위원회와 검토위원회를 감독하며, 에이도비의 개발 팀에 대한 지침을 제공하고, 새로운 에이아이 기능과 제품이 에이도비의 책임성, 책임과 투명성의 원칙에 부합하는지 확인합니다. 이러한 원칙은 우리가 에이아이 기능을 시장에 도입할 때 유해한 결과와 편향을 최소화하는 데 도움이 됩니다. 그레이스는 또한 정책 팀과 협력하여 법률, 규정 및 에이아이에 대한 사회의 이익을 위한 공공 정책을 형성하는 데 도움을 주는 옹호 활동을 주도합니다.

에이도비의 접근성에 대한 약속의 일환으로, 그레이스는 에이도비의 제품이 모든 사용자에게 포함적이고 접근 가능하도록 하여, 모든 사람이 디지털 경험을 창조하고, 상호 작용하고, 참여할 수 있도록 합니다. 그녀의 리더십 하에, 에이도비는 정부 기관, 무역 협회 및 사용자 커뮤니티와 협력하여 접근성 정책과 표준을 촉진하고, 산업 솔루션을 발전시키기 위한 작업을 수행합니다.

에이도비의 지난 5년간 에이아이 윤리의 발전 과정에 대해 설명해 주시겠습니까? 특히 생성 에이아이와 같은 빠른 발전을 고려할 때, 어떤 주요 里程碑이 이 발전을 정의했나요?

5년 전, 우리는 에이아이 윤리 프로세스를 공식화하여 책임성, 책임 및 투명성의 에이아이 윤리 원칙을 설정했습니다. 이러한 원칙은 우리의 에이아이 윤리 거버넌스 프로세스의 기초가 됩니다. 우리는 전 세계 에이도비 직원으로 구성된 다각적인 크로스 기능 팀을 조직하여 시간의 시험을 견딜 수 있는 행동할 수 있는 원칙을 개발했습니다.

그런 다음 우리는 잠재적인 위험과 편향을 초기 에이아이 개발 주기에서 식별하고 완화하기 위한 강력한 검토 프로세스를 개발했습니다. 이 다단계 평가를 통해 우리는 유해한 편향과 고정관념을 퍼뜨릴 수 있는 기능과 제품을 식별하고 해결할 수 있었습니다.

생성 에이아이가 등장했을 때, 우리는 새로운 윤리적 도전을 해결하기 위해 우리의 에이아이 윤리 평가를 조정했습니다. 이 반복적인 프로세스는 잠재적인 문제를 예측하고, 우리의 에이아이 기술이 책임 있게 개발되고 배포되도록 하는 데 도움이 되었습니다. 우리의 에이아이 윤리 프로그램의 관련성과 효과를 유지하기 위한 우리의 지속적인 학습과 협력은 고객에게 제공하는 경험을 향상시키고, 포용성을 촉진하는 데 중요한 역할을 했습니다.

에이도비의 에이아이 윤리 원칙, 즉 책임성, 책임 및 투명성이 일상적인 작업에 어떻게 반영되나요? 이러한 원칙이 에이도비의 에이아이 프로젝트를 어떻게 지導했는지에 대한 예를 들어 주시겠습니까?

우리는 책임 있는 혁신을 보장하기 위한 강력한 엔지니어링 관행을 구현하여 에이도비의 에이아이 기능에 에이도비의 에이아이 윤리 약속을 준수합니다. 또한 우리는 지속적으로 직원과 고객으로부터 피드백을 수집하여 필요한 조정을 가능하게 합니다.

새로운 에이아이 기능은 잠재적인 편향과 위험을 식별하고 완화하기 위한 철저한 윤리 평가를 거칩니다. 에이도비 파이어플라이, 우리의 생성 에이아이 모델 패밀리를 도입했을 때, 유해한 고정관념을 퍼뜨릴 수 있는 콘텐츠를 생성하지 않도록 평가를 수행했습니다. 이 평가는 제품 팀, 피드백 및 학습을 포함한 긴밀한 협력을 통해 반복적으로 진행됩니다. 또한 제품 팀과 함께 위험 발견 연습을 수행하여 디자인에 적절한 테스트 및 피드백 메커니즘을 이해합니다.

에이도비는 글로벌 및 다양한 사용자 기반을 사용하는 도구에서 편향과 관련된 우려를 어떻게 해결합니까? 편향이 식별되고 완화된 특정 에이아이 기능에 대한 예를 들어 주시겠습니까?

우리는 제품 및 엔지니어링 팀과 긴밀히 협력하여 지속적으로 우리의 에이아이 윤리 평가 및 검토 프로세스를 발전시키고 있습니다. 몇 년 전과 비교했을 때, 현재의 에이아이 윤리 평가가 다르며, 미래에도 추가적인 변화가 예상됩니다. 이 반복적인 접근 방식은 새로운 학습과 기술의 발전으로 인한 새로운 윤리적 우려를 해결할 수 있도록 합니다.

예를 들어, 파이어플라이에 다국어 지원을 추가했을 때, 내 팀은 의도한 출력이 생성되지 않았으며 일부 단어가 의도하지 않게 차단되었다는 것을 발견했습니다. 이를 완화하기 위해, 우리는 국제화 팀과 원어민과 협력하여 모델을 확장하고 국가별 용어 및 뉘앙스를 다루는 데 도움을 받았습니다.

기술이 발전함에 따라 우리의 평가 접근 방식을 발전시키는 우리의 약속은 에이도비가 혁신과 윤리적 책임 사이에서 균형을 유지하는 데 도움이 됩니다. 포용적이고 반응적인 프로세스를 촉진함으로써, 우리는 우리의 에이아이 기술이 투명성과 무결성의最高 기준을 충족하도록 보장하고, 창작자들이 우리의 도구를 신뢰로 사용할 수 있도록 합니다.

공공 정책에 대한 참여와 관련하여, 에이도비는 빠르게 변화하는 에이아이 규제와 혁신의 교차점을 어떻게 탐색합니까? 에이도비는 이러한 규제를 형성하는 데 어떤 역할을 합니까?

우리는 정책 입안자와 산업 그룹과 적극적으로 협력하여 혁신과 윤리적 고려 사이에서 균형을 이루는 정책을 형성하는 데 도움을 줍니다. 우리의 에이아이 접근 방식과 인간 경험을 향상시키기 위한 기술 개발의 중요성을 정책 입안자에게 설명합니다. 규제 기관은 현재의 도전을 해결하기 위한 실제 솔루션을 찾고 있으며, 우리의 에이아이 윤리 원칙과 같은 프레임워크를 제시함으로써, 우리는 더 생산적인 토론을 촉진합니다. 구체적인 예를 제시하고, 우리의 원칙이 실제 작동하는 방식을 보여주고, 실제적인 영향을 보여주는 것이 중요합니다.

에이도비는 에이아이 모델을 교육하기 위한 데이터 소싱 시 윤리적 고려를 어떻게 우선순위로 합니까? 에이도비는 사용하는 데이터셋이 에이아이의 요구에 충분히 강력하고 윤리적이라는 것을 어떻게 보장합니까?

에이도비에서는 에이아이 모델을 교육하기 위한 데이터 소싱 시 여러 가지 중요한 윤리적 고려를 우선순위로 합니다. 에이도비 파이어플라이를 상업적으로 안전하게 설계하기 위해, 우리는 라이선스된 콘텐츠인 에이도비 스톡과 공공 도메인 콘텐츠(저작권이 만료됨)를 사용하여 이를 교육했습니다. 또한 우리의 모델 출력에서 유해한 편향과 고정관념을 강화하지 않도록 데이터셋의 다양성을 중시했습니다. 이를 달성하기 위해, 우리는 데이터를 검토하고 큐레이팅하기 위해 다양한 팀과 전문가와 협력합니다. 이러한 관행을 준수함으로써, 우리는 강력하고 효과적인 에이아이 기술을 개발하는 동시에 모든 사용자에게 윤리적이고 포용적인 기술을 만들기 위해 노력합니다.

에이도비의 에이아이 시스템이 어떻게 교육되고, 어떤 종류의 데이터가 사용되는지 사용자에게 통신하는 데 투명성이 얼마나 중요한가요?

에이도비의 생성 에이아이 기능이 어떻게 교육되고, 어떤 종류의 데이터가 사용되는지 사용자에게 통신하는 데 투명성은 매우 중요합니다. 이는 우리의 기술에 대한 신뢰와 확신을 구축하고, 사용자가 우리의 제품과 상호 작용하는 방식을 이해하도록 합니다. 데이터 소스, 교육 방법 및 윤리적 안전 장치를 공개함으로써, 우리는 사용자가 우리의 제품과 상호 작용하는 방식에 대한 정보에 입각한 결정을 내릴 수 있도록 합니다. 이러한 투명성은 우리의 핵심 에이아이 윤리 원칙과 일치하며, 사용자와의 협력적 관계를 촉진합니다.

에이아이가 계속 확장함에 따라, 특히 생성 에이아이의 경우, 에이도비와 같은 회사들이 가까운 미래에 직면할 가장 중요한 윤리적 도전은 무엇이라고 생각합니까?

에이도비와 같은 회사들이 직면할 가장 중요한 윤리적 도전은 유해한 편향을 완화하고, 포용성을 보장하며, 사용자 신뢰를 유지하는 것입니다. 에이아이가 고의적으로 고정관념을 퍼뜨리거나 유해한 콘텐츠를 생성할 가능성은 지속적인 경계와 강력한 안전 장치를 요구하는 문제입니다. 예를 들어, 최근의 생성 에이아이 발전으로 인해, “나쁨” 사용자는 더 쉽게欺骗적인 콘텐츠를 생성하고, 잘못된 정보를 퍼뜨리고, 공론을 조작하여 신뢰와 투명성을 훼손할 수 있습니다.

이를 해결하기 위해, 에이도비는 2019년에 디지털 생태계에서 더 신뢰할 수 있는 디지털 생태계를 구축하기 위한 콘텐츠 진실성 이니셔티브를 설립했습니다. 이니셔티브는 콘텐츠 자격증을 구축하여 온라인에서 신뢰와 진실성을 구축하는 솔루션을 제공합니다. 콘텐츠 자격증에는 생성자 이름, 생성 날짜, 사용된 도구 및 수정 사항과 같은 중요한 정보가 포함됩니다. 이는 사용자가 디지털 체인에 신뢰와 진실성을 구축할 수 있도록 합니다.

생성 에이아이가 계속 확장함에 따라, 디지털 콘텐츠에 대한 신뢰를 회복하기 위해 콘텐츠 자격증의 광범위한 채택을 촉진하는 것이 더욱 중요해질 것입니다.

에이아이 개발을 위한 윤리적 프레임워크에 대해 생각하기 시작하는 다른 조직에 대한 조언은 무엇인가요?

제가 드릴 수 있는 조언은, 명확하고, 간단하며, 실제적인 원칙을 설정하여 노력을 지導하는 것이 중요하다는 것입니다. 종종, 회사나 조직이 이론적으로 좋은 것에 집중하지만, 그 원칙이 실제로 작동하지 않는 경우가 있습니다. 우리의 원칙이 시간의 시험을 견딜 수 있는 이유는 그것이 행동할 수 있기 때문입니다. 우리의 에이아이 기능을 평가할 때, 제품 및 엔지니어링 팀은 우리가 무엇을 찾고, 무엇을期待하는지 알 수 있습니다.

또한, 조직이 이 프로세스에 참여할 때, 이는 반복적인 과정일 것이라는 것을 알도록 조언합니다. 5년 또는 10년 후에 에이도비가 무엇을 발명할지 모르지만, 우리가 혁신과 피드백에 따라 우리의 평가를 발전시킬 것이라는 것을 압니다. 감사합니다.

그레이트 인터뷰에 감사드리며, 더 많은 정보를 원하는 독자는 에이도비 웹사이트를 방문하십시오.