์ธํฐ๋ทฐ
Navrina Singh, Credo AI์ CEO ๋ฐ ์ค๋ฆฝ์ – ์ธํฐ๋ทฐ ์๋ฆฌ์ฆ
Navrina Singh는 Credo AI의 CEO 및 설립자입니다. Credo AI는 기업과 개인이 신뢰할 수 있고 윤리적인 AI를 더 잘 이해하고 제공할 수 있도록 하는 최초의 포괄적인 AI 거버넌스 SaaS 플랫폼을 설계하는 회사입니다. 또한 새로운 규정과 정책을 앞서고 조직 전체에서 감사 가능하고 투명한 AI 기록을 생성할 수 있습니다. 이 회사는 스텔스 모드로 운영되어 왔으며 세계에서 가장 큰 정부 계약업체와 금융 서비스 회사 등 다른 포춘 100 브랜드를 포함한 인상적인 고객 포트폴리오를 조용히 구축해 왔습니다.
인디아의 작은 마을에서 겸손한 출신으로 성장하여 어떻게 엔지니어링과 AI 분야에 관심을 갖게 되었나요?
나는 중산층 가정에서 왔습니다.私の 아버지 는 4십 년 동안 軍人으로 일했으며私の 어머니는 교사에서 패션 디자이너로 전환했습니다. 어린 시절부터私の 부모님은私の 호기심, 과학적 발견에 대한 사랑, 그리고 “what if”에 대한 탐구를 항상 권장해 주셨습니다.
인디아에서 성장할 때, 여성들은男性보다 많은 기회를 갖지 못했습니다. 사회적으로 받아들이는 기준에 따라 이미 많은 결정들이女性에게 내려졌습니다. 좋은 삶을 위해 가족을 위해 교육을 받는 것이唯一의 방법이었습니다.
고등학교를 졸업한 후,私は私の 첫 컴퓨터를 sở hữu했습니다. 그것은私の 세계의 창으로써,私は하드웨어에 매우 관심이 있었고, 온라인에서 모더보드를 분해하고, 로봇 애플리케이션을 구축하고, 코딩을 배우고,私の 집의 전기 시스템을 다시 구성하는 등 많은 시간을 보냈습니다(위험했지만!). 엔지니어링은私の 안전한 공간이었습니다.私は 실험하고, 탐구하고, 구축하고,私の 발명으로써私は 참여하고 싶은 세계를 경험할 수 있었습니다.私は 기술이 여성들을 위해 변화를 가져올 수 있는 강력한 도구라는 것을 깨달았습니다.
성장하면서,私の 수단은 제한적이었습니다. 그러나 가능성은 제한적이지 않았습니다.私は 항상 미국으로 가서 기술을 더 강하게 구축하여 인류가 직면한 가장 큰 도전에 해결하기 위해 꿈꿨습니다. 2001年に私は 미국으로 이민을 왔고, 위스콘신 매디슨 대학교에서私の 엔지니어링 여정을 계속했습니다.
거의 2십 년 동안의 엔지니어링 경력 동안,私は 여러 프론티어 기술을 걸쳐서 일했습니다. 모바일에서 증강 현실까지, 다양한 기술을 경험했습니다.
2011年に,私は 퀄컴에서 새로운 출현하는 비즈니스 구축을 위해 인공 지능을 탐구하기 시작했습니다. 또한 마이크로소프트와 퀄컴에서 음성, 비전, NLP를 포함한 AI 비즈니스와 애플리케이션을 구축하는 데 시간을 보냈습니다. 인공 지능과 머신 러닝에 대해 더 많이 배우면서,이 프론티어 기술이 우리가 상상할 수 있는 것보다 훨씬 더 많은 영향을 미칠 것이라는 것이 명백해졌습니다.
엔터프라이즈급 인공 지능을 구축하는 것도 이 기술이 제대로 관리되지 않으면 우리의 사람들과 커뮤니티에 해를 끼칠 수 있다는 것을 깨달았습니다. 우리는 기술을 구축하는 리더로서極端한 책임을 져야 합니다. 우리는 인류에게 최대ประโยชน을 제공하고 위험을 최소화하기 위해 적극적으로 행동해야 합니다. 결국, “우리가 만든 것이 우리를 만든다”는 말이 있습니다. 그래서 책임감 있게 구축하는 것이 중요합니다. 이것이私の 경력의 다음 단계에서 AI 거버넌스를 구축하는 데 영감을 주었습니다.
당신은 언제부터 진지하게 AI 거버넌스에 대해 생각하기 시작했나요?
퀄컴에서 혁신 책임자로 일할 때, 우리는 AI가 우리의 출현하는 비즈니스에 가져올 수 있는 가능성을 탐구했습니다. 우리의 초기 작업은 공급链에서 사용되는 협력 로봇에 중점을 두었습니다. 이것이 AI의 “실제” 위험, 특히 이러한 로봇 시스템과 함께 작동하는 인간의 물리적 안전에 대한 첫 노출이었습니다.
그 동안, 우리는 스타트업과 함께 많은 시간을 보냈으며, 새로운 사용 사례를 배우고 우리의 작업을 가속화하기 위해 그들과 협력하는 방법을 찾았습니다. Soul Machines는 새로운 버전의 их 베이비 아바타인 “베이비 X”를 출시했습니다. 이 신경망 파워드 베이비가 세계에서 적극적으로 배우고 있는 것을 보면서,私は 暫く 停止하여 이 기술의 의도하지 않은 결과에 대해 반성했습니다.私の 딸 지아는 그 때에 태어났고, 우리는 Soul Machines의 베이비 “X”를 따라 지아를 “베이비 Z”라고 별명을 붙였습니다.私は 이것에 대해 많이 말했습니다. 포함하여 2019年の Women In Product Keynote에서.
베이비 X와 베이비 Z의 학습 여정은 매우 비슷했습니다! 지아가 성장하면서, 우리는彼女에게 초기 어휘와 도구를 제공했습니다. 시간이 지남에 따라, 그녀는 세계를 이해하고 자신으로써 것을 조립하기 시작했습니다. 신경망 베이비인 베이비 X도 비전 센서와 음성 인식으로 학습하고, 인간 세계에 대한 깊은 이해를 빠르게 구축했습니다.
이 초기 AI 순간은 이 강력한 기술을 둘러싼 효과적인 가드레일을 구축하고, 그것을 좋은 목적으로 배치하는 것이 중요하다는 것을 명백히 했습니다.
Credo AI의 기원 이야기를 공유해 주시겠습니까?
퀄컴 이후,私は 마이크로소프트에서 AI 기술의 상업화를 이끌기 위해 영업 개발 그룹과 이후 제품 그룹으로 招かれました.私の 재직期间,私は 대화형 AI에서 계약 지능까지, 시각 검사에서 음성 파워드 제품 발견까지 다양한 AI 기술과 응용 프로그램을 작업했습니다.
그러나 퀄컴에서 심어놓은 AI 거버넌스 씨앗은 계속 자라났습니다.私は AI 기술 개발에서 점점 더 많은 “감독 부족”을 목격했습니다. 제품 책임자로서,私は 데이터 과학 및 엔지니어링 팀과 함께 고성능 AI 애플리케이션을 구축하고 빠르게 시장에 배포하는 데 동기를 부여받았습니다.
우리는 규정 준수와 거버넌스를创新 속도를 늦추는 게이트 체크로 보았습니다. 그러나 AI 거버넌스에 대한私の 증가하는 우려는 기술 및 감독 전문가 간의 리스크, 규정 준수, 감사를 동기화하는 데 나를 계속해서 탐구하게 했습니다.
모든 미해결 질문은 AI 거버넌스에 대한 답변을 찾으려고 나를 촉발했습니다. 그래서私は 비영리 단체인 MERAT (Marketplace for Ethical and Responsible AI tools)을 설립하기 시작했습니다. 목표는 책임감 있는 AI 개발에 중점을 둔 스타트업과 글로벌 2000사를 위한 생태계를 구축하는 것이었습니다.
MERAT에서 초기 실험을 통해, 포괄적인 거버넌스를 구축하는 데 필요한 多重 이해 관계자 도구를 제공하는 스타트업이 없다는 것이 명백해졌습니다. 이것은私の 기회였습니다. 의도적으로 AI를 안내하는 임무를 실현하기 위해.私の 가설은 AI 혁명의 다음 전선이 거버넌스에 의해 안내될 것이라는 것이 계속해서 검증되었습니다. 거버넌스를 받아들이는 기업은 신뢰할 수 있는 브랜드의 리더로 등장할 것입니다.
私は Andrew Ng가 설립한 인큐베이터인 AI Fund에 접근했습니다. AI Fund는 제가 지난 10년 동안 소비한 AI 감사 가능성 및 거버넌스와 같은 주제에 중점을 두었습니다.
Credo AI는 2020년 2월 28일에 AI Fund의 자금으로 설립되었습니다.
Credo는 “당신의 행동을 안내하는 가치 집합”을 의미합니다. Credo AI와 함께, 우리의 비전은 기업이最高의 윤리 기준으로 AI를 생성할 수 있도록 강화하는 것입니다.
이전 인터뷰에서, 당신은 브랜드가 미래에 AI를 구축하고 배포하는 것만으로 신뢰를 얻지 않고, 인류를 섬기기 위해 AI를 확장하는 방법에 따라 신뢰를 얻을 것이라고 말했습니다. 이것에 대해 더 설명해 주시겠습니까?
인공 지능은이 세기의 게임 체인저 기술 중 하나이며 경제와 사회에 대한 변革적 기회를 제공합니다. 그것은 2030년까지 세계 경제에 거의 16조 달러를 기여할 것으로 예상됩니다.
그러나 지난 몇 년간은 이미 주요 AI 위협을 강조했습니다(로봇 오버로드가 아닙니다!). 예를 들어, 최소한의 재범을 최적화하는 사법 알고리즘은 편향을 도입하고 그럴싸한 구금을 받을 자격이 있는 사람에게 구금을 거부할 수 있습니다.
사회 알고리즘은 참여도를 최적화하여 국가를 분열시킬 수 있습니다.
공平하지 않은 알고리즘은 당신이 일자리나 대학 입학을 받지 못하는 이유가 될 수 있습니다.
우리가 도구에 더 많은 자율성을 부여할수록,意図하지 않은 결과의 범위가 더 넓어집니다. 非凡한 규모는 非凡한 영향을 미치지만, 항상 우리가 의도하는 영향은 아닙니다(私は Credo AI Manifesto에서 이것에 대해 작성했습니다).
私は 기업이 AI 거버넌스를 투자하여 책임감 있게 기술을 구축하고 데이터의 윤리적 사용에 대한 약속을 함으로써, 고객, 소비자, 투자자, 직원 등 다양한 이해 관계자에 걸쳐 신뢰를 구축할 수 있을 것이라고 예측합니다.
Credo AI는 어떻게 기업을 책임감 있게 유지하나요?
책임감은 자신의 행동에 대한 책임을 받아들이는 의무를 의미합니다. AI 개발 및 배포의 맥락에서, 이는 기업이 “좋은 것이 무엇인지”에 동의한 것만으로 충분하지 않으며, 그 동의된 목표에 대한 의도적 행동을 취하고 결과에 대한 책임을 져야 함을 의미합니다.
Credo AI는 기업이 다양한 이해 관계자(사용자, 직원, 규제 당국, 감사인, 투자자 등)에게 책임을 지는 것을 도와주는 셰르파 역할을 합니다. 따라서 Credo AI는 실시간, 상황에 따른, 포괄적이며 지속적인 솔루션을 통해 규모에 따라 윤리적이고 책임감 있는 AI를 제공하도록 설계되었습니다.
AI에서 책임감과 신뢰를 구축하는 것은 동적인 과정입니다. 조직은 기업 가치에 대해 일치해야 하며, 그것을 조직 인프라에 구축하고, 영향력을 관찰하고, 다양한 목소리가 모든 단계에서 입력을 제공하는 반복적인 과정을 통해 그 과정을 반복해야 합니다. Credo AI는 규모에 따른 AI 배포에 대한 규정 준수 및 위험 측정을 관리하는 포괄적이며 실시간 솔루션을 통해 이 책임감을 가능하게 합니다.
Credo AI 거버넌스 솔루션을 사용하여, 기업은 다음과 같은 것을 수행할 수 있습니다:
- AI 사용 사례 및 모델에 대한 거버넌스 요구 사항에 대한 맞춤형 정책 팩과 모델 평가 메트릭을 선택하기 위한 의사 결정 지원 도구와 일치시킵니다.
- 그것에 대한 일치된 목표에 대한 데이터 및 ML 모델을 평가하고 조사합니다.
- 모델 개발 및 배포의 모든 단계에서 기술 사양을 비즈니스에 대한 작용 가능한 위험 영향으로 분석하여 거버넌스 문제가 큰 문제가 되기 전에 그것을 잡고 수정할 수 있습니다.
의사 결정과 행동의 기록을 캡처함으로써, Credo AI는 모델을 생성하기 위해 내린 결정의 기원을 증거로 기록합니다. 이 증거는 내부적으로 기업의 이해 관계자와 외부적으로 감사인과 공유되며, AI의 의도에 대한 신뢰를 구축합니다.
이 증거는 개발 팀이 意図하지 않은 결과를 예측하고 방지하는 데 도움이 되며, AI 모델의 효능과 신뢰성 평가를 표준화하는 데 도움이 될 것입니다.
우리는 포괄적인 평가 및 보증을 통해 AI 거버넌스를 가능하게 하는 초기 단계에 있습니다. 우리는 더 많은 기업과 협력하여 책임감을 촉진하기 위해 흥분합니다.
Credo AI는 어떻게 기업이 AI 거버넌스를 사후 검토에서 벗어나게 도와줍니다?
현재, “책임감 있는”, “윤리적”, “신뢰할 수 있는” AI가 무엇인지, 그리고 기업이 어떻게 그것을 제공할 수 있는지에 대한 명확성이 부족합니다. 우리는 Credo AI SaaS 플랫폼을 사용하여 기업이 “윤리의 경제학”을 보여주도록 이 중요한 질문을 재구성하는 데 도움을 줍니다.
Credo AI를 사용하여, 기업은 공정하고, 규정 준수하며, 감사 가능한 AI를 제공할 뿐만 아니라, 고객의 신뢰를 구축할 수 있습니다.
소비자 신뢰를 구축하면 고객 기반을 넓히고 더 많은 판매를 잠금할 수 있습니다. 예를 들어, 기업은 고객 서비스 챗봇에서 윤리적인 AI를 사용하여 최상의 고객 경험을 제공하거나, 사용자 활동을 이해하고 추가 콘텐츠 또는 제품을 제안하기 위해 AI를 책임감 있게 사용할 수 있습니다. 매우 만족한 고객은 친구와 가족과 경험을 공유하여 최고의 광고를 제공합니다.
또한, 기업은 기술 및 감독 기능 간의 협력이 규정 준수 시간을 더 빠르게 하고, 정보에 기반한 위험 관리, 브랜드 및 규제 위험을 낮추는 데 도움이 된다는 것을 알 수 있습니다. 우리는 기업이 기술 및 감독 기능 간의 협력을 통해 윤리적인 AI를 배포하는 데 도움을 줍니다. 우리는 기술 메트릭과 구체적인 비즈니스 결과 간의 다리를 구축하는 데 도움을 줍니다. 많은 사람이 깨달은 것처럼, 윤리적인 AI를 옹호하는 것은 규제 준수만을 확인하는 것보다 훨씬 더 많은 것을 의미합니다.
기업이 높은 윤리 기준을 지키면, 실제 비즈니스 결과, 즉 수익 증가를 기대할 수 있습니다. 추상적인 “부드러운” 개념에서 객관적인 비즈니스 결정으로의 관점을 전환하는 것이 우리가 AI 거버넌스를 기업의 경제 및 사회 엔진의 중요한 부분으로 위치시키는 데 도움을 주었습니다.
최근, 바이든 행정부는 국가 인공 지능 고문위원회를 설립했습니다. AI 비즈니스에 대한 의미는 무엇인가요?
전 세계적으로 정부는 AI를 규제하기 위해 전력으로 움직이고 있으며, 기업은 준비해야 합니다. 바이든 행정부의 국가 AI 고문위원회와 백악관 OSTP에 대한 투자는 AI 시스템을 규정하는 권리 청구서에 대한 논의에 행동을 가져오는 좋은 첫 단계입니다. 그러나 책임감 있는 AI가 무엇을 의미하는지에 대해 많은 작업이 필요합니다.
私は 2022년이 책임감 있는 AI에 대한 행동의 해가 될 것으로 믿습니다. 이는 AI 윤리 프레임워크를 구축하거나 강화하고자 하는 기업에게 경고입니다. 지금은 기존 프레임워크의 격차를 평가하거나, 접근 방식이 없는 경우, 신뢰할 수 있는 AI를 위해 견고한 프레임워크를 구축하여 AI 시대에 성공하기 위한 준비를 하는 때입니다.
우리는 더 많은 강력하고 약한 규정의 등장에 대비해야 합니다. 백악관의 조치 외에도, 다른 정책 입안자와 기관으로부터 많은 추진력이 있습니다. 예를 들어, 상원의 알고리즘 책임법 초안, 연방 무역위원회(FTC)의 AI 편향에 대한 지침 등이 있습니다.
미래로 빨리 전진한다면, 5년 후에 AI 윤리와 AI 거버넌스의 중요성은 어떨까요?
우리는 AI 거버넌스의 초기 단계에 있습니다. AI 거버넌스가 얼마나 중요한지 강조하기 위해, 다음은我的 예측입니다:
- 윤리적인 AI 거버넌스는 상위 조직의 우선 순위가 될 것입니다
기업은 계속해서 비즈니스에서 AI를 사용하여 이익을 얻을 것입니다. IDC는 2022년에 AI에 대한 지출이 3400억 달러에 이를 것으로 예측합니다. 거버넌스 없이, 기업은 편향, 보안, 정확성, 규정 준수와 같은 시스템의 우려로 인해 AI에 투자하기를 주저할 것입니다.
신뢰가 없으면, 소비자도 AI 기반 제품을 받아들이거나 이러한 시스템을 구축하기 위해 데이터를 공유하기를 주저할 것입니다. 향후 5년 동안, 윤리적인 AI 거버넌스는 이사회 우선 순위가 되며, 기업이 이해 관계자에 대한 신뢰를 구축하기 위해 공개하고 보고해야 하는 중요한 지표가 될 것입니다.
- 새로운 사회 기술 직업 카테고리가 기업 내에 등장할 것입니다
우리는 이미 윤리적으로 앞서가는 조직이 공정하고, 규정 준수하며, 감사 가능한 AI 애플리케이션을 보장하기 위해 개발을 미래에 대비하는 데大量으로 투자하고 있습니다.
AI를 리드하기 위해, 기업은 AI 규제 환경에 대해 더 많이 배우고, 규모에 따른 책임성 구조를 구축해야 합니다. 윤리적인 AI 구현의 출현하는 분야가 발전함에 따라, 기술 및 감독 기능 간의 중개자 역할을 하는 새로운 사회 기술 직업 카테고리가 등장할 수 있습니다. 이 새로운 직업 카테고리는 공통의 표준과 목표를 개발하는 데 도움을 주기 위해 기술 및 감독 기능 간의 대화를 촉진하는 데 도움을 줄 수 있습니다.
- 새로운 AI 파워드 경험은 더 엄격한 거버넌스를 요구할 것입니다
인공 지능의 의도된 결과와 의도하지 않은 결과를 관리하는 것이 중요합니다. 특히 메타버스와 웹3 세계에 진입할 때 더욱 중요합니다.
AI를 미래에 대비하지 않고 메타버스에 뛰어드는 기업은 고객을 위험에 빠뜨릴 수 있습니다. 실제 세계에서 AI 및 거버넌스 문제를 해결하는 것이 메타버스에서 소비자를 안전하게 유지하는 데 중요합니다.
- 윤리적인 AI 거버넌스에 대한 새로운 생태계가 등장할 것입니다
세계는 AI 거버넌스가 책임감 있는 AI를 구현하는 기본 빌딩 블록을 대표한다는 아이디어에 깨어났습니다. 향후 몇 년 동안, 우리는 책임감 있는 AI를 지원하기 위한 도구, 서비스, 교육 및 기타 능력을 제공하기 위해 경쟁적이고 역동적인 시장의 서비스 제공자가 등장할 것입니다.
또한, 우리는 기존의 MLops 및 GRC 플랫폼의 통합 및 보강을 볼 수 있습니다. 이를 통해 AI에 대한 거버넌스 및 평가 능력을 제공할 수 있습니다.
당신이 Credo AI에 대해 더 공유하고 싶은 것이 있나요?
윤리적인 AI 거버넌스는 미래를 위한 투자이며, 오늘부터 시작하는 것이 가장 좋은 날입니다.
자세한 인터뷰에 감사드리며, AI 거버넌스 및 윤리에 대한 모든 통찰력을 공유해 주셔서 감사합니다. 더 많은 정보를 배우고 싶은 독자는 Credo AI를 방문해야 합니다.
