안드류 페리, 에이비비의 이사 – 인터뷰 시리즈

안드류 페리는 디지털 인텔리전스 회사인 에이비비(Abbby)의 이사입니다. 에이비비는 조직이 운영에 대한 유용한 통찰력을 얻을 수 있도록 해주어 진정한 비즈니스 변화를 가능하게 합니다.

에이비비는 최근에 신뢰할 수 있는 인공지능 기술 개발을 촉진하는 글로벌 이니셔티브를 출시했습니다. 우리는 안드류에게 인공지능 윤리, 인공지능의 남용, 그리고 이러한 문제에 대한 인공지능 산업의 대응 방안에 대해 질문했습니다.

인공지능 윤리에 대한 관심이 처음으로 시작된 것은 무엇입니까?

인공지능 윤리에 대한 관심이 처음으로 시작된 것은 법률과 인공지능 기술의 교차점에 대한 깊은 관심에서 비롯되었습니다.私は 경력을 시작했을 때 형사 사법 시스템에서 재정적으로 법률 서비스를 받을 수 없는 피고인을 대 diện했습니다. 그런 다음私は 기술에 초점을 맞추고 법률 실천에서 고급 검색과 인공지능의 적용에 관심을 가지게 되었습니다.私は 데이터 개인 정보 보호 전문가로서 개인 정보 보호 법과 인공지능 기술의 적절한 사용에 대해 매우 열정적입니다.

면부 인식 기술은 종종 미국 정부를 포함한 권위적인 기관에 의해 남용됩니다. 이것은 얼마나 큰 사회적 문제입니까?

면부 인식 기술의 영향은 경제적, 사회적, 그리고 보안권을 포함한 많은 기본권에 영향을 미칠 수 있으므로 이는重大한 사회적 문제입니다.

면부 인식 알고리즘이 신뢰할 수 없다는 명확한 증거가 있습니다. NIST의 면부 인식 알고리즘 연구에서는 아프리카계 미국人が 100배 더 잘못 식별될 가능성이 있다는 것을 발견했습니다. Georgetown Law School의 유사한 연구에서는 면부 인식 알고리즘이 아프리카계 미국인 개인과 관련된 높은 잘못된 양성률을 생산한다는 것을 발견했습니다. 또한 2018년 MIT의 Amazon (AMZN ) 面部 인식 소프트웨어 연구에서는 흰색 남성이 99%의 경우 정확하게 식별되는 반면 어두운 피부를 가진 개인은 35%의 잘못된 양성률을 보였다는 것을 발견했습니다.

이러한 이유로 규제기관은 특히 감시와 프로파일링의 contexto에서 면부 인식 기술의 사용을 금지하는 조치를 취하기 시작했습니다. 예를 들어, 캘리포니아 상원은 법 집행을 위한 면부 인식 기술 및 기타 생체 측정 방법의 사용을 금지하는 州 전체적인 금지령을 통과시켰습니다.

기술 커뮤니티 내에서도 면부 인식 소프트웨어의 판매를 중단하는 움직임이 있습니다. IBM은 기본적인 인권과 자유를 침해한다는 이유로 면부 인식 소프트웨어의 판매를 중단하기로 결정했습니다. 마이크로소프트도 기본적인 인권을 이유로 면부 인식 기술의 판매를 중단하기로 결정했습니다.

COMPAS 소프트웨어는 미국 법원에서 범죄 위험 평가를 위해 사용되었으며, 가시적 소수자 범죄자를 백인 범죄자보다 재범할 가능성이 더 높다고 잘못 표시했습니다. 인공지능을 법원에서 사용하는 것이 옳은 선택입니까?

COMPAS에 대한 연구에서는 이를 사용하여 범죄를 예측하는 것이 무작위한 사람들보다 더 나은 결과를 생산하지 않는다는 것을 발견했습니다. 예측 분석은 상업적 contexto에서 큰 가치를 제공하지만, 형사 사법 시스템에 적용될 때 불공평한 결과를 낳을 수 있습니다. Pro Publica의 보고서에서는 COMPAS가 백인 범죄자보다 가시적 소수자 범죄자를 재범할 가능성이 더 높다고 잘못 표시했다는 것을 발견했습니다.

이러한 불공평한 결과는 당시 미국 법무부 장관인 에릭 홀더가 형사 사법 시스템에서 인공지능 기술의 사용에 대한 우려를 표명하게 만들었습니다.

인공지능 시스템에 부정적인 편향을 프로그래밍하지 않기 위해 사회는 무엇을 해야 합니까?

첫째, 인공지능이 무의식적인 편향을 생산할 수 있다는 것을 인정해야 합니다. 이러한 부정적인 영향을 완화하기 위해 윤리적인 인공지능 지침의 개발이 필요합니다. 예를 들어, OECD의 윤리적 프레임워크는 인간의 주체성과 감시, 기술적 강건성과 안전성, 개인 정보 보호와 거버넌스, 투명성, 다양성과 비차별, 사회적 복지와 책임성 등 7개의 기초 원칙을 포함합니다.

둘째, 자동화된 프로파일링에 대한 법적 프레임워크를 준수하는 것이 중요합니다. 예를 들어, EU는 개인 정보 보호권을 존중하고 보호하는 긴 역사を持っており, 가장 최근의 GDPR는 자동화된 의사 결정에 대한 보호를 포함합니다.

셋째, 산업계는 인공지능 기술의 개발과 사용에 대한 책임을 져야 합니다. 이는 인공지능 기술의 개발과 사용에 대한 투명성과 책임성을 명확하게 규정하고 커뮤니케이션해야 합니다. 예를 들어, Partnership on AI는 인공지능 기술의 개발과 사용에 대한 연구와 토론을 위한 80개 이상의 회원사를 보유한 조직입니다.

넷째, 기술 기업은 인공지능 알고리즘의 개발과 사용에 대한 편향 영향 평가를 수행해야 합니다. 이는 인공지능 기술의 개발과 사용에 대한 투명성과 책임성을 보장하기 위해 중요합니다.

인공지능 솔루션은 훈련 데이터를 반영하므로, 이러한 데이터가 편향되지 않고 다양성을 반영하는지 확인하는 것이 중요합니다. 인공지능 연구자 조안나 브라이슨은 “만약 훈련 데이터가 고정관념을 반영하거나 인간 문화에서 훈련된다면, 편향이 발생할 수 있습니다. 그리고 만약 chúng ta가 주의하지 않으면, 이러한 편향을 컴퓨터 프로그램에 통합할 수 있습니다.”

에이비비는 최근에 신뢰할 수 있는 인공지능 기술 개발을 촉진하는 글로벌 이니셔티브를 출시했습니다. 이 이니셔티브는 에이비비의 미래에 얼마나 중요한가요?

신뢰할 수 있는 인공지능 기술 개발을 촉진하는 글로벌 이니셔티브를 개발하는 것은 우리의 사회적 책임과 윤리적인 의무를 반영합니다. 이는 우리의 기술이 세계의 기업과 개인들에게 영향을 미치고, 수십만 명의 사용자를 خدمت한다는 것을 인정하는 것입니다.

이 이니셔티브는 또한 우리의 브랜드 가치를 강화하고, 우리의 고객과 파트너와의 신뢰를 구축하는 데 도움이 됩니다. 신뢰는 반복되는 비즈니스와 지속 가능한 성장을 의미합니다.

이 이니셔티브의 일부는 에이비비가 인공지능의 윤리적인 사용을 촉진하는 문화를 조성하는 것입니다. 다른 회사들이 유사한 문화를 조성하기 위해 무엇을 해야 합니까?

기술 기업은 인공지능의 윤리적인 사용을 위한 프레임워크를 개발해야 합니다. 이는 인공지능 알고리즘의 개발과 사용에 대한 투명성과 책임성을 명확하게 규정하고 커뮤니케이션해야 합니다.

기업은 또한 인공지능 기술의 개발과 사용에 대한 책임을 져야 합니다. 이는 인공지능 기술의 개발과 사용에 대한 투명성과 책임성을 보장하기 위해 중요합니다.

에이비비는 사회적으로 그리고 경제적으로 유익한 인공지능 기술을 개발하기로 약속했습니다. 이는 어려운 균형을 이루는 것입니다. 기업은 어떻게 이 균형을 이루어야 합니까?

기업은 다양한 이해관계자들의 의견을 고려해야 합니다. 예를 들어, 델로이트는 인공지능 기술의 개발과 사용에 대한 윤리적인 고려를 강조했습니다.

에이비비는 코로나19 팬데믹 동안 우리의 기술을 무료 또는 할인된 가격으로 제공하여 개인과 기업이 위기를 극복하고 비즈니스 연속성을 유지할 수 있도록 도왔습니다.

또한 우리는 우리의 기술 프레임워크를 NeoML을 통해 오픈소스로 제공하여 소프트웨어 개발자가 인공지능 기술을 개발할 수 있도록 했습니다.

코로나19 앱을 위한 접촉 추적에 인공지능을 사용하는 것에 대한 의견을 공유해 주시겠습니까? 그리고 개인 정보 보호권의 균형을 어떻게 맞추어야 합니까?

이것은 특히 어려운 문제입니다. 일부 사람들은 모바일 추적 애플리케이션의 구현이 개인 정보 보호권의 침해라고 주장합니다. 그러나 공중 보건의 경우, 권리는 절대적이지 않습니다. 이는 권리와 책임의 균형입니다.

개인 정보 보호권과 공공의 이익의 균형은 법적 프레임워크에서 인정됩니다. 예를 들어, GDPR은 개인 정보 보호권을 존중하고 보호하는 규정을 포함합니다.

또한 GDPR의 46조는 공중 보건의 경우, 개인 정보 보호권의 침해를 허용합니다. 그러나 이는 매우 협소하게 해석됩니다.

개인 정보 보호권과 공공의 이익의 균형을 맞추는 것은 기술 산업과 정책 입안자의 책임입니다. 이는 인공지능 기술의 개발과 사용에 대한 투명성과 책임성을 보장하기 위해 중요합니다.

에이비비의 새로운 글로벌 이니셔티브에 대한 추가적인 의견을 공유해 주시겠습니까?

규제는 기술 혁신을 따라가지 못하므로, 기업은 투명성과 책임성을 촉진하는 역할을 해야 합니다. 우리의 이니셔티브는 이러한 노력을 반영합니다. 에이비비는 창립 이후로 다양한 기술을 개발하여 귀중한 정보를 보존하고 행동할 수 있는 지식을 생성했습니다.

또한 인공지능 기술의 윤리적인 사용은 법적 기준뿐만 아니라 도덕적인 의무와 비즈니스 임무로 간주되어야 합니다. 만약 귀하의 솔루션이 광범위하게 영향을 미치고, 비즈니스에 중요한 기능을 가지고 있다면, 인공지능 기술의 적용에 대한 투명성이 산업 표준으로 간주되어야 합니다.