리드 블랙먼, Ph.D, 버추 어컨설턴츠의 설립자 및 최고경영자 – 인터뷰 시리즈

리드 블랙먼은 버추 어컨설턴츠의 설립자이자 최고경영자입니다. 이 역할에서 그는 기업들이 기업 문화와 새로운 기술 제품의 개발, 배포, 조달에 윤리와 윤리적 위험 완화를 통합하는 데 도움을 주었습니다. 그는 또한 어니스트 앤 영의 고위 자문위원이며 인공 지능 자문위원회에서 활동하고 있으며, IEEE의 윤리적으로 정렬된 설계 이니셔티브의 회원입니다.

리드의 작업은 월 스트리트 저널과 델 퍼스펙티브스에서 소개되었으며, 그는 하버드 비즈니스 리뷰, 테크크런치, 벤처비트, 리스크 앤 컴플라이언스 매거진에 기고했습니다. 그는 수많은 뉴스 기사에서 인용되었으며, 세계 경제 포럼, SAP, 칸 영화제, 포브스, 뉴욕 대학교 스턴 비즈니스 스쿨, 컬럼비아 대학교, AIG 등 다양한 장소에서 정기적으로 강연합니다.

2009년부터 2018년까지 콜게이트 대학교에서 철학 교수로 재직하셨습니다. 언제부터 인공지능 윤리를 강의에 통합하기 시작하셨나요?

저는 종종 사회 및 정치 철학을 가르쳤으며, 마르크스를 다루었습니다. 마르크스의 주요 주장은 자본주의가 궁극적으로 공산주의로 대체될 것이라는 것입니다. 즉, 자본주의는 경쟁과 새로운 시장 개척을 위해 효율성을 높이기 때문에, 기술의 생산량이 증가하고, 더 많은 것을 더 짧은 시간에 생산할 수 있는 기술이 개발됩니다. 마르크스는 또한 이것이 더 많은 돈을 소수에게 집중시키고, 더 많은 사람들을 빈곤으로 몰아넣을 것이라고 예측했습니다. 결국, 자본주의 구조는 빈곤한 대중의 증가에 의해 전복될 것입니다. 이것은 기술이 인간 노동의 필요성을 없애는 윤리적인 문제를 обс论하는 데로 이어집니다.

2002년 북서대 대학원생으로 마르크스를 다루는 강의를 진행하고 있었는데, 한 학생이 손을 들고 “결국 우리는 로봇이 모든 일을 할 수 있게 될 것입니다”라고 말했습니다. 그 학생의 말에 모두가 당황했고, 저도 당황했습니다. 그래서 저는 “그럼 누가 일을 할까요?”라고 물었고, 학생은 매우 사실적인 어투로 “로봇이죠”라고 대답했습니다. 모두가 웃었고, 저도 웃었지만, 누가 마지막으로 웃었는지는 분명합니다.

2018년에 버추 어컨설턴츠를 설립하셨습니다. 이 회사는 데이터 및 인공지능 리더들이 제품의 윤리적 위험을 식별하고 완화하는 것을 도와주는 윤리 컨설팅 회사입니다. 이 창업을 시작하게 된 계기는 무엇인가요?

질투입니다. 어느 정도는요. 대학원생 시절에 2003년 또는 2004년에 불꽃 파이프라인 회사를 설립했습니다. 그 회사가 예상보다 잘돼서, 지금도 그 회사가 존재하지만, 저는 더 이상 일일이 운영하지는 않습니다. 중요한 것은 콜게이트 대학교의 창업 프로그램(TIA, Thought Into Action)에 멘토로 참여하면서, 학생들이 비영리 또는 영리 창업을 하려고 할 때, 저는 그들에게 조언을 해주었습니다. 그리고 저는 “저도那样하고 싶다”라고 생각했습니다. 하지만, 새로운 사업은 무엇일까요? 그것은 저의 철학과 윤리에 대한 사랑을 담아야 했고, 윤리 컨설팅 회사가 가장 적절했습니다. 당시에는 그런 서비스의 시장이 보이지 않았기 때문에, 저는 기다렸습니다. 그리고 캠브리지 아나리티카와 BLM, #MeToo가 전국적으로 화제가 되면서, 갑자기 그런 서비스의 필요성이 대두되었습니다.

기업이 인공지능 윤리 성명을 도입하는 것이 얼마나 중요한가요?

인공지능 윤리 성명은 필수는 아니지만, 목표를 설정하는 데 매우 유용한 도구입니다. 기업이 인공지능 윤리 프로그램을 도입할 때, 다양한 윤리적, 평판적, 규제적, 법적 위험을 식별하고 완화하고 관리하는 것이 그 목표입니다. 윤리 성명은 이러한 목표를 달성하기 위해 필요한 인프라, 프로세스, 관행을 정의하는 데 도움이 됩니다. 전략이 목표를 필요로 하는데, 인공지능 윤리 성명은 이러한 목표를 정의하는 좋은 방법입니다. 그러나 그것이 유일한 방법은 아닙니다.

기업이 윤리 성명을 프로세스와 관행으로 전환하는 방법은 무엇인가요?
윤리 성명은 올바른 방향으로 나아가는 작은 단계입니다. 다음 단계는 윤리 성명에서 정의된 목표에 도달하기 위해, 현재 상태를 평가하는 것입니다. 가장 큰 위험을 가지고 있는 곳, 즉 목표를 달성하지 못할 가능성이 가장 높은 곳을 찾습니다. 그리고 그 간격을 좁히기 위한 해결책을 개발합니다. 아마도 윤리위원회를 구성하거나, 제품 개발 중에 심사 프로세스를 마련하거나, 마케팅 및 인사과 같은 비제품 부서에서 데이터를 다루는 방식을 개선하는 것입니다. 아마도 모두 그렇습니다.

기업이 실제 인공지능 알고리즘에 편향을 피하는 해결책은 무엇인가요?

편향을 식별하는 기술 도구가 많이 있습니다. 그러나 그것들은 제한적입니다. 학술적인 기계 학습 윤리 문헌에서 제시된 수십 개의 정량적 지표와 모델의 출력을 비교할 수 있지만, 그 지표들이 서로 호환되지 않는다는 것을 주의해야 합니다. 따라서 어떤 지표가 이 컨텍스트에서 적절한지에 대한 실질적인 윤리적 결정이 필요합니다.

그런 도구를 사용하는 것 외에, 제품 팀은 편향이 어디에서 발생할 수 있는지 생각해 보아야 합니다. 훈련 데이터 세트에서, 목적 함수를 결정할 때, 임계값을 결정할 때 등 편향이 발생할 수 있는 곳이 어디인지 생각해 보아야 합니다. 이러한 곳에서 편향이 발생하지 않도록 하는 것이 중요합니다.

인공지능 기업은 백인 남성이 주도하는 것으로 악명이 높습니다. 이러한 편향을 피하기 위해, 인사부는 어떤 특성을 찾고 있나요?

저는 엔지니어와 제품 팀에서 더 많은 기회와 다양성을 원합니다. 그러나 이것은 잘못된 관점에서 본 것입니다. 편향된 알고리즘의 주요 문제는 백인 남성이 편향된 코드를 작성한다는 것이 아닙니다. 그것은 훈련 데이터 세트가 편향되어 있다는 것입니다. 최근 컬럼비아 대학교의 논문 “편향된 프로그래머? 또는 편향된 데이터? 인공지능 윤리를 운영하는 필드 실험”에서 “[프로그래머가 기술 지침을 이해하면] 편향을 성공적으로 줄일 수 있다”고 결론지었습니다. 또한 “여성 및 소수자 인공지능 프로그래머의 알고리즘 예측은 편향이나 차별을 덜 나타낸다”고 했습니다. 따라서 인사부는 다양성 문제에 주의를 기울여야 하지만, 편향된 인공지능 출력을 줄이는 전략은 다양성 노력에만 집중해서는 안 됩니다.

윤리적 위험_due_심사를 논의해 주시겠습니까? 그리고 기업이 왜 그것을实施해야 하는가요?

윤리적 위험_due_심사는 제품을 개발할 때, 배포할 때, 사용할 때, 그리고 오용할 때 발생할 수 있는 다양한 윤리적 위험을 식별하는 것입니다. 그것은 체계적이고 철저한 검사입니다. 그러나 모든 것을 예측하는 것은 불가능하므로, 지속적인 모니터링이 중요합니다.

그 이유는, 그렇게 하지 않으면 발생할 수 있는 윤리적, 평판적, 규제적, 법적 위험을 생각해 보아야 합니다. 옵텀의 경우, 편향된 알고리즘으로 인해 건강한 사람보다 병든 사람에게 더 많은 관심을 가져야 한다고 의료 전문가에게 추천하여, 현재 조사 중입니다. 골드만 삭스의 경우, 애플 카드의 신용 한도를 여성보다 남성에게 더 많이 주는 것으로 조사되어, 현재 조사 중입니다. 아마존의 경우, 편향된 알고리즘으로 인해 채용 소프트웨어를 폐기했습니다. IBM의 경우, 웨더 앱에서 수집한 데이터를 불법적으로 사용한 것으로 조사되어, 현재 소송 중입니다. 페이스북의 경우…

버추 어컨설턴츠에 대해 더 공유하고 싶은 것이 있나요?

(GS ) (AAPL ) (AMZN ) (META )

버추 어컨설턴츠는 고위급 리더들이 인공지능 윤리를 실천하는 것을 도와줍니다. 그것은 교육과 업스킬링, 인공지능 윤리 성명서 작성, 실행 가능한 인공지능 윤리적 위험 프레임워크 생성, 또는 인공지능 윤리에 대한 자문 등입니다. 그것이 интерес한다면, 사람들이 만나러 오세요.

이번 인터뷰에 감사드립니다. 리드 블랙먼에 대해 더 알고 싶은 독자들은 리드 블랙먼을 방문하거나 버추 어컨설턴츠를 방문할 수 있습니다.