앨리사 심프슨 로치웨거, 리얼 월드 AI의 공동 저자 – 인터뷰 시리즈

앨리사 로치웨거는 실제 사람들의 어려운 문제를 해결하는 제품을 개발하는 고객 중심의 제품 리더입니다. 그녀는 여러 기계 학습 조직에서 제품 리더십 역할을 수행했습니다. 피겨 에이트(Figure Eight)의 제품 부사장, 애플(Appen)의 AI 및 데이터 부사장, IBM 왓슨(IBM Watson)의 제품 책임자 등을 역임했습니다. 최근에는 의료 분야에서 기술을 사용하여 改善을 도모하는 꿈을 추구하기 위해 이 분야를 떠났습니다. 현재 그녀는 블루 실드 오브 캘리포니아(Blue Shield of California)의 제품 책임자로 재직 중이며, 많은 데이터, 어려운 문제, 그리고 긍정적인 영향을 미칠 수 있는 기회를 갖고 있습니다.

우리는 그녀의 새로운 책에 대해 논의했습니다: 리얼 월드 AI: 책임 있는 기계 학습을 위한 실용 가이드

책의 서문에서 IBM 제품 책임자로 처음으로 AI 시스템이 편향된 정보를 제공하는 문제를遇到了는 내용이 있습니다. 한 사람의 휠체어 사진이 알고리즘에 의해 “패자”로 분류된 경우입니다. 이 경험은 AI 편향에 대한 경각심을 높이는 계기가 되었나요?

저는 그것을 경각심이라고 부르기보다는, 기계 학습 기반 제품을 개발할 때 편향된 결과를 피하기 위해 적절한 조치를 취하지 못한 첫 번째 경험이었다고 생각합니다. 그것은 저에게 이 문제에 대한 주의를 높여주었고, 앞으로 이러한 문제를 피하기 위해 노력해야 한다는 것을 알게 되었습니다. 평등, 접근성, 包容性은 저에게 중요한 주제입니다. 대학 시절에 저는 장애인 학생들을 위한 옹호 활동으로賞를 받았습니다. 이 경험은 저에게 기계 학습 기반 제품에서 편향된 결과를 피하기 위해 팀이 적극적으로 노력해야 한다는 것을 깨닫게 되었습니다.

이 책을 연구하고 작성하면서 개인적으로 무엇을 배웠나요?

개인적으로, 저는 이 책을 작성하기 위해 시간을 내야 했습니다.同時에 새로운 직장을 시작하고, 1세의 아이를 키우며, 코로나19를 겪었습니다. 저는 시간을 내고, 가족의 도움을 받아 책을 작성할 수 있었습니다. 전문적으로, 저는 많은 참여자들이 저희에게 자신의 이야기를 공유해 주었습니다. 기계 학습 전문가들은 매우 생각이 깊고, 도움을 주려는 마음이 있습니다. 그러나 많은 경우, 이러한 경험이 책에 포함되지 않았거나匿名으로 처리해야 했습니다. 이것은 公司や 個人の 이미지를損なう 것을 피하기 위한 것입니다.

이 책에서 사람들이 배우게 될 가장 중요한 교훈은 무엇인가요?

저는 사람들이 기계 학습이 너무 어려운 기술이 아니라는 것을 배우기를 바랍니다. 이것은 강력하지만 때때로 취약한 기술로, 성공적으로 어려운 문제를 해결하기 위해서는 지침과 구조가 필요합니다. 또한, 책임 있는倫理的な 사용은 성숙과 성공에 중요합니다. 편향된 결과를 피하기 위해 초기에 노력해야 합니다.

책에는 애플 크레딧 카드가 여성보다 남성에게 더 높은 신용 한도를 제공하는 예가 있습니다. 이것은 성별을 입력하지 않아 다른 변수가 성별의 대리인이 되는 경우입니다. 이러한 경우, 편향된 결과를 피하기 위해 어떤 데이터 입력을 생략해서는 안 되는가요?

명확한 규칙은 없습니다. 각 데이터 세트, 사용 사례, 상황은 다르기 때문입니다. 저는 전문가들이 문제를 해결하기 위해 기계 학습 알고리즘을 적용하는 경우, 편향된 결과를 피하기 위해 노력해야 한다고 생각합니다.

책에서는 AI 팀과 의사소통할 때 중요하게 정의해야 할 결과를 설명합니다. 비즈니스에서 이러한 결과를 정의하는 데 실패하는 경우는 얼마나 자주 발생하나요?

저는 대부분의 경우, 결과가 정의되지 않거나, 높은 수준에서만 정의된다고 생각합니다. 결과를 자세히 정의하는 것은 팀을 성공으로 이끄는 중요한 첫걸음입니다.

책에서는 AI 시스템이 “설정하고 잊어버리기” 유형의 시스템이 아니라는 것을 깨닫는 것이 중요하다고 설명합니다. 이것에 대해 간단히 설명해 주시겠나요?

이것은 대부분의 公司이 기계 학습 시스템을 生産环境에 배치할 때犯하는 klasik한 실수입니다. 현실은 변합니다. 시간이 지나면, 어제의 데이터가 오늘에도 동일한 결과를 가져다주지 않을 수 있습니다. 대부분의 경우, 시스템이 학습하고, 조정하고, 새로운 정보를 기반으로 더好的 결정을 내릴 수 있도록 설계해야 합니다.

기계 학습 기술을 성공적으로 生産环境에 배치하기 위해, 다양한 배경을 가진 팀을 구성하는 것이 중요하다고 생각합니다. 이것에 대해 설명해 주시겠나요?

기계 학습 기술은 일반적으로 매우 어려운 특정 문제를 해결하는 데 적합합니다. 이러한 문제를 해결하려면 팀이 필요합니다. 公司이 기계 학습에 새롭게 접근하는 경우, 기계 학습 전문가나 팀만으로 문제를 해결할 수 있다는 잘못된 설레임이 있습니다. 그러나 저는 이것이 사실이 아니라고 생각합니다. 다양한 배경을 가진 팀이 필요합니다. 그리고 기계 학습 기술을 성공적으로 生産环境에 배치하기 위해서는, 이러한 팀이 필요합니다.

앨리사, 인터뷰에 감사드립니다. 이 책을 읽고 싶은 독자들에게, 특히 비즈니스 임원들에게는 이 책을 읽으라고 추천합니다: 리얼 월드 AI: 책임 있는 기계 학습을 위한 실용 가이드. 그리고 기계 학습 기술을 성공적으로 生産环境에 배치하는 데 관심이 있는 사람들에게도 이 책을 추천합니다. 감사합니다.