베일리 카스마르, 워터루 대학교 컴퓨터 과학 박사 과정 – 인터뷰 시리즈

베일리 카스마르는 워터루 대학교 컴퓨터 과학 학교의 박사 과정 학생이며, 앨버타 대학교의 입사 예정 교수입니다. 그녀의 연구 관심은 사용자 의식적인 개인 정보 보호 기술의 개발을 통해 기술적인 접근 방식과 사용자의 인식, 우려, 이해를 병렬로 연구하는 것입니다. 그녀의 연구는 기계 학습 응용에서 개인 정보 보호의 잠재적 가능성과 한계를 식별하는 것을 목표로 합니다.

귀하의 연구 관심은 사용자 의식적인 개인 정보 보호 기술의 개발에 있습니다. 왜 기계 학습에서 개인 정보 보호가 इतन 중요할까요?

기계 학습에서 개인 정보 보호는 매우 중요합니다. 왜냐하면 기계 학습은 데이터 없이 존재할 수 없기 때문입니다. 데이터는 사람과 그들의 행동을 설명하는 것입니다. 우리는 거의 데이터를 사용하여 사람들을 이해하거나 서비스를 개선하려고 합니다. 따라서 기계 학습에서 개인 정보 보호는 매우 중요합니다.

기계 학습에서 사용자 개인 정보를 침해하는 경우는 어떤 것이 있나요?

사용자 개인 정보를 침해하는 경우는 사용자의 동의 없이 데이터를 수집하거나 사용하는 경우입니다. 이러한 경우는 사용자의 이메일, 문자 메시지, 건강 데이터 등 민감한 정보를 사용하여 모델을 훈련시키는 경우입니다.

차별적 개인 정보 보호(differential privacy)를 정의하고, 귀하의 견해를 설명해 주세요.

차별적 개인 정보 보호는 기술적인 개인 정보 보호를 위한 정의 또는 기술입니다. 기술적인 개인 정보 보호는 두 가지 주요 측면을 포함합니다. 보호되는 것과誰로부터 보호되는지입니다. 차별적 개인 정보 보호는 이러한 가정에 따라 개인 정보 보호 보장을 제공하는 기술입니다. 그러나 개인 정보 보호는 단일 정의 또는 개념으로 제한되지 않습니다. 개인 정보 보호에는 법적, 기술적인, 사회적인 측면이 있습니다.

연방 학습(federated learning)은 또 다른 개인 정보 보호 기술입니다. 이를 정의하고, 귀하의 견해를 설명해 주세요.

연방 학습은 여러 주인이나 위치에 분산된 데이터셋을 사용하여 기계 학습 모델을 훈련시키는 방법입니다. 연방 학습은 본질적으로 개인 정보 보호 기술이 아닙니다. 개인 정보 보호 기술은正式하게 보호되는 것을 정의하고,誰로부터 보호되는지 정의해야 합니다. 예를 들어, 차별적 개인 정보 보호는 모델의 출력에서 특정 데이터 포인트를 식별할 수 없다는 보장을 제공합니다.

현재 이러한 접근 방식의 한계는 무엇인가요?

현재 이러한 접근 방식의 한계는 개인 정보 보호와 유틸리티의 트레이드오프입니다. 개인 정보 보호를 완벽하게 제공하는 것은 시스템의 기능을 제한할 수 있습니다. 따라서 개인 정보 보호와 유틸리티의 적절한 균형을 찾는 것이 중요합니다.

귀하는 현재 사용자 의식적인 개인 정보 보호 기술을 개발하고 있습니다. 이러한 기술의 일부는 무엇인가요?

사용자 의식적인 개인 정보 보호 기술은 사용자의 입력과 실제 사용 사례를 고려하여 개발됩니다. 이러한 기술은 사용자의 실제 위협과 리스크 고려를 반영하여 개발됩니다. 기술적인 개인 정보 보호 시스템은 사용자의 실제 사용 사례와 일치하는지 확인해야 합니다.

귀하는 현재 2024년 9월부터 입학할 관심 있는 대학원 학생들을 모집하고 있습니다. 왜 학생들이 기계 학습 개인 정보 보호에 관심을 가져야 하나요?

기계 학습 개인 정보 보호는 사회에서 점점 더 중요해지는 분야입니다. 기계 학습은 데이터를 사용하여 서비스를 개선하거나 새로운 이해를 개발하려고 합니다. 그러나 이러한 데이터는 개인 정보를 포함할 수 있습니다. 따라서 개인 정보 보호 기술은 이러한 데이터를 사용하면서 개인 정보를 보호하는 데 중요합니다.

감사합니다. 더 많은 정보를 원하는 독자는 베일리 카스마르의 깃허브 페이지를 방문할 수 있습니다.