베일리 카스마르, 워터루 대학교 컴퓨터 과학 박사 과정 – 인터뷰 시리즈

베일리 카스마르(Bailey Kacsmar)는워털루대학교컴퓨터과학부의 박사과정 연구자이며,앨버타대학교에 교수로 부임할 예정입니다. 그녀는 프라이버시를 보호하는 계산의 기술적 접근법과 해당 기술에 대한 사용자의 인식, 우려, 이해를 함께 연구하며, 사용자를 고려한 프라이버시 강화 기술 개발에 관심을 두고 있습니다. 연구의 목표는 머신러닝 응용에서 프라이버시 보호의 가능성과 한계를 파악하는 것입니다.

사용자를 고려한 프라이버시 강화 기술을 연구하고 계십니다. AI에서 프라이버시가 그토록 중요한 이유는 무엇입니까?

AI에서 프라이버시가 중요한 가장 큰 이유는 우리가 사는 세계의 AI가 데이터 없이는 존재할 수 없기 때문입니다. 데이터는 유용한 추상화이지만, 결국 사람과 그들의 행동을 설명하는 것입니다. 우리가 다루는 것은 나무의 개체 수나 수위에 관한 데이터만이 아닙니다. 실제 사람에게 영향을 줄 수 있는 것을 다룰 때마다 이 점을 인식하고, 시스템이 어떤 이익이나 피해를 줄 수 있는지 이해해야 합니다. 많은 시스템이 방대한 데이터의 혜택을 받거나 건강 데이터처럼 매우 민감한 정보를 활용해 세상을 새롭게 이해하려는 AI에서는 특히 그렇습니다.

머신러닝이 사용자의 프라이버시에 대한 신뢰를 저버린 사례로는 어떤 것들이 있습니까?

‘신뢰를 저버린다’는 강한 표현입니다. 하지만 시스템이 사람의 동의 없이, 알리지도 않고, 잠재적 피해도 고려하지 않은 채 정보를 사용할 때마다 개인이나 사회의 프라이버시 규범을 저버릴 위험이 생깁니다. 작은 상처가 수없이 쌓이는 것과 같습니다. 데이터의 당사자에게 알리지 않은 채 사용자의 이메일함, 문자메시지 또는 건강 데이터를 이용해 모델을 학습시키는 것이 그 예입니다.

차등 프라이버시가 무엇인지 정의하고 견해를 말씀해 주시겠습니까?

차등 프라이버시는 기술적으로 프라이버시를 구현하는 데 널리 사용되는 정의이자 기법입니다. 일반적으로 프라이버시의 기술적 정의에는 두 가지 핵심 요소가 있습니다. 무엇을 보호하는지, 그리고 누구로부터 보호하는지입니다. 기술적 프라이버시에서 보호 보장은 일련의 가정이 충족될 때 성립합니다. 이러한 가정은 잠재적 공격자, 시스템의 복잡성 또는 통계적 특성에 관한 것일 수 있습니다. 차등 프라이버시는 폭넓게 활용할 수 있는 매우 유용한 기법입니다. 다만 차등 프라이버시가 프라이버시 자체와 동일하지 않다는 점을 기억해야 합니다.

프라이버시는 하나의 정의나 개념으로 한정되지 않으므로 다른 관점도 알아야 합니다. 예를 들어 ‘맥락적 무결성’은 응용 분야나 조직이 달라지면 특정 상황에서 개인이 느끼는 프라이버시도 달라진다는 점을 고려하는 개념입니다. 캐나다의 PIPEDA, 유럽의 GDPR, 캘리포니아의 CCPA에 포함된 법적 프라이버시 개념도 있습니다. 즉, 차등 프라이버시를 사용하더라도 기술 시스템을 다른 프라이버시 요인과 무관한 진공 속에 존재하는 것처럼 다루어서는 안 됩니다.

또 다른 프라이버시 강화 머신러닝 방식으로 연합학습이 거론됩니다. 이를 어떻게 정의하며 어떻게 생각하십니까?

연합학습은 여러 소유자나 장소에 분산된 데이터셋을 이용해 모델을 학습시키는 머신러닝 방식입니다. 본질적으로 프라이버시를 강화하는 방식인 것은 아닙니다. 프라이버시 강화 머신러닝이라면 무엇을 누구로부터 보호하는지, 그리고 보호가 성립하려면 어떤 조건이 충족되어야 하는지를 형식적으로 정의해야 합니다. 예를 들어 단순한 차등 프라이버시 계산을 생각하면, 출력을 보는 사람이 특정 데이터가 제공되었는지 알아낼 수 없도록 보장합니다.

또한 데이터 간 상관관계가 있는 경우 등에는 차등 프라이버시가 이러한 보장을 하지 않는다고 설명할 수 있습니다. 연합학습 자체에는 이런 특성이 없습니다. 데이터 보유자가 서로 또는 제삼자에게 데이터셋을 직접 넘기지 않고도 여러 데이터로 모델을 학습시킬 뿐입니다. 이것이 프라이버시 기능처럼 들리지만, 신뢰할 수 없는 참여자가 보게 되는 중간 정보와 출력으로부터 보호 대상 정보를 알아낼 수 없다는 형식적 보장이 필요합니다. 공동 모델 학습에 데이터를 제공하는 모든 사람이 신뢰할 수 없는 참여자에 포함될 수 있는 연합학습 환경에서는 이러한 엄밀함이 특히 중요합니다.

이러한 접근법의 현재 한계는 무엇입니까?

현재의 한계는 프라이버시와 유용성 사이의 절충 관계로 가장 잘 설명할 수 있습니다. 영향을 받는 사람에게 프라이버시상의 의미를 알리고, 달성하려는 목적에 맞춰 시스템을 평가하는 등 다른 모든 일을 하더라도, 완벽한 프라이버시를 달성하려면 시스템을 만들지 않아야 하는 상황에 이릅니다. 반대로 완벽한 유용성을 추구하면 대체로 프라이버시 보호가 사라집니다. 따라서 ‘이상적인’ 절충점을 어떻게 정하느냐가 문제입니다. 필요한 프라이버시 보호를 제공하면서도 원하는 기능을 구현할 수 있도록 적절한 균형점을 찾고, 그 방향으로 시스템을 구축해야 합니다.

프라이버시를 보호하는 계산의 기술적 해결책을 함께 연구하며 사용자를 고려한 프라이버시 기술을 개발하고 계십니다. 이러한 해결책을 좀 더 자세히 설명해 주시겠습니까?

여기서 해결책이란, 넓게 보면 다양한 기술적 프라이버시 시스템을 개발할 수 있다는 뜻입니다. 하지만 개발할 때는 그 보호 보장이 실제로 영향을 받는 사람들에게 전달되는지 확인해야 합니다. 사람들이 어떤 보호를 중요하게 여기는지 알아본 다음 시스템을 만들 수도 있습니다. 사람들이 현실의 위협과 위험을 고려해 시스템을 실제로 어떻게 사용하는지 파악한 뒤 이를 개선할 수도 있습니다. 기술적 해결책은 앞서 언급한 정의를 충족하는 올바른 시스템일 수 있습니다. 사용자를 고려한 해결책이라면 해당 응용 분야의 사용자와 다른 영향받는 사람들의 의견을 토대로 시스템을 설계할 것입니다.

현재 2024년 9월에 시작할 대학원생을 모집하고 계십니다. 학생들이 AI 프라이버시에 관심을 가져야 하는 이유는 무엇입니까?

우리 사회에서 점점 더 널리 퍼질 분야이기 때문에 관심을 가져야 한다고 생각합니다. 이런 시스템이 얼마나 빠르게 확산되는지 보려면 최근 뉴스 기사와 소셜미디어에서 ChatGPT가 크게 주목받고 그 영향에 관한 논쟁이 이어진 사례만 봐도 됩니다. 데이터 수집과 활용은 일상에 너무 깊숙이 자리 잡아, 우리는 거의 끊임없이 여러 기업과 조직에 자신에 관한 정보를 제공하고 있습니다. 기업들은 때로 서비스를 개선하기 위해, 때로 이익을 얻기 위해 그 데이터를 활용하려 합니다. 현재로서는 이러한 관행이 바뀔 것이라고 기대하기가 현실적이지 않습니다. 그러나 사용자를 보호하면서 기업이 원하는 일부 분석도 허용하는 프라이버시 보호 시스템이 있다면, 우리 사회의 암묵적인 일부가 된 위험과 보상 사이의 균형을 맞추는 데 도움이 될 수 있습니다.

훌륭한 인터뷰에 감사드립니다. 더 알고 싶은 독자는베일리 카스마르의 GitHub 페이지를 방문하시기 바랍니다.