사상 리더
Bard AI 확장 기능 사용 전 위험성 고려하기

핵심 포인트Google 직원은 개인 사용자 데이터가 포함된 Bard 대화를 검토할 수 있습니다.
더 보기
- Google 직원은 개인 사용자 데이터가 포함된 Bard 대화를 검토할 수 있습니다.
- Bard 대화를 공유하면 공개 Google 검색 결과에 노출될 수 있습니다.
- DLP 제어 기능이 있는 브라우저 확장 프로그램을 사용하면 AI 데이터 도난 위험을 완화할 수 있습니다.
구글은 최근 전면적인 Bard 확장 기능의 출시를 발표했으며, 이는 대화형 생성 AI(GenAI) 도구를 다른 서비스에 통합하는 것을 의미합니다. Bard는 이제 사용자의 개인 데이터를 활용하여 다양한 작업을 수행할 수 있습니다. 예를 들어, 이메일을 정리하고, 비행기를 예약하고, 여행을 계획하고, 메시지 응답을 작성하는 등의 작업을 수행할 수 있습니다.
구글의 서비스는 이미 우리의 일상 생활에 깊이 연관되어 있기 때문에, 이러한 통합은 GenAI를 일상생활에 실용적으로 활용하는 데 있어 실질적인 진전입니다. 이는 개인 작업과 워크플로우를 더 효율적이고 생산적으로 처리하는 방법을 만들게 됩니다. 따라서, 구글이 더 편리한 AI 도구를 출시할수록, 브라우저 기반 생산성 확장 기능을 찾는 사용자들의 수요를 충족하기 위해 다른 웹 기반 AI 기능도 등장하고 있습니다.
그러나 사용자들은 또한 주의하고 책임감을 가지고 있어야 합니다. Bard 확장 기능과 유사한 도구는 유용하고 생산적일 수 있지만, 사용자의 개인 데이터를 위협하는 새로운 보안 취약점뿐 아니라 아직 발견되지 않은 다른 위험도 초래할 수 있습니다. Bard 또는 다른 GenAI 생산성 도구를 사용하려는 사용자들은 민감한 정보를 무턱대고 넘기기 전에 모범 사례를 익히고 포괄적인 보안 솔루션을 찾는 것이 좋습니다.
개인 데이터 검토
구글은 명시적으로 밝혔다. 그 회사의 직원들이 Bard와의 사용자 대화를 검토할 수 있으며, 이는 개인 정보, 송장, 은행 세부 정보, 사랑 편지 등 개인 정보를 포함할 수 있습니다. 따라서 사용자에게는 기밀 정보나 구글 직원이 보거나 제품·서비스·머신러닝 기술을 개선하는 데 사용하기를 원하지 않는 데이터를 입력하지 말라는 경고가 주어집니다.
구글과 다른 GenAI 도구 제공업체는 또한 사용자의 개인 데이터를 사용하여 기계 학습 모델을 재훈련할 수 있습니다. 이는 GenAI의 개선을 위한 필수적인 측면입니다. AI의 힘은 스스로 학습하고 새로운 정보에서 학습할 수 있는 능력에 있습니다. 그러나 이러한 새로운 정보가 사용자의 개인 데이터에서 나온다면, Bard의 공개 서비스에 비밀번호, 은행 정보 또는 연락처 정보를 통합할 수 있는 위험이 있습니다.
미결정된 보안 문제
Bard가 구글 내에서 더 폭넓게 통합됨에 따라, 전문가와 사용자들은 모두 그 기능의 범위를 이해하기 위해 노력하고 있습니다. 그러나 구글은 다른 AI 분야의 선도적인 기업과 마찬가지로, 사용자의 정보와 데이터를 어떻게 사용할지 정확히 모르는 상태에서 제품을 출시하고 있습니다. 예를 들어, 공유 버튼을 통해 Bard 대화 내용을 친구와 공유하면, 전체 대화 내용이 표준 구글 검색 결과에 나타날 수 있습니다.
일상 작업과 효율성을 개선하는 매력적인 솔루션일 수 있지만, Bard 또는 다른 AI 기반 확장 기능에 유용한 일상 작업을 수행하도록 허용하면, AI의 잘못된 또는 부정확한 출력인 AI 환각의 형태로 원치 않는 결과를 초래할 수 있습니다.
구글 사용자에게 이는 잘못된 비행기를 예약하거나, 잘못된 송장을 지불하거나, 잘못된 사람에게 문서를 공유하는 것을 의미할 수 있습니다. 개인 데이터를 잘못된 당사자 또는 악의적인 행위자에게 노출하거나, 잘못된 데이터를 올바른 사람에게 보낼 수 있습니다. 이는 신분 도용, 디지털 개인 정보의 손실, 재정적 손실 또는 당혹스러운 서신 내용의 노출 등 원치 않는 결과를 초래할 수 있습니다.
보안 확장
평균 AI 사용자에게 가장 좋은 방법은, 아직 예측할 수 없는 AI 어시스턴트에게 개인 정보를 공유하지 않는 것입니다. 그러나 이것만으로는 완전한 보안을 보장하지는 않습니다.
SaaS와 웹 기반 애플리케이션으로의 전환으로 인해 브라우저는 공격자의 주요 목표가 되었습니다. 웹 기반 AI 도구를 채택함에 따라, 민감한 데이터를 훔치기 위한 기회가 조금 더 넓어집니다. GenAI의 성공에 편승하여 새로운 기능으로 사용자를 유혹하는 브라우저 확장 기능이 많아지면서, 사용자는 이러한 확장 기능이 정보를 훔치거나, ChatGPT 관련 도구의 경우 OpenAI API 키를 훔칠 수 있다는 사실을 주의해야 합니다.
다행히도, 브라우저 확장 기능 보안 솔루션이 이미 존재하여 데이터 도난을 방지할 수 있습니다. DLP 컨트롤을 갖춘 브라우저 확장 기능을 구현함으로써, 사용자는 다른 브라우저 확장 기능, AI 기반 또는 그렇지 않은 확장 기능이 개인 데이터를 악용하거나 공유하는 위험을 완화할 수 있습니다. 이러한 보안 확장 기능은 브라우저 활동을 검사하고 보안 정책을 적용하여, 웹 기반 애플리케이션이 민감한 정보를 가져가는 위험을 방지할 수 있습니다.
Bard 보호하기
Bard와 다른 유사한 확장 기능은 생산성과 편리성을 향상시킬 수 있지만, 상당한 사이버 보안 위험을 수반합니다. 개인 데이터가 관련된 경우, 사용자는 항상 잠재적인 보안 문제를 인식해야 합니다. 특히, 생성 AI의 새로운 미탐험 영역에서 더욱 그렇습니다.
사용자가 Bard와 다른 AI 및 웹 기반 도구를 민감한 개인 데이터와 함께 독립적으로 작동하도록 허용할수록, 보안 확장 기능이나 DLP 컨트롤 없이 취약한 사용자에게 더 심각한 결과가 따를 수 있습니다. 생산성의 향상은 정보 노출의 위험을 증가시킨다면, 생산성이 낮아질 것입니다. 따라서, 개인은 데이터가 잘못 취급되어 자신에게 피해가 발생하기 전에 AI 사용에 대한 보호 조치를 마련해야 합니다.












