Bard AI 확장 기능 사용 전 위험성 고려하기

구글은 최근 전면적인 Bard 확장 기능의 출시를 발표했으며, 이는 대화형 생성 AI(GenAI) 도구를 다른 서비스에 통합하는 것을 의미합니다. Bard는 이제 사용자의 개인 데이터를 활용하여 다양한 작업을 수행할 수 있습니다. 예를 들어, 이메일을 정리하고, 비행기를 예약하고, 여행을 계획하고, 메시지 응답을 작성하는 등의 작업을 수행할 수 있습니다.

구글의 서비스는 이미 우리의 일상 생활에 깊이 연관되어 있기 때문에, 이 통합은 실제적인 일상 응용 프로그램에 대한 GenAI의 발전을 위한真正한 발전입니다. 이는 개인 작업과 워크플로우를 더 효율적이고 생산적으로 처리하는 방법을 만들게 됩니다. 따라서, 구글이 더 편리한 AI 도구를 출시할수록, 다른 웹 기반 AI 기능도 사용자의需求을 충족하기 위해 등장하고 있습니다.

그러나 사용자들은 또한 주의하고 책임감을 가지고 있어야 합니다. Bard 확장 기능과 유사한 도구는 유용하고 생산적일 수 있지만, 사용자의 개인 데이터를 위협하는 새로운 보안 취약점을 열어줄 수 있습니다. Bard 또는 다른 GenAI 생산성 도구를 사용하려는 사용자들은 최선의 방법을 배우고, 포괄적인 보안 솔루션을 찾는 것이 좋습니다.

개인 데이터 검토

구글은 명시적으로 밝혔다. 그 회사의 직원들이 Bard와의 사용자 대화를 검토할 수 있으며, 이는 개인 정보, 송장, 은행 세부 정보, 사랑 편지 등 개인 정보를 포함할 수 있습니다. 사용자들은 이러한 정보를 입력하지 않거나, 구글 직원이 볼 수 있거나, 제품, 서비스, 기계 학습 기술에 대한 정보로 사용하지 않도록 경고받습니다.

구글과 다른 GenAI 도구 제공업체는 또한 사용자의 개인 데이터를 사용하여 기계 학습 모델을 재훈련할 수 있습니다. 이는 GenAI의 개선을 위한 필수적인 측면입니다. AI의 힘은 스스로 학습하고 새로운 정보에서 학습할 수 있는 능력에 있습니다. 그러나 이러한 새로운 정보가 사용자의 개인 데이터에서 나온다면, Bard의 공개 서비스에 비밀번호, 은행 정보 또는 연락처 정보를 통합할 수 있는 위험이 있습니다.

미결정된 보안 문제

Bard가 구글 내에서 더广泛하게 통합됨에 따라, 전문가와 사용자들은 모두 그 기능의 범위를 이해하기 위해 노력하고 있습니다. 그러나 구글은 다른 AI 분야의 선도적인 기업과 마찬가지로, 사용자의 정보와 데이터를 어떻게 사용할지 정확히 모르는 상태에서 제품을 출시하고 있습니다. 예를 들어, Bard 대화 내용을 친구와 공유하기 위한 공유 버튼을 클릭하면, 전체 대화 내용이 표준 구글 검색 결과에 나타날 수 있습니다.

일상 작업과 효율성을 개선하는 매력적인 솔루션일 수 있지만, Bard 또는 다른 AI 기반 확장 기능에 유용한 일상 작업을 수행하도록 허용하면, AI의 잘못된 또는 부정확한 출력인 AI 환각의 형태로 원치 않는 결과를 초래할 수 있습니다.

구글 사용자에게 이는 잘못된 비행기를 예약하거나, 잘못된 송장을 지불하거나, 잘못된 사람에게 문서를 공유하는 것을 의미할 수 있습니다. 개인 데이터를 잘못된 당사자 또는 악의적인 행위자에게 노출하거나, 잘못된 데이터를 올바른 사람에게 보낼 수 있습니다. 이는 身分 도용, 디지털 개인 정보의 손실, 재정적 손실 또는 부끄러운 내용의 노출 등 원치 않는 결과를 초래할 수 있습니다.

보안 확장

평균 AI 사용자에게 가장好的 방법은, 아직 예측할 수 없는 AI 어시스턴트에게 개인 정보를 공유하지 않는 것입니다. 그러나 이것만으로는 완전한 보안을 보장하지는 않습니다.

ＳａａＳ와 웹 기반 애플리케이션으로의 전환으로 인해 브라우저는 공격者的 주요 목표가 되었습니다. 웹 기반 AI 도구를 채택함에 따라, 민감한 데이터를 훔치기 위한 기회가 조금 더 넓어집니다. GenAI의 성공에 편승하여 새로운 기능으로 사용자를 유혹하는 브라우저 확장 기능이 많아지면서, 사용자는 이러한 확장 기능이 정보를 훔치거나, ChatGPT 관련 도구의 경우 OpenAI API 키를 훔칠 수 있다는 사실을 주의해야 합니다.

幸运하게도, 브라우저 확장 기능 보안 솔루션이 이미 존재하여 데이터 도난을 방지할 수 있습니다. DLP 컨트롤을 갖춘 브라우저 확장 기능을 구현함으로써, 사용자는 다른 브라우저 확장 기능, AI 기반 또는 그렇지 않은 확장 기능이 개인 데이터를 악용하거나 공유하는 위험을 완화할 수 있습니다. 이러한 보안 확장 기능은 브라우저 활동을 검사하고 보안 정책을 적용하여, 웹 기반 애플리케이션이 민감한 정보를 가져가는 위험을 방지할 수 있습니다.

Bard 보호하기

Bard와 다른 유사한 확장 기능은 생산성과 편리성을 향상시킬 수 있지만, 상당한 사이버 보안 위험을 수반합니다. 개인 데이터가 관련된 경우, 사용자는 항상潜在的な 보안 문제를 인식해야 합니다. 특히, 생성 AI의 새로운 미탐험 영역에서 더욱 그렇습니다.

사용자가 Bard와 다른 AI 및 웹 기반 도구를 민감한 개인 데이터와 함께 독립적으로 작동하도록 허용할수록, 보안 확장 기능이나 DLP 컨트롤 없이 취약한 사용자에게 더 심각한 결과가 따를 수 있습니다. 생산성의 향상은 정보 노출의 위험을 증가시킨다면, 생산성이 낮아질 것입니다. 따라서, 개인들은 AI를 위한 보호 조치를 취하기 전에 데이터가 자신의 비용으로 악용되는 것을 방지하기 위해 조치를 취해야 합니다.