์ฌ์ ๋ฆฌ๋
๊ฐ์ธ ์ ๋ณด๋ฅผ ๋ณดํธํ๋ AI: ๋ค์ ์ธ๋์ ๊ฐ์ธ ์๋น์ค๋ฅผ ์ํ ํ๋ผ์ด๋ฒ์ ์ํคํ ์ฒ
대부분의 기업은 아직 개인 AI 어시스턴트가 새로운 수준에 도달했다는 것을 인식하지 못하고 있습니다. 이제 mereka는 질문에 대답하는 것뿐만 아니라 실제 직원 대신 작업을 수행합니다: 예약 및 모니터링, 통신, 재정, 일정, 여행 및 회의에 대한 결정을 내립니다.
AI가 작동하는 데이터도 변경되었습니다: “당신이 어떤 음악을 좋아하는지”에서 “당신은 어디에 있나요, 누구와 함께 있나요, 무엇에 동의했나요, 얼마를 지불하고 있나요”로 이동합니다. 이것은 질적으로 다른 수준의 취약성이며, 우리는 새로운 아키텍처가 필요합니다. 이를 “프라이버시 리시트”라고 부릅니다. 디지털 리시트로, 사용자가 언제든지 어시스턴트가 자신에 대해 알고 있는 내용, 어디에서 왔는지, 왜 사용하는지 등을 확인할 수 있습니다. 이것은 오늘날 우리가 은행 계좌에 대한 기대와 같습니다: 투명한, 검증 가능한, 요청에 따라 제공됩니다.
왜 안전한 AI가 지금 крит적으로重要해졌는지
최근까지 AI 어시스턴트는 주로 정보 제공을 위한 것이었습니다: 검색, 문서 요약, 코드 힌트. 그들은 거의 사람의 개입 없이 작동할 수 없었습니다.
오늘날, 우리는 다른 그림을 보게 됩니다. 어시스턴트는 이메일, 캘린더, 메신저, 뱅킹, 여행 서비스에 통합되어 있습니다. 그들은 독립적으로 편지를 보낼 수 있습니다. 예약을 위해 지불하거나, 비행기를 변경하기 위해, 사용자가 인지하지 못하는 컨텍스트에 의존하여 작동할 수 있습니다.
동시에, 이러한 어시스턴트의 초기 사용자이자 가장 적극적인 사용자는 실수로 인한 비용이极도로 높은 사람들입니다: 최고 경영자, CEO, HNW 클라이언트, 금융 부문 및 자본 관리 전문가. 그들에게 개인 정보의 손실은 심각한 평판, 법적, 직접적인 재정 위험입니다.
AI의 경우, 개인 정보 문제는 더 이상 형식적인 문제로 취급될 수 없습니다.
최소한의 데이터, 더 많은 가치
대부분의 AI 제품은 필요한 것보다 훨씬 더 많은 데이터를 수집합니다. 우리의 경험에 따르면, 일반적인 AI 어시스턴트가 수집하는 대부분의 데이터는 실제로 서비스를 제공하기 위해 사용되지 않습니다.コンシェ르지 비즈니스에서, 어시스턴트가 높은 품질의 개인화된 서비스를 제공하기 위해 필요한 것은 세 가지입니다. 첫째, 작업 관련 선호도: 여행 방식, 의사 소통 방법, 비자, 예산, 가족 의무에 대한 제한.
둘째, 현재 요청의 컨텍스트: 어디, 언제, 누구와, 어떤 목적으로, 기한, 위험.
마지막으로, 과거의 작업 내에서 상호 작용을 기억합니다: 동일한 질문을 반복하지 않도록, 선택한 솔루션을 기억하고, 실수를 반복하지 않습니다.
이것은 제품이 좋은 개인 어시스턴트의 수준에서 작동하는 데 충분합니다. 전체적인 통신 기록, 지속적인 위치 추적, 금융 거래가 필요하지 않습니다.
AI 어시스턴트와 허용 가능한 한계
개인 어시스턴트에서 사용할 수 없는 데이터 유형이 있습니다. 예를 들어, 수동적인 행동 데이터: 지속적인 듣기, 지속적인 지리적 위치 추적, 화면 또는 입력 모니터링. 시스템이 요청한 내용이 아니라 일반적으로 무엇을 하고 있는지에 대한 정보를 수집한다면, 그것은 더 이상 어시스턴트가 아니며 감시가 됩니다.
또한, 시스템과 상호 작용한 적이 없는 제3자의 데이터는 필요하지 않습니다. 예를 들어, “회의를 조직하도록 도와주세요”라는 요청은 게스트에 대한 프로파일, 그들의 경로, 습관을 구축할 권리를 의미하지 않습니다.
세 번째로, 사용자의 통신의 전체 내용은 기본적으로 장기 기억에 저장되어서는 안 됩니다. 어시스턴트는 사용자가 명시적으로 요청한 경우 특정 이메일을 처리할 수 있지만, 그것은 어시스턴트가 이메일을 읽을 권리를 의미하지 않습니다.
유용한 것은 침투적이다: AI 제품의 함정
추가적인 컨텍스트는 실제로 제품을 더 편리하게 만듭니다. 시스템이 더 많이 알고 있는 경우, 추천이 더 정확해지고, 응답이 더 빠르고, 사용하는 동안의 감동이 더 큽니다.
여기서 사용자의 필요를 예상하기 위해 캘린더, 이메일, 채팅, CRM, 지리적 데이터를 연결하는 자연스러운 필요가 생깁니다. 각 사용자 연결은 합리적이고 정당화된 것으로 보입니다.
콘シェ르지 산업에서, 고객의 캘린더와 여행 기록을 연결하면 추천을 개선할 수 있습니다. 시스템은 고객이 필요를 명시하기 전에 필요를 예상할 수 있습니다. 동시에, 일부 서비스는 활성 작업 외부에서 통신 내용을 저장하지 않으며, 수동 데이터를 기반으로 행동 프로파일을 구축하지 않습니다.
문제는 UX 최적화의 논리가 점차적으로 더 많은 데이터 수집, 더 긴 저장, 더广い 접근으로 아키텍처를 이동시키고 있다는 것입니다. 그리고 어느 시점에, 선은 단순히 사라집니다.
두 번째 문제는 고객 지원에 대한 접근과 관련이 있습니다. 강력한 암호화를 구축할 수 있지만, 고객 지원 운영자에게 고객의 기록에 대한 전체 접근을 허용할 수 있습니다. 실제로, 내부 접근과 인간의 오류로 인한 사고가 외부 공격보다는 더 자주 발생합니다.
세 번째 위험은 다중 에이전트 아키텍처입니다. 에이전트가 컨텍스트를 서로에게 전달할 때, 데이터가 명시적으로 설계되지 않은 방식으로 구성 요소 간에 흐르기 시작합니다. 하나의 에이전트가 너무 광범위한 권한을 가지고 있다면, 이 컨텍스트는 더 아래쪽의 체인에서 捕获됩니다.
프라이버시 리시트: AI의 다음 표준
프라이버시를 준수 기능으로 nhìn하는 것은 실수입니다. 실제 프라이버시는 저장하고, 의도된 목적으로 공유하고, 얼마나 오래 저장하고, 어떤 조건으로 확장하고,誰가 접근하고, 어떤 상황에서 접근하는지, 사용자가 어떻게 제어하는지에 달려 있습니다.
불행히도, 대부분의 서비스는 사용자의 질문에 대한 간단한 답변을 가지고 있지 않습니다: 시스템이 정확히 무엇을 알고 있는지, 그것을 수정하거나 삭제할 수 있는지, 특정 데이터의 사용을 금지할 수 있는지.
따라서, 사용자가 언제든지 AI 어시스턴트에게 자신에 대해 알고 있는 내용, 어디에서 왔는지, 왜 사용하는지 등을 확인할 수 있는 프라이버시 리시트를 도입하는 것이 중요합니다. 우리는 곧 시스템이 우리의 시간, 연결, 자본을 관리하는 경우 투명성을 기대할 것입니다.
보안 메모리의 기술적 기초
프라이버시 리시트는 견고한 엔지니어링 기반 없이 불가능합니다. 최소한 세 가지 계층이 중요합니다: 첫째, 인프라 수준의 데이터 보호. 암호화는 형식적인 것이 아니라 핵심 원칙이어야 합니다. 데이터는 클라이언트별 키로 저장되어야 하며, 모든 클라이언트에 대한 단일 마스터 키로 저장되어서는 안 됩니다. 전송은 최신 프로토콜을 통해 이루어져야 하며, 민감한 속성은 서비스 메타데이터에서 논리적으로 분리되어야 합니다.
또한, 각 서비스, 에이전트, 운영자에게는 특정 작업을 수행하기 위해 필요한 데이터에만 접근할 수 있어야 합니다.
마지막으로, 변조 방지 접근 로그, 각 접근의 감사, 저장 및 처리 지理의 기술적 제어가 중요합니다. 다중 에이전트 시나리오의 정기적인 테스트는 별도의 위험 클래스로 간주되어야 합니다.
이 아키텍처로만 프라이버시 리시트가 가능해집니다: 시스템이真正로 무엇을 알고 있는지, 왜 사용하는지 등을 증명할 수 있습니다.
누가 손실하고, 누가 표준이 될 것인가?
메모리를 일방적인 축적으로 인식하는 서비스와 제품은 손실을 입게 될 것입니다: 사용자에게 더 적은 투명성, 더 많은 출처, 더 많은 컨텍스트, 더 긴 저장.
이 모델은 단기적으로 유리해 보이지만, 제한과 명확한 규칙이 없으면, 이 논리는 제어할 수 없는 확장으로 변합니다. 데이터가 연결되는 속도는 설명 및 제어 메커니즘을 구축하는 속도보다 빠르기 때문입니다.
데이터 유출, AI 어시스턴트의 오용, 민감한 정보의 잘못된 공개와 관련된 스캔들은 이 카테고리의 모든 제품에 영향을 미칠 것입니다. 사용자는 투명성에 대한 더 많은 정보를 요구할 것입니다. 그리고 설명 가능성, 추적 가능성, 사용자 제어를 미리 아키텍처에 구축한 회사만이 신뢰를 유지할 수 있을 것입니다.
AI가 알고 있는 내용과 왜 사용하는지에 대한 즉각적이고 검증 가능한 그림을 중심으로 시스템을 설계하는 제품은 표준이 될 것입니다. 프라이버시는 시스템의 시작부터 부분이어야 합니다. 특히 사람들의 삶에 영향을 미칠 때는 더욱如此입니다.
