봇이 아이들과 플러팅할 수 있다면, 당신의 데이터와는 어떻게 작용할까?

내부 지침이泄露되면서 메타가 아이들과 플러팅할 수 있는 AI 챗봇을 허용하고 있다는 사실이 밝혀졌을 때, 대부분의 사람들은 그것을 스캔들로 여겼고 넘어갔습니다. 그러나 이 조사에서 현재 AI 윤리의 상태에 대해 무엇을 알려주고 있는지 더 자세히 살펴보는 것이 가치 있습니다. 메타와 같은 회사가 이러한 정책을 규모에서 허용한다면, 이러한 플랫폼은 조용히 무엇을 허용하고 있는지, 그리고 그 중 얼마나 많은 것이 당신의 데이터와 관련되어 있는지 궁금합니다.

비즈니스 리더들은 일반적으로 AI 도구를 평가할 때 무엇을 할 수 있는지, 얼마나 빠른지, 그리고 얼마나 비용이 드는지에 초점을 맞춥니다. 그러나 특히 AI 도구가 빠르게 표준이 되는 상황에서 더 어려운 질문을 던질 가치가 있습니다. 당신의 팀이 AI 도구를 사용하기 시작했을 때, 당신은 어떤 조건에 동의하고 있는지, 모델 제공자와 에이전트 빌더가 당신의 데이터와 무엇을 하는지, 그리고何か 잘못된 경우 누가 책임을 지는지 묻는 것입니다.

대부분의 조직은 새로운 기술에서 가능한 한 많은 돈을榨取하는 방법을 알아내는 데 इतन忙해서 가장 중요한 질문을 고려하지 못했습니다.

당신의 데이터가 실제로 어떻게 처리되고 있는지

대부분의 사람들은 채팅봇과 공유하는 것의 위험을 크게 과대평가하거나 전혀 고려하지 않습니다. 사실, 대규모 언어 모델은 일단 훈련되고 공개되면某种 의미에서 동결됩니다. 즉, 대화는 별도로 저장되며 즉시 시스템의 메모리에 연결되지 않습니다. 따라서 당신이 오늘 아침 ChatGPT에게 말한 내용은 오후에 다른 사람에게 모델이 말하는 내용에 즉시 영향을 미치지 않습니다.

그러나 그것은 당신의 데이터가 사용되지 않는다는 것을 의미하지 않습니다. 사용됩니다. 경로는 단순하지 않습니다.

대화 로그는 별도로 저장되며 많은 AI 연구소는 명시적으로 다음 버전의 모델을 훈련하는 데 사용할 수 있는 권리를 보유하고 있습니다. 그것은 서비스 약관에 명시되어 있습니다. 오늘날 고객 지원 쿼리 또는 전략 브레인스토밍으로 입력된 내용은 시간이 지남에 따라 수백만 명이 사용할 모델에 영향을 미칠 수 있습니다.

기밀 데이터에 대한 위험은 정책을 넘어섭니다. 2025년, Scale AI는 메타, 구글, xAI와 같은 클라이언트의 기밀 프로젝트 자료 수천 페이지를 실수로 공개했습니다. 별도로, OpenAI의 벤더가 침해를 당해 해커가 고객 데이터, 이름, 이메일, 시스템 세부 정보를 훔치게 되었습니다.

명확히 하자면, 이것은 5단계 경보 상황은 아니지만, 위험이 전혀 없는 상황도 아닙니다. 기업급 시스템은 데이터 재사용을 위한 계약적 가드레일을 가지고 있습니다. 소비자 도구는 대부분 그렇지 않습니다. 당신의 데이터가 너무 민감하여 NDA로 보호하고 싶다면, 소비자 채팅봇에 넘겨주고 다른 곳에서 사용되지 않는다고 가정해서는 안 됩니다.

통계는 대부분의 조직이 아직 이것을 흡수하지 못하고 있음을 시사합니다. 거의 8명 중 7명이 직원은 회사 정보를 AI 도구에 붙여넣었으며, 그 중 5명 중 4명은 개인 계정을 사용하여 그렇게 했습니다. 1명 중 5명의 조직은 이미 그림자 AI 사용과 관련된 침해를 보고했으며, 37%만이 이를 탐지하거나 관리하기 위한 정책을 마련했습니다.

이러한 종류의 데이터 위험은 이해하기만 하면 쉽게 피할 수 있습니다. 소비자 도구와 기업 도구를 구분하고, 무엇에 동의하는지 알고, 대부분의 경우를 다룰 수 있습니다.

AI 매개 커뮤니케이션이 비즈니스에 실패하는 곳

당신의 데이터가 어떻게 처리되는지에 대한 한 가지 측면이 있습니다. 다른 측면, 그리고 많은 비즈니스에 있어서는 더 중요한 측면은 이러한 시스템이 당신의 가장 중요한 커뮤니케이션의 품질과 책임성에 미치는 영향입니다.

비즈니스를 움직이는 대화에 대해 생각해 보십시오. 오랜 시간 동안 고객을 유지하기 위한 회의, тон과 신뢰가 거래 언어보다 더 중요한 판매 협상, 또는 연중 목표에 대한 분기별 보드 프레젠테이션. 이러한 상호작용의 거래적 요소는 AI가 비교적 잘 처리할 수 있습니다. 그러나 그 아래에 있는 모든 것은 다릅니다.

특정 실패 모드는 명명할 가치가 있습니다. AI는 컨텍스트를 압축합니다. 그것은 요약하고, 매끄럽게 만들고, 표준화하는 방식으로 세부 사항을 제거할 수 있습니다. 또한, 대규모 언어 모델이 생성하는 내용은 검증하기 어렵습니다. AI 생성 이메일이나 요약된 회의록을 받은 사람들은 그것이 당신이 의도한 것을 반영하는지, 또는 메시지가 AI에 의해 필터링되거나 재구성되지 않았는지 확인할 방법이 없습니다.

그러나 이것은 비즈니스 커뮤니케이션에서 AI가 전혀 쓸모가 없다는 것을 의미하지 않습니다. 분명히 그것은 쓸모가 있습니다. 그러나 효율성의 이익이 노출을 정당화하지 않는 대화의 범주가 있습니다. 대부분의 조직은 이러한 사용 사례를 충분히 구분하지 않았습니다.

직접 하기를 결정하는 방법

따라서 질문은 이것이 됩니다. 당신의 가장 민감한 커뮤니케이션에 대해서는 AI를 루프에 넣어야 합니까?

내가 진정으로 생각하는 대답은, 책임을 질 수 있는 사람이 메시지를 전달하고, 그것이 어떻게 전달되었는지, 그리고 메시지가 전달되었는지 확인할 수 있는 경우에만 그렇습니다. 인간 커뮤니케이션을 확인하는 것은 구식 방식에 대한 선호가 아닙니다. 그것은 어떤 대화는 사람 뒤에 서 있어야 한다는 것을 인식하는 것입니다.

리더들은 숙제를 해야 합니다. 벤더의 데이터 정책은 계약이 종료되면 대화 로그가 어떻게 처리되는지에 대해 무엇을 말합니까? 이것들은 배경에서 IT 팀이 해결해야 할 문제가 아닙니다. 그것들은 조달 질문이며, 현재보다 더早い 단계에서 고려되어야 합니다.

아이들과 플러팅할 수 있는 봇은 그 결정에 대해 혼자서 결정하지 않았습니다. 누군가가 그것을 승인했습니다. 모든 AI 시스템은 그것을 구축하고 배포한 사람들의 판단을 반영하며, 이러한 호출은 항상 외부에서 명확하지는 않습니다.

AI 도구 및 시스템이 채택과 동시에 따라잡을 때까지, 비즈니스 리더가 취할 수 있는 가장 방어 가능한 입장은 AI를 통해 라우팅할 수 있는 대화와 그렇지 않은 대화를 구분하는 것입니다.

AI에 대한 효율성 논리는 설득력 있습니다. 당신의 이름으로 나가는 것을 소유하는 논리도 마찬가지입니다.