사상 리더
AI 오남용이 기업 위기를 유발할 때
대부분의 기업은 인공 지능 도구로 인한 평판 재난을 방지하기 위한 정책이 없다
최근 조사 결과에 따르면 약 30%의 기업만이 AI 정책을 수립했다. 한편, 2025년 Enterprise AI and SaaS Data Security Report에 따르면 77%의 직원이 ChatGPT에 회사 기密 정보를 공유한다. 이러한 조합은 평판 위기를 유발하는 완벽한 조건을 만든다.
존재하는 대부분의 AI 정책은 기술 및 규제 위험에 초점을 맞춘다. 데이터 보안 프로토콜, 벤더 평가, 규제 요구 사항 등을 다룬다. 그러나 이러한 정책은 종종 몇 시간 내에 AI 오남용으로 인해 발생할 수 있는 공공 관계 재난을 무시한다. Red Banyan에서 우리는 점점 더 많은 조직이 AI 관련 위기를 겪고 있으며, 우리는 공통된 패턴을 보게 된다. 기술적인 침해는 일반적으로 빠르게 해결되지만, 평판, 고객 관계, 이해관계자 신뢰에 대한 손상은 몇 개월 또는 몇 년 동안 지속될 수 있다.
Shadow AI 문제
가장 큰 위협은 보안 전문가들이 “Shadow AI“라고 부르는 것으로, 직원이 승인되지 않은 개인 AI 계정을 작업에 사용하여 기업의 보안 제어를 우회한다. 대부분의 경우, 그들은 이러한 위험을 완전히 인식하지 못한 채 그렇게 한다.
Cyberhaven 연구에 따르면, 직원이 ChatGPT에 입력한 데이터 중 11%는 기밀 정보이다. 이러한 수치는 모든 CIO와 커뮤니케이션 리더에게 경각심을 불러일으켜야 한다. 우리는 소스 코드, 고객 계약, 미발표 제품 로드맵, 재무 예측, 직원 기록 등이 조직이 제어하지 않는 시스템으로 흐른다는 것을 이야기한다.
데이터 노출이 발생하는 방법
소프트웨어 엔지니어는 코드를 디버그 또는 최적화하기 위해 Claude 또는 ChatGPT와 같은 AI 도구를 사용할 수 있다. 2023년에 삼성의 소프트웨어 엔지니어는 내부 소스 코드를 ChatGPT에 업로드하여 문제를 디버그하려고 했다. 기밀 코드의 유출로 삼성은 모든 엔지니어링 부서에서 AI 사용에 대한 포괄적인 제한을实施했다.
마케팅 전문가와 인사팀은 종종 글쓰기를 다듬기 위해 AI를 사용한다. 그들은 초안 제안, 내부 정책 문서, 때로는 고객 계약을 업로드하여 AI가 명확성을 개선하거나 문법 오류를 수정하도록 요청한다. 이러한 문서에는 종종 재무 예측, 법적 조건 또는 전략 계획과 같은 경쟁사에서 유용한 정보가 포함된다.
고객 지원 팀은 AI 효율성 도구를 실험하여 실제 고객 대화와 지원 티켓을 입력한다. 그들은 AI가 상호작용을 요약하거나 더好的 응답을 제안하도록 요청한다. 이러한 입력에 고객 이름, 연락처 정보, 계정 세부 정보 또는 구매 기록이 포함되면 회사에서 개인 정보 보호 규정과 같은 GDPR 또는 CCPA를 위반할 수 있다.
신제품 개발 팀은 새로운 기능에 대해 브레인스토밍할 때 ChatGPT에 미발표 기능을 설명하여 AI가 아이디어를 개선하거나 잠재적인 문제를 식별하도록 요청할 수 있다. 이러한 설명은 회사에서 출시 전까지 기밀로 유지하려고 했던 경쟁 우위, 기술 혁신 또는 시장 전략을 드러낼 수 있다.
이 모든 정보는 대형 언어 모델에 의해 잠재적으로 유지될 수 있으며 미래에 다른 사용자에게 대한 AI 응답에 영향을 줄 수 있다.
예를 들어, 제품 개발 팀이 ChatGPT에 새로운 제품에 대해 설명한 후, 경쟁사 또는 기자에게 ChatGPT가 그 회사의 출시 예정 제품에 대해 물어볼 수 있다. ChatGPT는 공유된 기밀 정보를 참조하여 새로운 제품 또는 기술에 대한 정보를 유출할 수 있다.
이것이 PR 위기로 되는 방법
이러한 사건이 발생하면, 그것은 거의 IT 문제로만 남아 있지 않는다. 일반적으로 다음과 같은 일이 발생한다:
침해가 발견되면, 종종 우연히 또는 제3자 경고를 통해 발견된다. IT는 범위를 평가하려고 하는 동안 조사하기 시작한다. 한편, 사건이 고객 데이터 또는 규제 정보를 포함하는 경우, 법적 의무로 인해 공개가 요구된다. 공개되면 미디어 보도가 시작된다. 소셜 미디어는 이야기를 증폭한다. 고객은 우려를 가지고 전화를 걸기 시작한다. 직원들은 직업 보안과 자신의 책임에 대해 걱정한다.
24~48시간 내에, 기술적인 사건에서 시작된 것이 완전한 평판 위기로 변한다. 회사는 여러 청중에게 어떻게 이런 일이 발생했는지, 왜 제어가 실패했는지, 무엇을 재발을 방지하기 위해 하는지 설명해야 한다. 회사가 이 시나리오에 대해 준비하지 않았다면, 응답은 종종 느리거나, 일관성이 없거나, 방어적일 수 있다. 각 잘못된 단계는 위기를 연장하고 손상을 심화시킨다.
AI 사고를 위한 위기 응답 프레임워크 구축
CIO는 기술적인 통제와 정책이 중요하지만,何か가 잘못될 때 미디어의 후폭풍을 관리하기 위한 계획 없이 충분하지 않다. 따라서 CIO는 커뮤니케이션 및 법률 팀과 협력하여 AI 사고를 위한 위기 응답 프로토콜을 구축해야 한다.
여기에는 6가지 구체적인 단계가 있다:
- 명확한 에스컬레이션 경로를 설정하십시오. AI 관련 데이터 노출이 발견되면誰에게 즉시 통보해야 하는가? IT, 법률, 커뮤니케이션, 최고 경영진은 모두 빠르게 루프에 포함되어야 한다. 결정 트리를 생성하여 노출된 데이터의 유형 및 민감성에 따라 위기 프로토콜을 활성화한다.
- 응답 템플릿을 개발하십시오. 일반적인 AI 실수 시나리오에 대한 홀딩 문구와 Q&A 문서를 미리 작성하십시오. 이러한 템플릿에는 직원 오남용, 벤더 보안 문제, 우발적인 데이터 노출에 대한 응답이 포함되어야 한다. 템플릿을 준비하면 시간이 중요한 경우 더 빠르고 일관된 응답을 가능하게 한다.
- 대변인을 훈련하십시오. 경영진과 커뮤니케이션 직원은 AI 사고에 대한 미디어 훈련을 받아야 한다. 기술은 복잡하고 전문 용어가 많기 때문에, 이해관계자에게 질문에 답하는 것이 어려울 수 있다.
- 초기 경고 신호를 모니터링하십시오. 소셜 미디어 모니터링에는 조직과 AI 도구 관련 키워드를 포함해야 한다. 때때로 문제의 첫 번째 신호는 직원이 LinkedIn에 게시하거나 고객이 Twitter에 AI 생성 응답에 대한 불만을 게시하는 것이다.
- 위기 시뮬레이션을 수행하십시오. 테이블톱 연습은 AI 데이터 노출 시나리오를 통해 팀이 자신의 역할을 이해하고 응답 계획의 격차를 식별하는 데 도움이 된다. 이러한 시뮬레이션에는 IT, 법률, 커뮤니케이션, 인사, 경영진이 참여해야 한다.
- 필요하기 전에 관계를 구축하십시오. 위기 커뮤니케이션 회사, 제3자 검증을 제공할 수 있는 사이버 보안 전문가, AI 관련 문제에 경험이 있는 법률 고문을 연결하십시오. 위기가 발생하면 즉시 동원할 수 있는 신뢰할 수 있는 고문을 원한다.
앞으로의 길
AI 채택과 AI 거버넌스 간의 격차는 계속 커지고 있다. 직원들은 상당한 평판 위험을 초래할 수 있는 강력한 도구에 쉽게 접근할 수 있다. CIO는 전통적으로 AI 위험 관리의 기술 측면에 초점을 맞추었다. 그러나 AI 사고의 평판 측면은 동일한 관심과 준비가 필요하다.
질문은 회사의 AI 관련 위기를 겪을 것인가가 아니다. 현재 채택 속도와 Shadow AI의 普遍性를 고려할 때, 질문은 언제일까이다. 지금 준비하는 회사는 이러한 사건을 더 잘 극복할 수 있다.
