사상 리더
생성형 AI 도입: 생성형 AI 도구의 사이버 보안 영향 분석

핵심 포인트규제가 도입보다 뒤처지는 상황에서 기업은 생성형 AI 사용을 위한 내부 정책을 시급히 마련해야 합니다.
더 보기
- 규제가 도입보다 뒤처지는 상황에서 기업은 생성형 AI 사용을 위한 내부 정책을 시급히 마련해야 합니다.
- CISO는 AI 보안 위험을 관리하기 위해 특정 도구보다 데이터 분류에 중점을 두어야 합니다.
- 생성형 AI의 데이터 수요는 프롬프트를 통해 민감한 비즈니스 정보가 노출될 고유한 위험을 생성합니다.
생성형 AI는 이제 모든 이사회와 비즈니스 리더의 주목을 받고 있습니다. 한때 어려운 기술이었던 생성형 AI는 ChatGPT나 DALL-E와 같은 응용 프로그램 덕분에 모든 산업과 연령층에서 광범위하게 사용되고 있습니다. 우리는 이제 생성형 AI를 사용하여 일하는 방법을 배우고 있는 직원들이 있습니다.
최근의 조사에 따르면, 29%의 Z 세대, 28%의 X 세대, 27%의 밀레니얼 세대 응답자가 일상적인 업무에서 생성형 AI 도구를 사용한다고 합니다. 2022년에 대규모 생성형 AI 도입은 23%였으며, 2025년까지 46%로 증가할 것으로 예상됩니다.
생성형 AI는 원본 콘텐츠를 다양한 형태로 생성하는 기술입니다. 이는 텍스트, 이미지, 비디오, 음악, 소프트웨어 코드 등 다양한 형태로 생성할 수 있습니다. 생성형 AI는 대규모 언어 모델과 거대한 데이터셋을 사용하여 거의 인간과 구별할 수 없는 고유한 콘텐츠를 생성할 수 있습니다.
그러나 비즈니스에서 생성형 AI를 사용하는 속도와 규제의 부족은 사이버 보안과 규제 준수에 대한 우려를 높이고 있습니다.
한 조사에 따르면, 80% 이상의 사람들이 ChatGPT와 생성형 AI의 보안 위험에 대해 우려하고 있으며, 52%의 응답자는 규제가 따라잡을 수 있도록 생성형 AI 개발을 중단해야 한다고 생각합니다. 이러한 우려는 비즈니스에서도 공유되고 있습니다. 65%의 고위 IT 리더는 보안 우려로 인해 생성형 AI 도구에 대한 무제한적인 접근을 허용하지 않습니다.
생성형 AI는 아직 알려지지 않은 것
생성형 AI 도구는 데이터를 필요로 합니다. ChatGPT와 DALL-E를 사용하는 모델은 외부 또는 공개된 데이터에서 학습되며, 이러한 도구를 최대한 활용하기 위해서는 사용자가 매우 구체적인 데이터를 공유해야 합니다. 종종 ChatGPT와 같은 도구를 사용할 때 사용자는 정확하고 완전한 결과를 얻기 위해 민감한 비즈니스 정보를 공유합니다. 이는 비즈니스에 많은 불확실성을 초래합니다. 생성형 AI 도구를 사용할 때 민감한 정보의 비인가된 접근 또는 의도하지 않은 공개의 위험이 있습니다.
이 자체는 나쁜 것이 아닙니다. 문제는 이러한 위험이 제대로 탐구되지 않았다는 것입니다. 지금까지 생성형 AI 도구를 사용하는 비즈니스에 대한 실제 영향 분석은 이루어지지 않았으며, 생성형 AI 사용을 위한 글로벌 법적 및 규제적 프레임워크는 아직 성숙하지 않았습니다.
규제는 아직 진행 중
규제 기관은 이미 생성형 AI 도구를 개인 정보 보호, 데이터 보안, 생성된 데이터의 무결성과 관련하여 평가하고 있습니다. 그러나 새로운 기술의 경우 규제 프레임워크는 기술의 발전 속도에 따라 따라잡지 못하고 있습니다. 기술이 회사와 직원들에 의해 광범위하게 사용되고 있는 동안, 규제 프레임워크는 아직 초안 단계에 있습니다.
이는 비즈니스에 대한 명백한 위험을 초래합니다. 이 위험은 현재로서는 충분히 심각하게 받아들여지지 않고 있습니다. 경영진은 이러한 플랫폼이 자동화와 성장 기회 같은 실질적인 사업상 이익을 가져다줄 것이라는 점에 관심이 있습니다. 그러나 리스크 관리자들은 이러한 기술이 어떻게 규제될지, 법적 영향은 무엇인지, 회사 데이터가 어떻게 노출될지에 대해 질문하고 있습니다. 이러한 도구는 브라우저와 인터넷 연결만 있으면 누구나 사용할 수 있습니다. 따라서 규제가 따라잡을 때까지 비즈니스에서는 생성형 AI 사용에 대한 자신의 규칙을 생각해야 합니다.
생성형 AI를 관리하는 CISO의 역할
규제 프레임워크가 아직 부족한 상황에서, 최고정보보호책임자(CISO)는 생성형 AI를 사용하는 것에 대한 중요한 역할을 해야 합니다. 그들은 누가 기술을 사용하고 어떤 목적으로 사용하는지, 직원이 생성형 AI 도구와 상호 작용할 때 기업 정보를 어떻게 보호할지, 기술의 보안 위험을 어떻게 관리할지, 보안과 기술의 가치 사이에서 어떻게 균형을 잡을지에 대해 이해해야 합니다.
이것은 쉽지 않은 일입니다. 기술을 공식적으로 도입할 때와 직원이 공개 도구를 감독 없이 사용하도록 허용할 때 각각 어떤 긍정적·부정적 결과가 나타나는지 상세한 위험 평가를 해야 합니다. 생성형 AI 응용 프로그램은 쉽게 접근할 수 있기 때문에, CISO는 회사 정책을 신중하게 생각해야 합니다. 직원들이 ChatGPT나 DALL-E와 같은 도구를 사용하여 업무를 쉽게 할 수 있도록 허용해야 합니까? 아니면 이러한 도구에 대한 접근을 제한하거나 어떤 방식으로 통제해야 합니까? 한 가지 명백한 문제는 내부 사용 지침을 만들더라도 기술이 발전하는 속도에 따라 곧 구식이 될 수 있다는 것입니다.
이 문제를 해결하는 방법은 생성형 AI 도구 자체보다 데이터 분류와 보호에 집중하는 것입니다. 이는 데이터 침해와 유출을 방지하는 데 언제나 중요했으며 이 경우에도 마찬가지입니다. 데이터에 민감도 등급을 부여하면 처리 방식을 정할 수 있습니다. 암호화해야 할까요? 외부로 나가지 않도록 차단해야 할까요? 알림을 보내야 할까요? 누가 접근할 수 있고 어디에 공유할 수 있을까요? 도구보다 데이터의 흐름을 중심으로 관리하면 CISO와 보안 담당자가 앞서 언급한 위험을 줄일 가능성이 높아집니다.
생성형 AI는 비즈니스에 이점과 위험를 모두 가져다줍니다. 자동화와 창의적인 개념화와 같은 새로운 가능성을 제공하는 동시에, 데이터 보안과 지적 재산권 보호와 관련된 복잡한 도전도 제기합니다. 규제와 법적 프레임워크가 아직 완성되지 않은 상황에서, 비즈니스에서는 기회와 위험 사이에서 균형을 잡고 조직의 전체 보안 태세를 반영하는 자체 정책 통제를 시행해야 합니다. 생성형 AI는 비즈니스 발전에 기여할 것입니다. 그러나 우리는 주의를 기울여야 합니다.












