생성적 AI 도입: 생성적 AI 도구의 사이버 보안 영향 분석

생성적 AI는 이제 모든 이사회와 비즈니스 리더의 주목을 받고 있습니다. 한때 어려운 기술이었던 생성적 AI는 ChatGPT나 DALL-E와 같은 응용 프로그램 덕분에 모든 산업과 연령층에서 광범위하게 사용되고 있습니다. 우리는 이제 생성적 AI를 사용하여 일하는 방법을 배우고 있는 직원들이 있습니다.

最近의 조사에 따르면, 29%의 Z 세대, 28%의 X 세대, 27%의 밀레니얼 세대 응답자가 일상적인 업무에서 생성적 AI 도구를 사용한다고 합니다. 2022년에 대규모 생성적 AI 도입은 23%였으며, 2025년까지 46%로 증가할 것으로 예상됩니다.

생성적 AI는 원본 콘텐츠를 다양한 형태로 생성하는 기술입니다. 이는 텍스트, 이미지, 비디오, 음악, 소프트웨어 코드 등 다양한 형태로 생성할 수 있습니다. 생성적 AI는 대규모 언어 모델과巨大한 데이터셋을 사용하여 거의 인간과 구별할 수 없는 고유한 콘텐츠를 생성할 수 있습니다.

그러나 비즈니스에서 생성적 AI를 사용하는 속도와 규제의 부족은 사이버 보안과 규제 준수에 대한 우려를 높이고 있습니다.

한 조사에 따르면, 80% 이상의 사람들이 ChatGPT와 생성적 AI의 보안 위험에 대해 우려하고 있으며, 52%의 응답자는 규제가 따라잡을 수 있도록 생성적 AI 개발을 중단해야 한다고 생각합니다. 이러한 우려는 비즈니스에서도 공유되고 있습니다. 65%의 고위 IT 리더는 보안 우려로 인해 생성적 AI 도구에 대한 무제한적인 접근을 허용하지 않습니다.

생성적 AI는 아직 알려지지 않은 것

생성적 AI 도구는 데이터를 필요로 합니다. ChatGPT와 DALL-E를 사용하는 모델은 외부 또는 공개된 데이터에서 학습되며, 이러한 도구를 최대한 활용하기 위해서는 사용자가 매우 구체적인 데이터를 공유해야 합니다. 종종 ChatGPT와 같은 도구를 사용할 때 사용자는 정확하고 완전한 결과를 얻기 위해 민감한 비즈니스 정보를 공유합니다. 이는 비즈니스에 많은 불확실성을 초래합니다. 생성적 AI 도구를 사용할 때 민감한 정보의 비인가된 접근 또는 의도하지 않은 공개의 위험이 있습니다.

이 자체는 나쁜 것이 아닙니다. 문제는 이러한 위험이 제대로 탐구되지 않았다는 것입니다. 지금까지 생성적 AI 도구를 사용하는 비즈니스에 대한 실제 영향 분석은 이루어지지 않았으며, 생성적 AI 사용을 위한 글로벌 법적 및 규제적 프레임워크는 아직 성숙하지 않았습니다.

규제는 아직 진행 중

규제 기관은 이미 생성적 AI 도구를 개인 정보 보호, 데이터 보안, 생성된 데이터의 무결성과 관련하여 평가하고 있습니다. 그러나 새로운 기술의 경우 규제 프레임워크는 기술의 발전 속도에 따라 따라잡지 못하고 있습니다. 기술이 회사와 직원들에 의해 광범위하게 사용되고 있는 동안, 규제 프레임워크는 아직 초안 단계에 있습니다.

이는 비즈니스에 대한 명백한 위험을 초래합니다. 이 위험은 현재로서는 충분히 심각하게 받아들여지지 않고 있습니다. 경영진은 이러한 플랫폼이 물질적인 비즈니스 이익을 가져다줄 것이라는 점에 관심이 있습니다. 그러나 리스크 관리자들은 이러한 기술이 어떻게 규제될지, 법적影響은 무엇인지, 회사 데이터가 어떻게 노출될지에 대해 질문하고 있습니다. 이러한 도구는 브라우저와 인터넷 연결만 있으면 누구나 사용할 수 있습니다. 따라서 규제가 따라잡을 때까지 비즈니스에서는 생성적 AI 사용에 대한 자신의 규칙을 생각해야 합니다.

생성적 AI를 관리하는 CISO의 역할

규제 프레임워크가 아직 부족한 상황에서, Chief Information Security Officers (CISO)는 생성적 AI를 사용하는 것에 대한 중요한 역할을 해야 합니다. 그들은谁가 기술을 사용하고 어떤 목적으로 사용하는지, 직원이 생성적 AI 도구와 상호 작용할 때 기업 정보를 어떻게 보호할지, 기술의 보안 위험을 어떻게 관리할지, 보안과 기술의 가치 사이에서 어떻게 균형을 잡을지에 대해 이해해야 합니다.

이것은 쉽지 않은 일입니다. 생성적 AI를 공식적으로 사용하거나 직원이 무제한적으로 사용하도록 허용할 때의 결과를 분석해야 합니다. 생성적 AI 응용 프로그램은 쉽게 접근할 수 있기 때문에, CISO는 회사 정책을 신중하게 생각해야 합니다. 직원들이 ChatGPT나 DALL-E와 같은 도구를 사용하여 업무를 쉽게 할 수 있도록 허용해야 합니까? 아니면 이러한 도구에 대한 접근을 제한하거나 어떤 방식으로 통제해야 합니까? 한 가지 명백한 문제는 내부 사용 지침을 만들더라도 기술이 발전하는 속도에 따라 곧 구식이 될 수 있다는 것입니다.

이 문제를 해결하는 한 가지 방법은 생성적 AI 도구 자체에 집중하는 대신 데이터 분류와 보호에 집중하는 것입니다. 데이터 분류는 데이터를 분류하고敏感도에 따라 처리하는 것을 의미합니다. 이는 생성적 AI 사용의 경우에도 중요합니다. 데이터를 분류하고 보호하는 것은 생성적 AI의 위험을 완화하는 데 도움이 될 수 있습니다.

생성적 AI는 비즈니스에 보온과 리스크를 모두 가져다줍니다. 자동화와 창의적인 개념화와 같은 새로운 가능성을 제공하는 동시에, 데이터 보안과 지적 재산권 보호와 관련된 복잡한 도전도 제기합니다. 규제와 법적 프레임워크가 아직 완성되지 않은 상황에서, 비즈니스에서는 기회와 리스크 사이에서 균형을 잡아야 합니다. 생성적 AI는 비즈니스 발전에 기여할 것입니다. 그러나 우리는 주의를 기울여야 합니다.