AI를 신중하게 채택하는 이유 — 그리고 안전하게 배포하는 방법

AI는 세계를 강타했습니다. 일부 조직은 초기에 채택했지만, 많은 회사들은 개인 정보, 규정 준수, 운영 문제 등으로 인해 더 신중한 접근 방식을 취하고 있습니다.

私は数百 건의 AI 기반 보안 도구 배포를 담당했으며, 익숙한 패턴을 목격했습니다. 챔피언들은 초기 열정을 가져옵니다. 파일럿은 약속을 보여줍니다. 그런 다음 내부 토론, 법적 검토, 분석 마비로 인해 일시 중지됩니다. 보안 운영을 변革할 수 있는 AI의 엄청난 잠재력에도 불구하고, 많은 회사들은 여전히 이를 완전히 받아들이는 데 주저하고 있습니다.

サイバーセキュリティでは, 주의는 종종 올바른 본능입니다. 그러나 AI 구현을 지연시키는 것은 AI 기반의 위협을 막을 수 없습니다. 실제 도전은 신중하게, 의도적으로, 그리고 신뢰를 손상시키지 않으면서 AI를 어떻게 채택할 수 있는지입니다.

以下は私の経験から学んだことであり、自信을 가지고 앞으로 나아가려는 보안 리더들에게 추천합니다.

1. 데이터 신뢰 문제

첫 번째이자 가장 큰 장애물은 데이터 관리입니다. 많은 회사들은 민감한 데이터가泄露, 남용되거나, 최악의 경우, 경쟁사에게 유리한 모델을 훈련하는 데 사용될 수 있다는 생각에恐怖를 느낍니다. 고위험한 침해 사건과 모호한 벤더 보증은 이러한 두려움을 강화합니다.

이것은 妄想이 아닙니다. 고객의 개인 정보, 지적 재산, 또는 규제 데이터를 처리할 때, 이를 제3자에게 넘겨주는 것은 통제력을 잃는 것처럼 느껴질 수 있습니다. 그리고 벤더들이 데이터 분리, 보존, 4차 제공자 참여, 모델 훈련 등에 대한 정책을 명확히 하지 않는 한, 채택은 신중하게 유지될 것입니다.

이것은 거버넌스가 중요해집니다. CISO는 NIST AI 위험 관리 프레임워크 또는 ISO/IEC 42001과 같은 새로운 프레임워크를 사용하여 벤더를 평가해야 합니다. 이러한 프레임워크는 AI 시스템에서 신뢰, 투명성, 책임에 대한 실용적인 지침을 제공합니다.

2. 측정할 수 없는 것을 개선할 수 없습니다

또 다른 일반적인 장애물은 기준 메트릭스의 부족입니다. 많은 회사들은 현재 성능을 양적으로 측정할 수 없으므로, AI 도구의 ROI를 증명하기가 거의 불가능합니다. 자동화 이전에 작업에 얼마나 오래 걸렸는지 추적하지 않는다면, 40%의 효율성 향상을 주장할 수 없습니다.

MTTD, 거짓 양성률, SOC 분석가 시간 절약 등과 같은 현재 상태 워크플로우를 측정하기 시작해야 합니다. 이러한 데이터가 없으면, AI의 경우는 설득력이 없으며, 실행 스폰서는 실제, 방어 가능한 숫자 없이 대규모 이니셔티브에 서명하지 않을 것입니다.

다음과 같은 주요 KPI를 지금 추적하기 시작하세요.

• 평균 탐지/응답 시간 (MTTD/MTTR)
• 거짓 양성, 거짓 음성 및 티켓 볼륨의 감소
• 분석가 시간 절약 (사건당)
• 취약점 스캔 및 수정 개선 (예:)
• 에스컬레이션 없이 해결된 사고

이 기준은 AI 정당화 전략의 핵심이 될 것입니다.

3. 도구가 너무 잘 작동할 때

모순적으로, AI 채택이 지연되는 이유 중 하나는 일부 도구가 너무 잘 작동하여 조직이 처리할 준비가 되지 않은 위험을 노출한다는 것입니다.

고급 위협 인텔리전스 플랫폼, 다크 웹 모니터링 도구, LLM 기반 가시성 솔루션은 도난당한 자격 증명, 유사한 도메인 또는 이전에 탐지되지 않은 취약성을 나타낼 수 있습니다. 이러한 고급 가시성이 명확성을 생성하는 대신, 새로운 문제를 생성할 수 있습니다. 어디서 시작해야 합니까?

저는 고급 스캔을 비활성화하는 팀을 본 적이 있습니다. 이유는 발견된 내용의 볼륨이 정치적 또는 예산적 불편함을 생성하기 때문입니다. 더 나은 가시성은 더 나은 우선순위를 필요로하며, 문제를 직접 해결할 의지를 필요로 합니다.

4. 레거시 계약에 묶여 있음

더 나은 도구가 उपलब할 때조차, 많은 회사들은 레거시 벤더와의 다년간 계약에 묶여 있습니다. 일부 계약에는 중도에 변경할 경우 발생하는 금전적 페널티가 너무 커서 중간에 변경하는 것이 불가능합니다.

이메일 보안은 고전적인 사례입니다. 최신 솔루션은 AI 기반 위협 탐지, 행동 모델링, 하이브리드 환경을 위한 내장된 회복성을 제공합니다. 그러나 현재 벤더가 따라가지 못하고 5년 계약에 묶여 있다면, 계약이 만료될 때까지 사실상 동결된 상태로 남아 있습니다.

이것은 기술에 관한 것이 아닙니다. 타이밍, 조달, 전략적 계획에 관한 것입니다.

5. 섀도우 AI의 부상

AI 채택은 위에서 아래로 발생하는 것이 아닙니다. 모든 곳에서 발생하며, 보안 팀의 지식 없이 발생합니다. 저희의 연구에 따르면, 85% 이상의 직원이 이미 ChatGPT, Copilot, Bard와 같은 AI 도구를 사용하고 있습니다.

적절한 감시 없이, 직원들은 민감한 데이터를 공개 도구에 입력하거나, 환각된 출력을 신뢰하거나, 회사 정책을 위반할 수 있습니다. 이것은 규정 준수 및 데이터 보호의 악몽이며, 이것이 발생하지 않는다고 생각하는 것은 문제를 해결하지 않습니다.

보안 리더들은 적극적인 입장을 취해야 합니다.

• 적합한 사용 정책을 수립합니다.
• 승인되지 않은 AI 앱을 차단하고 승인된 도구로 사용자를 리디렉션합니다.
• 승인된, 보안이 된 AI 플랫폼을 내부 사용을 위해 론칭합니다.
• 직원들에게 책임 있는 AI 사용에 대한 훈련을 제공합니다.

필드 노트: AI 사용 정책은 사용을 변경하지 않습니다. 사용을 알지 못하는 것을 강제할 수 없습니다. 사용을 정량화하는 첫 번째 단계입니다. 그런 다음 시행 전환을 활성화합니다.

6. 아웃소싱은 자체적인 위험을 가지고 있습니다

대형 모델을 빌드하고 호스팅하기 위한 인프라를 갖춘 회사는 거의 없습니다. 따라서 아웃소싱이 유일한 жизлу력 있는 경로입니다. 그러나 이것은 CISO가 너무 잘 알고 있는 제3자 및 공급망 위험을 가지고 옵니다.

솔라윈즈, 카세야, 최근의 스노플레이크 침해와 같은 사건은 외부 파트너를 信頼_without_visibility로 신뢰할 때 발생할 수 있는 노출을 강조합니다. AI 인프라를 아웃소싱하면, 벤더의 보안态度를 상속받습니다.

브랜드를 신뢰하는 것만으로는 충분하지 않습니다. 다음 사항에 대한 명확성을 요구합니다.

• 모델 수명 주기 및 업데이트 빈도
• 사고 대응 프로토콜
• 벤더 보안 컨트롤 및 규정 준수 기록
• 데이터 분리 및 테넌트 컨트롤

7. AI 공격 표면이 확장되고 있습니다

조직이 AI를 채택함에 따라, AI 특有的 위협 벡터를 준비해야 합니다. 공격자는 이미 다음과 같은 것을 실험하고 있습니다.

• 모델 중독 (训练 데이터를 미묘하게 변경)
• 프롬프트 주입 (LLM 동작을 조작)
• 적대적 입력 (탐지 회피)
• 환각 악용 (사용자가 거짓 출력을 신뢰하도록 속임)

이것은 이론적인 것이 아닙니다. 실제이며 증가하고 있습니다. 방어자가 AI를 채택함에 따라, 새로운 공격 표면에 대한 적응, 모니터링 및 대응 전략을 고려해야 합니다.

8. 사람과 프로세스가 실제 병목 현상일 수 있습니다

가장 간과되는 도전은 조직의 준비도입니다. AI 도구는 종종 워크플로우, 기술, 마음가짐의 변화를 필요로 합니다.

분석가는 AI를 신뢰할 때, AI를 도전할 때, 효과적으로 에스컬레이션할 때를 이해해야 합니다. 리더는 위험을 자동화하지 않고 의사 결정 프로세스에 AI를 통합해야 합니다.

교육, 플레이북, 체인지 관리는 기술과 함께 진화해야 합니다. AI 채택은 기술 이니셔티브가 아닙니다. 인간 변革 이니셔티브입니다.

그么, 우리가 할 수 있는 것은 무엇입니까?

도전에도 불구하고, 저는 보안에서 AI의 이점이 위험을 훨씬 초과한다고 믿습니다. 올바르게 수행되면, 다음과 같이 조직이 앞으로 나아갈 수 있다고 조언합니다.

• 작은 규모로 시작하고 철저히 테스트합니다.
• 측정 가능한 영향을 가진 범위 지정된 사용 사례를 선택합니다. 제어된 파일럿을 실행합니다. 성능을 검증합니다. 데이터로 신뢰를 구축합니다.
• 법률, 위험, 보안을 초기에 참여시킵니다.
• 계약 단계까지 기다리지 마십시오. 법률 및 규정 준수 팀을 참여시켜 데이터 처리 조건, 규제 위험, 공급망 영향을 미리 검토합니다.

모든 것을 측정합니다

구현 전후에 KPI를 추적합니다. 보안 및 비즈니스 용어로 말하는 대시보드를 생성합니다. 메트릭은 AI 자금을 결정합니다.

실제 프로젝트에 대한 증거를 가진 파트너를 선택합니다

데모를 넘어섭니다. 참조를 요구합니다. 판매 후 지원, 배포 복잡성, 환경에 대한 결과를 묻습니다.

다음은 무엇입니까? 주목할 만한 새로운 사용 사례

보안에서 AI를 사용하는 여정의 초기 단계에 있습니다. 전방위적인 CISO는 이미 다음과 같은 것을 탐색하고 있습니다.

• 파이어ウォール 관리, GRC, 규정 자동화를 위한 AI コ파일럿
• 제로데이 위협 응답 및 정확성을 가속화하는 AI 강화된 위협 피드
• 자체 치유 멀티 벤더 인프라
• 행동 AI 기반 위험 기반 ID 컨트롤

이러한 사용 사례는 혁신 연구소에서 생산으로 이동하고 있습니다. 지금 근육을 구축하는 조직은 앞으로 자본화할 준비가 될 것입니다.

최종 생각: 지연은 방어가 아닙니다

AI는 여기 있으며, AI 기반의 적도 있습니다. 더 오래 기다릴수록, 더 많은 지면을 잃습니다. 그러나 이것은盲目的に 돌입해야 한다는 것을 의미하지 않습니다.

신중한 계획, 투명한 거버넌스, 올바른 파트너와 함께, 조직은 AI를 안전하게 채택할 수 있습니다. 능력을 향상시키면서 통제를 희생하지 않습니다.

보안의 미래는 증강됩니다. 유일한 질문은 리드를 할 것인지, 뒤처질 것인지를 묻는 것입니다.