자율적인 AI를 위한 강력한 보안 구축

데이터 침해에 대한 전쟁은 전 세계의 의료 기관에 대한 도전을 가중시킵니다. 현재 통계에 따르면, 데이터 침해의 평균 비용은 4.45 백만 달러로, 미국에서 환자를 치료하는 의료 제공자의 경우 이 비용은 9.48 백만 달러로 두 배 이상 증가합니다. 이미 어려운 문제에 더해, 현대적인 현상인 조직 내외의 데이터 확산이 있습니다. 걱정스러운 40%의 공개된 침해는 여러 환경에 걸쳐 있는 정보를 포함하며, 공격 표면을 크게 확대하고 공격자에게 많은 진입로를 제공합니다.

생성적 AI의 성장은 급격한 변화를 가져옵니다. 따라서, 새로운 보안 위험도 함께 증가합니다. 이러한 고급 지능 에이전트는 이론에서 실제 배포로 이동함에 따라, 특히 의료 분야와 같은 여러 도메인에서 이러한 위협을 이해하고 완화하는 것이 중요합니다. 이러한 새로운 위협을 완화하여 책임감 있게 AI를 확대하고 조직의 사이버 공격에 대한 탄력성을 강화하는 것이 중요합니다.

설계 및 구현 단계의 탄력성

조직은 AI로 인한 증가하는 보안 위험을 해결하기 위해 포괄적이고 진화하는 프로액티브 방어 전략을採用해야 합니다. 특히, 환자의 복지와 규제 조치를 준수하는 의료 분야에서 이러한 전략은 필수적입니다.

이것은 체계적이고 정교한 접근 방식을 필요로 하며, AI 시스템 개발 및 설계에서부터 대규모 배포까지 계속됩니다.

• 조직이 수행해야 하는 첫 번째이자 가장 중요한 단계는 데이터 수집에서 모델 훈련, 검증, 배포, 추론에 이르기까지 전체 AI 파이프라인을 매핑하고 위협 모델링하는 것입니다. 이 단계는 모든 잠재적인 노출 및 취약성 점을 정밀하게 식별하고 영향 및 가능성에 따라 위험 세분화를 허용합니다.
• 두 번째로, 대규모 언어 모델(LLM)을 사용하는 시스템 및 애플리케이션의 배포를 위한 안전한 아키텍처를 생성하는 것이 중요합니다. 이는 컨테이너 보안, 안전한 API 설계 및 민감한 훈련 데이터셋의 안전한 처리와 같은 다양한 조치를 신중하게 고려하는 것을 포함합니다.
• 세 번째로, 조직은 다양한 표준/프레임워크의 권고를 이해하고 구현해야 합니다. 예를 들어, NIST의 AI 위험 관리 프레임워크를 준수하여 종합적인 위험 식별 및 완화를 수행할 수 있습니다. 또한, LLM 애플리케이션에서 도입된 고유한 취약성에 대한 OWASP의 조언을 고려할 수 있습니다.
• 또한, 고전적인 위협 모델링 기술도 진화해야 합니다. 이는 Gen AI에서 생성된 고유하고 복잡한 공격을 효과적으로 관리하기 위한 것입니다. 이는 모델 무결성을 위협하는 고의적인 데이터 중독 공격과 AI 출력에서 민감한, 편향된 또는 부적절하게 생성된 콘텐츠의 잠재적인 생성을 포함합니다.
• 마지막으로, 배포 후에도 조직은 정기적인 철저한 레드 팀 매뉴버와 전문 AI 보안 감사와 같은 공격을 연습하여 계속해서 주의를 기울여야 합니다. 이러한 감사는 편향, 강건성, 명확성과 같은 소스를 대상으로 하여 AI 시스템의 취약성을 지속적으로 발견하고 완화하는 데 도움이 됩니다.

의료 분야에서 강력한 AI 시스템을 생성하는 기본은 전체 AI 수명 주기를 보호하는 것입니다. 이는 생성에서 배포까지 새로운 위협을 이해하고 확립된 보안 원칙을 준수하는 것을 의미합니다.

운영 수명 주기 중의 조치

초기 안전한 설계 및 배포 외에도, 강력한 AI 보안 입장은 세부 사항에 대한 주의 깊은 주의와 전체 AI 수명 주기 전반에 걸친 적극적인 방어를 필요로 합니다. 이는 즉시 민감하거나 악의적인 출력을 감지하기 위해 AI 주도 감시를 활용하여 콘텐츠를 지속적으로 모니터링하는 것을 필요로 하며, 동시에 정보 공개 정책 및 사용자 권한을 준수합니다. 모델 개발 및 생산 환경에서, 조직은 악성 코드, 취약성 및 적대적 활동을 동시에 주시해야 합니다. 이러한 모든 것은 전통적인 사이버 보안 조치의 보완입니다.

사용자 신뢰를 증진하고 AI 의사 결정의 해석 가능성을 향상시키기 위해, 설명 가능한 AI(XAI) 도구를 사용하여 AI 출력 및 예측의 근거를 이해하는 것이 필수적입니다.

제어 및 보안은 또한 자동 데이터 검색 및 스마트 데이터 분류와 함께 개선됩니다. 동적으로 변경되는 분류기는 끊임없이 변경되는 데이터 환경에 대한 중요한 및 최신의 시각을 제공합니다. 이러한 이니셔티브는 강력한 보안 제어를 시행하는 데서 비롯됩니다. 이는 세분화된 역할 기반 접근 제어(RBAC) 방법, 정보를 전송 및 저장하는 동안 보호하기 위한 종단 간 암호화 프레임워크, 민감한 데이터를 숨기기 위한 효과적인 데이터 마스킹 기술을 포함합니다.

AI 시스템을 다루는 모든 비즈니스 사용자를 위한 철저한 보안 인식 훈련도 필수적입니다. 이는 잠재적인 사회 공학 공격 및 기타 AI 관련 위협을 탐지하고 중화하는 데 중요한 인간 방화벽을 구축합니다.

Agentic AI의 미래를 보장하기

진화하는 AI 보안 위협에 대한 지속 가능한 탄력성의 기초는 다차원적이고 연속적인 방법에 있습니다. 이는 AI 시스템을 주시하고, 적극적으로 스캔하고, 명확하게 설명하고, 지능적으로 분류하며, 엄격하게 보호하는 것을 포함합니다. 이는 또한 인간 중심의 보안 문화와 성숙한 전통적인 사이버 보안 제어가 필요합니다. 자율적인 AI 에이전트가 조직 프로세스에 통합됨에 따라, 강력한 보안 제어가 필요합니다. 오늘날의 현실은 공공 클라우드에서 데이터 침해가 발생하며, 평균 비용은 5.17 백만 달러입니다. 이는 조직의 재정 및 평판에 대한 위협을 강조합니다.

혁신적인 발명 외에도, AI의 미래는 내장된 보안, 개방형 운영 프레임워크, 엄격한 거버넌스 절차를 기반으로 하는 탄력성을 개발하는 데 달려 있습니다. 이러한 지능형 에이전트에 대한 신뢰를 구축하는 것은 궁극적으로 그들이 받아들여지고, 지속 가능한지 여부를 결정하며, AI의 변革적 잠재력을 형성합니다.