AI가 잘못된 경우 당신도 잘못된 경우

왜 높은 수준의 AI 훈련이 사이버 복원력에 중요할까?

인공 지능(AI)은 사이버 보안에서 기초적인 힘으로 자리 잡았다. 비정상성을 식별하고 위협 탐지를 가속화하는 능력으로 인해 AI는 현대적인 보안 작전에 필수적인 요소가 되었다. 그러나 큰 권한이 주어지면 심각한 책임도 따른다.

우리가 AI에 의존하여 중요한 애플리케이션을 보호하고敏感한 데이터를 보호하며 보안 결정을 내리는 데 사용할수록 한 가지 진실이 무시할 수 없게 되었다: 잘못 훈련된 AI는 성능 문제가 아니라 위협 벡터이다.

AI 솔루션에서 편향은 가상적이지 않다. 잘못 훈련되거나 임의로 훈련되면 편향이 프로세스에 내장된다. 이러한 편향이 사이버 보안 도구에 침투하면 분석을 왜곡할 뿐만 아니라 맹점을 만들고 신뢰를 약화하며 복원력을 약화시킬 수 있다.

이것이 높은 수준의 AI 훈련이 기술적 선호도에서 전략적 비즈니스 또는 이사회 토론 및 요구 사항으로 전환되는 곳이다. 사이버 보안 팀과 그들이 보호하는 조직을 위해 이것은 기술 스택의 핵심에 내장되어야 한다. 후속으로 추가되어서는 안 된다.

위험 이해: 편향은 복원력을 약화시킨다

사이버 범죄자는 항상 기계를 해킹할 필요는 없다. 그들은 단지 탐지의 간격이나 구식 도구를 악용할 수 있다. 때때로 그들은 단지 AI와 데이터가 구축되는 방식을 이용한다. 특히 잘못된 데이터나 제한된 데이터로 훈련된 경우에 그렇다. AI 도구 또는 벤더가 사용하는 것이 이전에 본 위협만을 찾거나 공격이 특정 패턴을 따를 것이라고 가정한다면 새로운 위협이나 다른 위협을 완전히 놓칠 수 있다. 이것이 사이버 범죄자가 감지되지 않고 통과하는 방법이다.

그것이 어떻게 발생하는지 보자:

• 제한된 데이터: AI가 좁은 예제 집합으로 훈련되면 비정상적인 행동, 특히 대표되지 않은 사용자나 솔루션에서 오는 행동을 인식하지 못할 수 있다.
• 왜곡된 우선순위: 시스템이 특정 위협에 더 많은 주의를 기울인다면 다른 위협의 초기 징후를 무시할 수 있다.
• 오류 강화: 잘못된 가정들이 시스템에 계속해서 피드백되면 시스템은 동일한 오류를 계속해서 반복할 수 있다. 즉, 위협을 놓치거나 거짓 경보로 팀을淹没시킬 수 있다.

• 왜곡된 경보에 의해 구동되는 피드백 루프는 거짓 양성 또는 완전히 위협을 놓칠 수 있다.

높은 수준의 AI 훈련은 전략적 차별점이다

높은 수준의 AI 훈련은 성능이나 규모에 관한 것이 아니다. 그것은 더 강력한 사이버 보안 프레임워크를 구축하는 것이다.

그것이 발생하기 위해서는 몇 가지 중요한 요소가 있다:

• 명확한 의사 결정: 인프라와 보안 팀은 위협으로 표시된 이유를 이해해야 하므로 신뢰하고 중요한 경우 빠르게 행동할 수 있다.
• AI 훈련: AI가 단 하나의 유형의 위협만으로 학습한다면 다른 위협, 특히 변경되거나 발전하는 공격을 식별하지 못할 수 있다. 다양한 예제, 특히 다형성 위협을 포함하여 무엇이 있는지 인식할 수 있도록 광범위한 예제가 필요하다.
• 인간의 감독: 최고의 AI도 두 번째 시선이나 연구실이 필요하다. 전문가가 훈련이나 기계 학습 결정 트리 프레임워크를 검토하고 안내하면 프로세스가 날카롭고 신뢰할 수 있게 유지된다.

데이터 무결성: 사이버 복원력의 기초

잘못된 AI의 사이버 복원력에서 가장 많이 무시되는 피해 중 하나는 데이터 무결성이다. 일관되지 않거나 편향된 분석은 잘못된 위협 우선순위에서부터 손상 신호의 누락에 이르기까지 실제로 손상을 입힐 수 있다. 데이터의 무결성을 검증할 수 있는 솔루션, 개별 파일이나 워크로드 수준에서 제공하는 솔루션은 신뢰가 화폐인 환경에서 고유한 차별점을 제공한다.

몇몇 솔루션은 백업, 스냅샷, 생산 데이터를 세부 수준에서 검사함으로써 새로운 접근 방식을 취한다. 그것은 기계 학습을 사용하여 부패, 조작 또는 비정상적인 행동의 징후를 감지한다. 마지막 랜섬웨어 스트레인이 어떻게 보였는지에 기반한 것이 아니라 발전하는 패턴에 기반한 것이다. 이러한 행동 기반 분석은 높은 수준의 훈련을 받으면 알려진 위협과 알려지지 않은 위협 사이의 간격을 닫는다.

핵심적으로 정적 규칙 세트나 편향된 역사적 경향에 의존해서는 안 된다. 대신 여러 환경에서 시간이 지남에 따라 데이터 무결성 위반에서 학습하여 팀이 문제를 격리하기 전에 영향을 최소화하기 위해 공격의 영향을 최소화하는 데 도움이 된다. 이것이 높은 수준의 AI가 실제 비즈니스 가치를 보여주는 곳이다. 그것은 기술을 더 inteligent하게 만드는 것이 아니라 보안을 강화한다.

사이버 보안의 신뢰할 수 있는 AI 문화 구축

신뢰할 수 있는 높은 수준의 AI 훈련은 플러그인이 아니다. 그것은 여전히 우리가 배우고 있어야 하는 것이며真正한 마음가짐의 변화이다.

사이버 복원력 및 사이버 보안 리더는:

1. 벤더 및 내부 개발자로부터 AI 설명 가능성을 도전하고 주장해야 한다.
2. 잘못 훈련된 AI 모델의 위험성과 투명성의 중요성을 팀에 교육해야 한다.
3. 출력이 아니라 결과를 추적해야 한다. 시스템 또는 프로세스가 경보를 줄이지만 발전하는 위협을 놓치면 작동하지 않는다.

AI가 사이버 방어의 모든 계층에 더 깊이 통합됨에 따라 이 문화적 기초는 준비된 사람과 노출된 사람을 구별할 것이다.

최종 생각: 신뢰할 수 있는 AI는 현대적인 사이버 복원력의 기초이다

나쁜 배우자와 싸우는 우리의 미래는 더 많은 경보나 더 무거운 방어에 관한 것이 아니다. 그것은 더 inteligent하고 높은 수준의 AI와 솔루션에 관한 것이다. 신뢰를 얻고 유지하는 솔루션이다. 이러한 솔루션은 반응만 하는 것이 아니라 예측하고 적응하며 위협 풍경과 함께 진화한다.

신뢰할 수 있는 데이터 무결성의 중요성을 받아들이는 조직은 다음 공격을 단순히 살아남는 것만이 아니라 지속적인 복원력을 구축할 것이다. 그들은 신뢰는 궁극의 화폐인 세계에서 팀, 고객, 규제 기관의 신뢰를 얻을 것이다.

현실은 간단하다: 잘못 훈련된 AI는 위험을 증가시킨다. 그러나 높은 수준의 신뢰할 수 있는 AI에 투자하는 것은 좋은 관행이 아니라 경쟁 우위이자 리더십의 명령이다.

보안에 진지하다면 투자할 AI가 아니라 얼마나 빠르게 할 수 있는지에 관한 것이다.