개발 세계에서 지능형 공격의 최상위 포식자

진화적 압력: 간단한 소론

이것에 대해 이야기하기 전에 몇 가지 개념을 정립할 필요가 있습니다. 첫 번째는 진화적 압력입니다.

진화는 선택이 아닙니다. 동물들이 특정 방식으로 진화하거나 존재하는 것은 환경에 의해 강제되거나 환경에 의해 제거됩니다. 따라서 동물이 어떻게 진화했는지 또는 왜 특정 방식으로 존재하는지에 대해 이야기할 때, 우리는 의식적인 결정의 연속을 말하는 것이 아닙니다. 우리는 무작위적인 돌연변이와 환경 압력이 한 방향으로 Species를 밀어붙인 것을 말하는 것입니다.

현재, 소프트웨어 회사들은 유사한 진화적 순간에 접어들고 있습니다. 취약점을 자동으로 식별하고, 악성 코드를 생성하고, 사이버 공격을 가속화할 수 있는 AI 시스템은 개발자와 보안 팀이 작동하는 압력을 변화시키고 있습니다.

AI는 현재 소프트웨어 회사에 대해 동일한 종류의 환경 압력을 생성하고 있습니다. 자율적인 취약점 발견, 악성 코드 생성 및 대규모 공격 자동화가 가능한 모델은 대부분의 조직이 준비할 수 있는 것보다 훨씬 빠르게 보안 환경을 변화시키고 있습니다.

제가談하고 싶은 구체적인 진화적 압력은 현재 지구상에서 최상위 포식자입니다: 인간. 그리고 세 가지 매우 다른 동물이 이 압력에 어떻게 반응했는지에 대해 이야기하고 싶습니다.

누가 더 나쁘게 했는가: 거대 wombats 또는 닭?

거대 wombats

거대 wombats — 정확한 이름이 기억나지 않지만, 오스트레일리아에서 살았습니다 — 약 6,000 파운드 정도였습니다. 인간이 도착하기 전에 오스트레일리아는 푸르른 녹색의 거의天堂과 같은 곳이었습니다. 인간이 건드리지 않았으면 좋았을 것입니다. 이 거대한 wombats는 대부분 방해받지 않고 살았습니다. 때때로 일부 포식자가 하나를 잡았지만, 그들의 엄청난 크기, 식량의 풍부함, 그리고 번식 능력으로 인해 그들은 대륙이 던진 모든 것에 대해 자신의 위치를 지켰습니다.

그런 다음 인간이 나타났습니다.

일단 두 가지 일이 즉시 발생했습니다. 첫 번째는 인간이 몇 주 동안 한 그룹을 먹일 수 있는巨大的 단백질 공급원을 보았습니다. 두 번째는 인간이 wombats가 의존하는 숲을 벌목하기 시작했거나, 동물을 밖으로 내보내기 위해 대규모 땅을 불태웠습니다. 인간은 이러한 종류의 조직적, 효율적인 파괴에 매우 능숙합니다.

지질학적으로 말하면 거의 즉시, 인간은 대륙의 많은 부분을 산림 파괴하고, 모든 거대 wombats를 멸종시켰습니다.

오스트레일리아의 모든 동물이 멸종하지는 않았습니다. 캥거루, 작은 wombats, 코알라 등은 살아남았습니다 — 그들은 충분히 작거나, 충분히 빠르거나, 충분히 적응 가능했습니다. 유럽人が 도착했을 때, 대륙은 가혹하고 무자비한 것으로 변형되었습니다. 극한 환경에 적응된 작은 인간 인구. 작은 동물이나, 치명적인 동물, 또는 둘 다였습니다. 오스트레일리아에서는 모든 것이 당신을 죽이려고 합니다.

이것이 버전 하나입니다.

닭

지금, 닭은 자신의 방식으로 지구상에서 가장 성공적인 육상 동물이라고 주장할 수 있습니다. 지구상에 있는 총 조류 바이오매스의 약 70%가 집화된 닭입니다. 심지어 일부 지역에서 닭이 야생으로 돌아간 곳도 있습니다 — 천연 포식자가 없는 섬들, 예를 들어 케이만 제도 — 그리고 그들은 번창했습니다.

닭은 인간에게 매우 유용한 것으로 진화했습니다: 빠르게 번식하고, 빠르게 자라며, 계란을 낳습니다. 인간은 그들을 먹이주고, 보호하고, 실제로 번식하도록 격려합니다. 거의 모든 생물학적 성공 지표 — 인구 크기, 지리적 분포, 자원 접근성 —에서 닭은 승리합니다.

물론, 우리가 그들을 먹는 부분을 제외하고는.

그래서 닭은 완벽한 음식을 되는 것에 성공했습니다. 그것은 아무것도 아닙니다. 그러나 이러한 종류의 성공에는 한계가 있습니다.

고양이: 올바른答案

한 마리의 동물이, 내가 주장하듯이, 거의 완벽하게 올바른 방식으로 반응했습니다.

고양이입니다.

고양이는 최상위 포식자가 아닙니다. 그들은 인간을 지배하지도, 공격하지도 않습니다. 그러나 인간의 확장에 의해 짓눌리지 않거나 인간의 식욕에 복종하지 않고, 그들은 다른 것을 했습니다: 그들은 우리와 함께 공진화했습니다. 그들은 인간 정착지 주변에서 쥐와 작은 새를 사냥함으로써 유용하게 만들었고, 어딘가에서 그들은 원하는 존재가 되었습니다. 그들은 동료가 되었습니다.

결과는 무엇입니까? 고양이는 빠르게 번식합니다. 그들은 충분한 음식 공급원을 가지고 있으며, 애완동물이나 인간 거주지 주변의 기회주의적인 사냥꾼으로서, 거의 심각한 포식자가 없습니다. 그들은 인간이 있는 모든 곳에 있습니다.

그리고 다시, 이것은 그들이 선택한 것이 아닙니다. 이것은 전략이 아닙니다. 이것은 단지 진화적 압력이 어떻게 작용했는지를 보여주는 것입니다. 그러나 결과는 놀라울 것입니다: 최상위 포식자와 싸우거나, 최상위 포식자를 먹이주지 않고, 그들은 최상위 포식자와 우정을 맺었습니다.

이것이 AI와 무슨 상관이 있는가

그래서 이것이 중요한 이유는 무엇입니까?

Anthropic의 Mythos와 Project Glass Wing과 같은 모델의 도착은, 내가 주장하듯이, 인간이 오스트레일리아에 도착한 날과 같습니다. 그러나 타임라인은 극적으로 압축됩니다. 대륙에서 발생한 일들이 몇 세대에 걸쳐 발생한 일입니다. 이제는 몇 년, 혹은 더 적은 시간에 발생할 것입니다.

현재, AI로 활성화된 해킹에 대한 보안 팀의 반응에 대해 많은 글을 쓰고 있습니다. 그러나 나는 이것이 잘못된 프레임워크라고 생각합니다. 이것은 기본적으로 보안 문제가 아닙니다. 이것은 엔지니어링 문제입니다.

무엇이 바뀌고 있는지 보십시오: 이전의 AI 이전에는, 공격자와 수비자 모두가 상대적으로 제한된 결과를 가진 세계에서 작동했습니다. 공격이 발생했습니다. 침해가 발생했습니다. 그러나 공격의 속도와 복잡성은 인간의 능력에 의해 제한되었습니다. 이제는 취약점을 자동으로 찾고, 악성 코드를 생성하고, 대규모 공격을 가하는 AI 모델이 있습니다.

대부분의 개발 팀은 이 이야기의 거대 wombats입니다. 그들은 위협이 있었지만, 이런 종류의 압력은 결코 경험하지 못했습니다. 그들은 상대적으로 안전한 시스템을 구축했습니다. 그러나 그들은 이런 종류의 압력에 직면하지 못했습니다.

이것이 곧 바뀝니다.

세 가지 선택지 — 그리고 왜 하나만 작동하는가

이 새로운 위협이 도착했을 때, 조직은 효과적으로 세 가지 선택을 가지게 됩니다:

1. 거대 wombats가 되지 마십시오. 적응하지 마십시오. 멸종당하십시오. 이것은 많은 회사에서 발생할 것입니다. 일부는 결코 회복하지 못할 것입니다.
2. 닭이 되지 마십시오. 각 새로운 취약점이 나타날 때마다 반응적으로 패치를 적용하십시오. 이것은 “창을 뽑아 상처를 치료하는” 접근법입니다. 이것은 아무것도 하지 않는 것보다 낫습니다. 그러나 45개의 창이 모든 방향에서 당신에게 날아오면, 그 하나의 기술만으로는 당신을 구하지 못할 것입니다. 당신은 여전히 음식입니다; 당신은 단지 테이블에 더 느리게 도착할 뿐입니다.
3. 고양이가 되십시오. 위협과 당신의 관계를 근본적으로 변경하십시오. AI를 사용하여 AI를 방어하십시오. 보안을 엔지니어링의 일부로 통합하십시오. 시스템을 설계하여 침해를 가정하십시오 — 그것을 방지하려고 하지 마십시오.

목표는 더 많은 보안 분석가를 고용하여 주변을 순찰하는 것이 아닙니다. 그것은 사바나의 코끼리를 보호하려고 하는 것입니다. 그것은 이러한 종류의 위협에 대해 확장되지 않습니다. 목표는 사바나를 재설계하는 것입니다.

“고양이가 되는 것”이 실제로 무엇인지

이것은 표면적인 작업이 아닙니다. 이것은 코드베이스에 대한 AI 보안 스캐너를 한 번만 실행하는 것이 아닙니다. 이것은 개발이 어떻게 이루어지는지에 대한 재고가 필요합니다.

실제적으로, 이것은 다음과 같은 것을 의미합니다:

• 이해하고 감사하기 쉬운 더 단순한 코드베이스
• 알려진 보안 상태를 가진 라이브러리에서 가져옵니다
• 침해가 발생할 때, 침입자가 이미 시스템 내에 있는 경우, 횡단 이동을 어렵게 만드는 것으로 가정하여 인프라를 구축합니다
• 공격자를利用하여 방어를 진화시키고, 곡선을 앞서도록 합니다. AI 모델은 엔지니어링 팀과 보안 팀을 증폭시켜 방어를 진화시키고, 곡선을 앞서게 할 수 있습니다.

내일 설립된 회사들은 깨끗한 슬레이트를 가지고 있습니다. 그들은 첫날부터 이러한 방식으로 구축할 수 있습니다. 이미 고객이 있는 회사, 민감한 데이터가 있는 회사, 라이브 시스템이 있는 회사들은 이러한 특권을 가지고 있지 않습니다. 그들은 지금부터 전환을 시작해야 합니다.

호출

Anthropic은 이미 이렇게 말했습니다: 재앙이 있을 것입니다. AI로 활성화된 공격으로 인해 경제적, 사회적 혼란이 있을 것입니다. 일부 회사들은 살아남지 못할 것입니다. 그들은 이러한 도구를 사용하는 사람들에 의해 손상될 것이며, 결코 완전히 회복하지 못할 것입니다. 이것이 발생할 것입니다.

그래서 여기 메시지가 있습니다: 지금부터 시작하십시오.

엔지니어링과 보안은 같은 방에 앉아야 합니다. 함께 위협 풍경을 검토하십시오. 공유된 로드맵을 구축하십시오. 여기서 주요 작업은 엔지니어링 및 설계 팀에 의해 수행되며, 보안 팀에 의해 검증됩니다. 보안은 이 것을 주도할 수 없습니다. 보안은 작업을 확인할 수 있습니다. 그러나 근본적인 변화는 시스템을 구축하는 사람들로부터 나와야 합니다.

이 프로세스를 오늘 시작하는 회사들은 모두 살아남지 못할 것입니다. 그러나 그들은 생존 조건을 설정할 것입니다. 그리고 앞으로 다가올 환경에서, 이것이 우리가 할 수 있는 최선입니다.

고양이가 되십시오.