AI 에이전트는 금융 보안을 앞서고 있습니다. 업계는 준비되어 있나요?

나는 영국 항공을 사고 싶습니다

1980년대에 나는 시티 거래 대에 시작했을 때, 전화가 인터페이스였습니다. 고객이 전화를 걸면, 보통은 지루한 일에서 돈을 번 사람으로서 주식에 관심이 있었고, 그는 영국 항공을 사고 싶다고 말했습니다. 거래 대의 누군가가 주문을 받았고, 그것이 거래였습니다. 두 사람, 핸드셋, 그리고 양방향으로 신뢰가 충분했습니다.

그 후 업계는 40년 동안 전화 통화를 제거하는 데 시간을 보냈습니다.まず는 거래 화면이었습니다. 그런 다음 전자 터미널이었습니다. 그런 다음 수천 개의 주문이 한 번에 이루어질 수 있는 API가 나타났습니다. 우리는 이것을 진행이라고 불렀고, 대부분 진행이었습니다.

이제 루프가 닫히고 있습니다. 업계의最新 아이디어는 클라이언트가 다시 기계와 대화하게 하는 것입니다. 이번에는 기계가 대답합니다. AI 에이전트에게 거의 평범한 영어로 두 자산 클래스 사이에서 페어 트레이드를 실행하거나 옵션 포지션을 몇 가지 조건에 대해 최적화하라고 말하면, 그것을 실행합니다. 우리는 40년 동안 거래 대의 사람을 대체했습니다. 이제 우리는 실리콘에서 그를 재고용합니다.

나는 이 모든 것에 대해 큰 반대를 하지 않습니다. 걱정하는 것은 마케팅보다 더 젊은 하위 구조입니다.

하위 구조는 소문보다 더 젊습니다

이 모든 통합 파도를 조용히 구동하는 것은 모델 컨텍스트 프로토콜, 즉 MCP입니다. 그것은 거의 18개월밖에 되지 않았습니다. Anthropic은 2024년 말에 내부 문제를 해결하기 위해 이를 오픈 소스로 만들었습니다. 외부 도구와 데이터에 언어 모델을 연결하는 방법은 무엇일까요? 모든 페어링에 대해 맞춤형 통합 코드를 작성하는 것이 아닙니다. Anthropic이 2025년 12월에 MCP를 새로 설립된 Agentic AI Foundation에 넘겨주었을 때, 이미 10,000개 이상의 공개 서버에서 실행되고 있었으며, ChatGPT, Gemini, Microsoft Copilot 등을 포함한 여러 곳에서 채택되었습니다. 이것은 “첫 번째 통합”이라는 질문만을 하는 것이 합리적입니다.

실제 엔지니어링 문제를 해결합니다. 각 기관 도구에 대한 맞춤형 통합을 수동으로 코딩하는 대신, 하나의 통합 카탈로그를 발행하고 모델이 이를 읽도록 합니다. 전위 모델은 30년 된 데이터베이스와 같은 방에서 소개된 것처럼 대화할 수 있습니다.

그러나 동일한 통일성이 네트워크 주변을 건너갑니다. 모델이 레거시 데이터베이스에 도달할 수 있는 인터페이스는 다른 모든 노출된 인터페이스에도 도달할 수 있습니다. 실제 거래 회사에서 일하는 에이전트는 외부 세계를 읽어야 합니다. 시장 코멘트, 뉴스 피드, 누군가가 방금 떨어뜨린 파일 등입니다. 에이전트가 신뢰할 수 없는 텍스트를 읽기 시작하는 순간, 지침과 데이터는 동일한 파이프를 통해 동일한 언어로 도착하며, 모델이 어느 것이 어느 것인지 구별할 수 있는 신뢰할 수 있는 방법이 없습니다.

모델을 속이는 것이 은행을 깨는 것보다 쉽습니다

이것은 가상적인 것이 아닙니다. 2026년 연구는 AI 에이전트가 실제로 프롬프트 주입에 저항하는 정도를 측정하려고 시도했습니다. 프롬프트 주입은 에이전트가 읽는 콘텐츠 내에 지침을 숨기는 것입니다. GPT-5 및 Gemini와 같은 전위 시스템을 기반으로 하는 에이전트에 대한 수천 개의 시뮬레이션 공격에서, 직접 주입은 79% 이상의 경우 성공했습니다. 간접 공격은 41%에서 68% 사이였습니다. 테스트한 구성은 완전히 방어했습니다.
OWASP GenAI 보안 프로젝트는 2026년 6월에 발행된 보고서에서 관련된 점을 조용히 지적했습니다. 첫 번째 판은 대부분 논문상의 위험이었습니다. 2026년 판은 실제 사건, 벤더 고지 및 거의 모든 위험 범주에 대한 등록된 취약성에 기반합니다. 2년 후에, 이론이 실제로 기록되었습니다. 이것은 연결하기 전에 정확히 무엇을 연결하는지 알고 있는 것에 대한 논증입니다.

자신의 악성 코드를 작성하는 기계

그런 다음 그림이 다시 바뀝니다. 2026년 4월 Anthropic은 Claude Mythos Preview를 공개했습니다. 이는 사이버 작업을 위해 구축된 제한된 전위 모델입니다. Anthropic의 기술 문서에 따르면, Mythos는 주요 운영 체제 및 웹 브라우저에서 제로데이 취약성을 자동으로 찾고, 이를 위해 작동하는 악성 코드를 생성할 수 있습니다. 영국 AI 보안 연구소는 독립적으로 이 주장을 확인했으며, Mythos는 엔드 투 엔드 시뮬레이션 32 단계 기업 네트워크 공격을 완료하고 전문가 수준의 도전을 73% 해결했습니다.

Mythos 자체는 단축된 리드를 유지하며, 몇몇 인프라 제공업체에 대한 프로젝트 글래스윙하에 제한됩니다. 그러나 그 존재는 논쟁을 해결합니다. 공격적 능력은 현재 관리를 앞서고 있습니다. 이러한 능력을 잘못된 손에 넘기고, 자산을 이동할 수 있는 에이전트를 가리키면, API를 가로채고 승인되지 않은 자산 청산 또는 이체를 발사할 수 있는 파이프라인을 가질 수 있습니다.

이것은 암호화된 데이터베이스를 깨는 것을 필요로 하지 않습니다. 이것이 중요한 부분입니다. 전통적인 금융 시스템은 결정론적 코드로 작동하며, 동일한 작업은 항상 동일한 결과를 제공합니다. 에이전트는 확률론적 추론으로 작동하며, 이는 모델이 경계가 없다는 것을 의미합니다. 따라서 공격자는 금고를 건너뛰고 모델이 지침을 잘못 읽도록 말합니다. 자물쇠를 따는 대신 경비원에게 말하는 방법을 사용하는 것입니다.

실제로 보호하는 것은 모델 아래에 있습니다

여기에는 비용 측면도 있습니다. 그것은 동일한 방향을 가리킵니다. MCP는 많은 대화가 필요하며, 이는 토큰을 태우며, 이는 돈을 태우는 것을 의미합니다. 이 비용이 증가함에 따라, 심각한 회사들은 표준적인 공개 표준에서 자체 최적화된 독점 엔드포인트로 이동할 것이라고 예상합니다. 더 저렴하고, 잠금을 더 쉽게 할 수 있습니다.

모델의 자체 안전 가드레일은 다른 사람의 자본을 보호하기에 충분하지 않습니다. 실제로 보호하는 것은 모델 아래에 있습니다. 심각한 배포는 장치 수준의 게이트키핑으로 시작합니다. EXANTE에서 우리는 규정 프레임워크를 계층 구조에 직접 구축합니다. 언어 모델에 단어가 도달하기 전에, 하드웨어로 보안된 주변에는 이미 대화의 다른 쪽 끝이 설정되어 있습니다.

그 아래에, API 자체는 사람보다 기계를 사용하도록 재구축되어야 합니다. 인간 개발자는 신뢰할 수 있는 인터페이스를 얻지만, 자율 에이전트는 에이전트가 사용할 수 있는 것을 엄격하게 제한하는 스키마를 얻습니다. 에이전트는 남겨진 모든 것을 사용할 것입니다. 에이전트에게 접근을 허용하면, 에이전트는 그 것을 사용할 것입니다. 따라서 프로덕션은 가능한 한 적은 것을 노출해야 합니다.

에이전트의 작업은 피드백 환경에서 실행되어야 하며, 외부 세계를 읽는 파이프는 작동할 수 있는 기계와 구조적으로 분리되어야 합니다. 읽기와 작동은 다른 작업이며 다른 방에 속합니다. 또한 실제로 높은 위험이 있는 경우, 사람에게 여전히 승인을 받아야 합니다. 이름과 로그인이 있는 누군가가 승인을 받아야 합니다. 이는 협상할 수 없는 것입니다.

토끼는 지점을 가지고 있습니다

당신은 이야기를 알고 있습니다. 자신의 속도에 너무 만족하여 잠을 자는 토끼와, 멈추지 않는 토끼가 있습니다. 이것은 우화이며, 운영 수동은 아닙니다. 나는 그것을 너무 심하게 밀어붙이지 않겠습니다. 그러나 현재 경주는 그것과 비슷합니다. 가장 빠르게 달리는 회사들은 가장 많은 커버리지를 받고 있습니다. 커버리지는 지속성과 동일하지 않습니다. 시장은 너무 일찍 움직인 중개인을 오래 기억하지만, 기다린 중개인은 기억하지 않습니다.

한편, 규칙은 따라잡고 있습니다. 자동화된 시스템의 감독을 강화하는 프레임워크인 EU의 AI법과 같은 규칙이 조건을 강화함에 따라, 규정을 나중에 추가하는 것은 선택이 아닌 벌금이 됩니다. 에이전트가 무단으로 무언가를 할 때, 책임은 모델이 아니라 에이전트를 허용한 인프라에 있습니다. 이 시대에 내구성은 클라이언트 자산을 제대로 분리하고, 문제가 발생했을 때 불을 켜고, 데이터가 어디로 갔는지 보여줄 수 있는 회사에게 속합니다. 가장 먼저 플래시한 연결을 설정한 公司에게 속하는 것이 아닙니다.

그것은 나를 1985년의 전화에 있던 남자에게로 돌아갑니다. 그의 모든 결점에도 불구하고, 그는 우리가 그를 대체하기 위해 구축 중인 에이전트보다 하나의 이점을 가지고 있었습니다. 그는 영국 항공을 사라고 말했을 때, 그는 영국 항공을 샀습니다. 그는 영리한 헤드라인을 통해 계정을 낯선 사람에게 넘겨주도록 말할 수 없었습니다. 진행입니다. 어느 정도는 그렇습니다. EXANTE에서 우리는 실리콘 버전이 핸드셋을 가진 사람만큼 속임수를 당하기 어렵도록 많은 노력을 기울이고 있습니다. 40년의 혁신이 우리를 어디로 데려갔는지에 대해 말해줍니다.