사상 리더
EU AI법은 에이전트형 AI도 규제합니다—그 방식은 다음과 같습니다

핵심 포인트에이전틱 AI는 AI 시스템의 정의를 충족하기 때문에 이미 EU AI 법의 적용 범위에 포함된다.
더 보기
- 에이전틱 AI는 AI 시스템의 정의를 충족하기 때문에 이미 EU AI 법의 적용 범위에 포함된다.
- AI 법은 특정 기술을 지명하기보다 기술이 하는 일과 그것이 만들어내는 위험을 규제한다.
- AI 법에 반대하는 로비를 벌이는 거대 기술 기업들은 규제 포획에 해당하는 자율 규제를 밀어붙이고 있다.
요즘 에이전틱 AI와 AI 에이전트가 일종의 규제 공백에 놓여 있으며 EU AI법으로는 이를 제대로 규제하기 어렵다는 주장이 강하게 제기되고 있습니다. 노르웨이의 신뢰할 만한 언론 매체(Morgenbladet와 Dagensnæringsliv)에서 이런 주장을 접했고, 저명한 학자들(University of Oslo)도 이를 되풀이했습니다. 우리는 이러한 주장에 두 가지 근본적인 결함이 있다고 봅니다… 그리고 그 주장이 사실이 아니라 두려움에 근거한다고 생각합니다.
첫째, 에이전트형 AI는 EU AI법의 규제를 받습니다.
둘째, 이러한 주장은 기존 규제를 약화합니다. AI 기업이 자사 시스템과 관련된 위험을 더 잘 관리할 수 있다는 인식을 강화하는데, 이는 규제 포획으로 이어지는 흔한 논리입니다.
저희는 노르웨이 표준화 기구(Standards Norway)의 국가 AI 위원회 위원으로 임명되어 EU AI법을 면밀히 다루고 있습니다. 또한 고위험 AI 시스템 제공업체를 위한 조화 표준을 개발하는 유럽 위원회에도 참여하고 있습니다. 이러한 표준은 기업이 AI법의 법적 요건을 충족하는 데 도움이 됩니다.
EU AI법에 따라 에이전트형 AI는 여러 방식으로 규제됩니다
유럽연합 집행위원회는 ‘에이전트’와 ‘에이전트형 AI’에 관한 쉽고 평이한 여러 FAQ를 공개하고, 이들이 규제의 적용 범위에 포함된다고 명확히 밝혔습니다. 그 이유는 간단합니다. 이들이 더 포괄적인 AI 시스템의 정의에 해당하기 때문입니다(AI법에서 AI 에이전트는 어떻게 다뤄지나요? | AI법 서비스 데스크). 몇 가지 사례를 더 살펴보겠습니다.
- 에이전트형 AI는 대개 범용 AI 모델로 규제되는 대규모 언어 모델을 기반으로 구축됩니다.
- 에이전트형 AI 시스템이 사람과 상호작용하면 규제의 투명성 요건도 적용됩니다.
- AI 모델이 시스템적 위험을 초래하는 것으로 분류되면 제공업체에 추가 요건이 적용됩니다. 여기에는 무엇보다 자율적 기능과 에이전트형 기능을 비롯한 모델의 역량 평가가 포함됩니다.
AI법에는 ‘에이전트’라는 단어가 나오지 않습니다. 특정 기술 유형을 규제하는 법이 아니기 때문입니다. 그 대신 해당 기술이 무엇을 하도록 설계되었는지, 그리고 그 기능과 관련된 위험을 규제합니다.
AI법은 우리의 기본권을 보호하기 위한 법입니다
더 많은 규제를 원하는 이들이 제기하는 AI법 비판의 상당수는 위험을 완전히 제거하는 것이 구조적으로 불가능하다는 점에서 비롯됩니다. 그러나 국제 규제 체계가 미래에 발생할 모든 위험을 예측하는 것은 애초에 불가능했을 것입니다.
대신 AI법은 건강과 안전, 기본권에 영향을 미칠 수 있는 AI 시스템의 위험에 초점을 둡니다. 이는 첫 번째 조항의 첫 문장에 명시된 내용입니다.

EUR-Lex – 02024R1689-20260727 – 영어 – EUR-Lex에서 가져온 스크린샷
이 첫 문장에서 강조하지 않은 내용도 중요합니다. AI법은 시장 지향적입니다. AI의 사용을 장려하고 혁신을 지원해야 합니다. 다시 말해 AI법은 AI를 지지하는 법입니다. 이러한 맥락에서 특정 애플리케이션과 분야가 규제됩니다.
일부 분야는 사전에 고위험 분야로 분류됩니다
다음 분야에서 사용되는 AI 시스템이 그 예입니다.
- 채용
- 필수 서비스 배분
- 의료기기
- 안전이 무엇보다 중요한 핵심 인프라에 통합된 시스템.
에이전트형인지 여부와 관계없이, 우리의 권리에 영향을 미칠 수 있는 AI 시스템 제공업체는 포괄적인 위험 관리 체계를 구축해야 합니다. 여기에는 사용자가 AI 시스템을 오용할 가능성에 대한 평가도 포함됩니다.
규제 포획: 제공업체가 자율 규제를 제안할 때
Anthropic, OpenAI, Meta의 주장과 노르웨이 논쟁의 일부 목소리에 귀를 기울이면 AI와 에이전트형 AI는 AI법으로 다루기에는 너무 복잡하다는 인상을 받을 수 있습니다. EU가 감당하기에는 너무 앞선 기술이라는 것입니다. 기업이 아닌 다른 주체가 규제하기에는 너무 위험하다는 주장도 나옵니다.
세계에서 가장 강력한 기술 기업들은 AI법을 덜 엄격하게 시행하도록 강하게 로비해 왔습니다. 그런 기업들이 이제 가장 강력한 시스템을 규제하기에 이 법은 부적절하다고 주장할 때는 신중해야 합니다. 이들이 제안하는 해결책은 스스로를 ‘규제’하는 것입니다.
이는 전형적인 규제 포획의 메커니즘입니다. 법과 규제가 본래 규제 대상인 주체들에 의해 점차 형성되고, 그 주체들의 이익에 봉사하게 되는 과정입니다.
미국은 이를 분명히 보여 주는 사례입니다(초지능 시대의 개막 – 백악관). 백악관 초지능 협약은 X, Meta, Anthropic, OpenAI, Google의 지도자들이 참여한 ‘자발적 협약’으로, 이 기업들은 자율 규제를 약속합니다. 문서에는 가상의 미래 어느 시점에는 법률이 적절할 수도 있다고 적혀 있습니다. “시간이 지나면 이러한 조치를 법률이나 규정으로 명문화하는 것이 합리적일 수도 있습니다.” 언젠가는 말입니다. 어쩌면요. 규제를 고려하는 것이 합리적일 수도 있습니다.
하지만 당분간 미국인들은 이들 주요 기술 기업이 스스로를 규제할 것이라고 믿어야 하는 상황입니다.
미국과 달리 유럽에는 구속력 있는 법이 있습니다. 바로 AI법입니다.
그럼에도 규제 포획은 여전히 위험 요소로 남아 있으며, 여기에는 이 법에 대한 신뢰가 약화되는 경우도 포함됩니다. 거대 기술 기업들이 사람들에게 AI법은 충분하지 않다고 납득시킬 수 있다면, 우리는 더 이상 이 법의 집행을 지지하지 않을 것이기 때문입니다. 에이전트형 AI는 AI법이 다루기에는 너무 고도화되었거나, 똑똑하거나, 위험하다는 주장은 규제에 대한 지지를 약화시키는 논리입니다.
규제 포획이 일단 자리 잡으면 되돌리기 어렵습니다.
일부 AI 시스템이 예측하기 어려운 결과를 초래할 수 있다는 우려에 공감합니다. 바로 이런 이유로 위험 관리 절차가 필요하며, AI법도 이를 요구합니다. (Muller 박사는 위험 관리에 관한 조화 표준인 18228의 개발을 거의 마무리한 위원회에서 활동하고 있습니다.)
EU AI법이 완벽한 것은 아니며, 앞으로 더 발전시켜야 할 가능성이 큽니다. 그러나 에이전트형 AI를 EU AI법의 적용 범위 밖에 있는 분야로 묘사하는 것은 안전이 아니라 불확실성만 키울 뿐입니다.













