도구 호출이란 무엇인가? AI 모델은 어떻게 결정을 행동으로 옮길까

도구 호출은 AI 모델이 구조화된 인수를 사용해 특정 함수나 외부 기능을 요청할 수 있게 하는 메커니즘입니다. 이를 통해 모델의 결정은 기계가 읽을 수 있는 동작으로 바뀌며, 소프트웨어는 모델이 작업을 문장으로 흉내 내도록 하지 않고도 검색, 계산, 기록 조회, 코드 실행, 다른 시스템 업데이트를 수행할 수 있습니다.

도구 호출은 현대 AI 에이전트의 토대입니다. 모델은 무엇을 해야 할지 추론할 수 있지만, 요청된 동작이 유효하고 승인된 것인지, 실제로 실행되는지, 다음 결정을 내릴 수 있도록 결과가 모델에 반환되는지는 주변 애플리케이션이 제어합니다.

모델에 도구가 필요한 이유

언어 모델에는 중요한 한계가 있습니다. 학습한 지식에는 학습 시점의 기준일이 있고, 모든 계산을 안정적으로 수행할 수는 없으며, 비공개 데이터나 실시간 데이터를 자동으로 알지 못합니다. 또한 텍스트 생성만으로 소프트웨어 시스템에 영향을 미칠 수도 없습니다.

도구는 다음과 같은 기능을 모델에 더해 줍니다.

• 최신 정보 검색;
• 데이터베이스 또는 지식 베이스 조회;
• 코드 실행 또는 정확한 계산;
• 파일 읽기 및 쓰기;
• 티켓, 이벤트, 메시지 또는 거래 생성;
• 브라우저 또는 기타 사용자 인터페이스 조작.

도구를 사용한다고 해서 모델 자체의 지식이 늘어나는 것은 아닙니다. 애플리케이션이 근거를 확보하거나 작업을 수행할 수 있도록 통제된 방법을 제공하는 것입니다.

도구 정의의 구성 요소

도구 설명에는 도구를 선택해야 하는 기준과 선택하지 말아야 하는 기준이 모두 포함되어야 합니다. “기록 검색”이라는 설명은 모델이 고객, 문서, 공개 웹 중 무엇을 검색하는지 알 수 없어 부족합니다. “회사명 또는 계정 ID로 승인된 고객 계정을 검색합니다. 일반 웹 검색에는 사용하지 마세요”라고 설명하면 모델이 따를 수 있는 경계를 제시할 수 있습니다.

애플리케이션은 사용 가능한 각 도구를 구조화된 형식으로 설명합니다. 일반적으로 정의에는 다음이 포함됩니다.

• 이름: 다음과 같은 안정적인 식별자 get_weather 또는 create_support_ticket.
• 설명: 도구의 기능과 사용해야 할 시점을 정확히 설명하는 내용.
• 입력 스키마: 필수 및 선택 인수, 데이터 유형, 허용되는 값.
• 출력 계약: 애플리케이션이 반환할 결과 또는 오류 상태에 관한 문서.

많은 도구 인터페이스는 JSON 스키마 또는 이와 유사한 유형 지정 표현을 사용합니다. 범위가 좁고 모호하지 않은 스키마를 사용하면 모델이 매개변수를 지어내거나 서로 양립할 수 없는 선택지를 결합할 가능성이 줄어듭니다.

도구 호출 루프의 작동 방식

사용자가 “다음 주 화요일에 맨체스터에서 회의가 있나요? 비도 올까요?”라고 묻는 상황을 생각해 보세요.

1. 애플리케이션이 맥락을 제공합니다. 사용자 요청, 시스템 지침, 선택된 도구 정의를 모델에 전달합니다.
2. 모델이 도구를 선택합니다. 날짜 범위와 위치 필터를 지정해 캘린더를 조회하도록 요청할 수 있습니다.
3. 애플리케이션이 요청을 검증합니다. 도구 이름, 필수 인수, 권한 범위, 비즈니스 규칙을 확인합니다.
4. 런타임이 도구를 실행합니다. 캘린더 시스템을 호출하고 일치하는 일정이나 명시적인 오류를 반환합니다.
5. 모델이 결과를 확인합니다. 맨체스터에서 열리는 회의가 있다는 사실을 확인하고, 해당 도시와 날짜의 날씨를 조회하는 도구를 요청합니다.
6. 애플리케이션이 확인과 실행을 반복합니다.
7. 모델이 최종 답변을 생성합니다. 검증된 결과를 종합하고 관련 세부 정보를 인용합니다.

모델은 호출을 제안하고 애플리케이션은 이를 실행합니다. 이러한 경계는 도구 사용에서 가장 중요한 사실 중 하나입니다. 안전한 런타임은 모델 출력을 자동으로 권한이 부여된 코드로 취급하지 않습니다.

도구 선택은 자동으로 이루어지거나 제한될 수 있습니다

애플리케이션은 모델이 도구의 필요 여부를 결정하도록 허용하거나, 특정 도구를 반드시 사용하게 하거나, 선택 가능한 도구를 일부로 제한하거나, 응답에 도구를 사용하지 못하게 할 수 있습니다. 이러한 옵션은 각기 다른 작업 흐름에 유용합니다.

자동 선택은 유연한 어시스턴트를 지원합니다. 모든 요청이 특정 함수를 거쳐야 하는 구조화된 정보 추출 같은 작업에는 필수 선택이 도움이 됩니다. 사용 가능한 도구를 제한하면 혼란과 노출 위험을 줄일 수 있습니다. 인보이스를 읽는 단계에서 이메일 전송 도구에 접근할 필요는 없습니다.

도구 호출과 구조화된 출력 비교

두 기능 모두 모델에 스키마에 맞는 데이터를 생성하도록 요청하지만, 목적은 서로 다릅니다.

구조화된 출력은 모델의 답변을 애플리케이션에 맞는 형식으로 구성합니다. 예를 들어 제품명, 수량, 위험 분류를 추출할 수 있습니다. 도구 호출은 애플리케이션에 작업을 수행하고 그 결과를 반환하도록 요청합니다.

구조화된 결과가 상호작용을 끝낼 수도 있습니다. 도구 호출은 보통 요청, 실행, 결과 확인, 재판단의 순환 과정을 이어 갑니다.

도구 호출과 API 비교

API는 소프트웨어가 다른 시스템과 통신하는 데 사용하는 인터페이스입니다. 도구 호출은 모델이 작업을 선택하고 인수를 제공하는 의사결정 계층입니다. 도구 구현은 흔히 API를 감싸지만, 데이터베이스 쿼리, 로컬 함수, 명령줄 프로그램 또는 사용자 인터페이스 동작을 감쌀 수도 있습니다.

가장 좋은 도구는 복잡한 API 전체를 그대로 노출하는 경우가 드뭅니다. 명확한 의미와 제한된 범위를 갖추고 모델이 해석할 수 있는 결과를 제공하는, 작업 중심의 기능을 제공합니다. 검증된 정책 입력을 사용해 ‘주문 환불’을 처리하는 방식은 모든 엔드포인트를 호출할 수 있는 범용 요청 도구보다 안전하고 사용하기 쉽습니다.

좋은 AI 도구의 조건

명확한 목적. 이름과 설명을 통해 유사한 기능과 구별할 수 있어야 합니다. 기능이 겹치는 도구가 있으면 선택 결과가 일관되지 않을 수 있습니다.

간결하고 유형이 지정된 입력. 필수 필드를 명시하고, 가능한 경우 제한된 값에는 열거형을 사용해야 합니다. 모델이 크고 오류가 발생하기 쉬운 페이로드를 구성하도록 강요하지 마세요.

유용한 출력. 안정적인 식별자와 명시적인 성공 또는 실패 상태를 포함해 다음 판단에 필요한 정보를 충분히 반환해야 합니다. 부분적인 실패를 친절한 메시지 속에 숨기지 마세요.

가능한 경우 멱등성 보장. 읽기 작업은 재시도해도 대체로 안전하지만, 결제나 메시지 전송을 재시도하면 작업이 중복될 수 있습니다. 영향이 큰 도구에는 멱등성 키나 다른 보호 장치를 사용해야 합니다.

최소한의 권한. 읽기 전용 검색 도구에 쓰기 권한까지 부여해서는 안 됩니다. 인증 정보와 권한 부여는 프롬프트가 아니라 런타임에서 처리해야 합니다.

흔히 발생하는 도구 호출 오류

재시도에는 별도의 정책이 필요합니다. 읽기 전용 검색을 다시 시도하는 것은 무해할 수 있지만, 결제 도구나 메시지 전송 도구를 재시도하면 되돌릴 수 없는 작업이 중복 실행될 수 있습니다. 멱등성 키, 트랜잭션 식별자, 명시적인 확인 상태를 사용하면 런타임에서 첫 번째 시도가 실패한 것인지, 아니면 응답을 반환하지 못했을 뿐인지 판별할 수 있습니다.

• 잘못된 도구: 모델이 설명이 비슷한 기능을 선택합니다.
• 잘못된 인수: 필수 입력란이 누락되었거나 형식이 잘못되었거나 의미상 불가능합니다.
• 환각한 결과: 모델이 관찰 결과를 기다리지 않고 도구가 성공한 것처럼 답변합니다.
• 모호한 오류: 도구가 빈 출력을 반환하고, 모델은 이를 “검색된 기록이 없음”으로 해석합니다.
• 안전하지 않은 연쇄 호출: 한 도구에서 나온 신뢰할 수 없는 콘텐츠가 모델을 부적절한 다른 도구 호출로 유도합니다.
• 부작용 중복: 첫 번째 작업이 이미 성공한 뒤 시간 초과가 발생해 재시도가 이루어집니다.
• 도구 과부하: 관련 없는 정의가 너무 많으면 선택 정확도가 떨어지고 컨텍스트를 소모합니다.

권한과 사람의 승인

도구는 위험도에 따라 분류할 수 있습니다. 읽기 전용 정보 검색은 제한된 데이터 범위 내에서 자동으로 실행할 수 있습니다. 되돌릴 수 있는 초안 작성이나 변경 제안은 로그를 남기면서 실행할 수 있습니다. 외부에 영향을 주거나 금융·파괴적·법적 의미가 있는 작업은 일반적으로 승인 절차를 거쳐야 합니다.

승인은 충분한 정보를 바탕으로 이루어져야 합니다. 확인 인터페이스에는 정확한 작업, 대상, 주요 매개변수, 예상되는 결과가 표시되어야 합니다. 도구가 5,000명의 수신자에게 이메일을 보내거나 운영 환경의 리소스를 삭제하려는 경우 “도구를 허용할까요?”라는 질문만으로는 충분하지 않습니다.

OpenAI의 에이전트 구축을 위한 도구 개요는 도구 사용이 추적 및 관측 기능을 갖춘 에이전트 플랫폼의 일부여야 한다고 강조합니다. 주변의 제어 장치는 선택 사항인 부가 기능이 아닙니다. 모델이 선택한 작업을 실제로 운영 가능하게 만드는 핵심 요소입니다.

도구 사용 평가 방법

도구 선택, 인수, 실행, 결과 해석, 최종 작업 성공 여부를 각각 따로 평가해야 합니다. 모델이 올바른 도구를 선택하고도 잘못된 입력란을 채울 수 있으며, 올바른 결과를 받고도 잘못된 결론을 내릴 수 있습니다. 전체 추적 기록을 남기면 이러한 실패 유형을 파악할 수 있고, 그럴듯한 최종 답변이 안전하지 않거나 낭비적인 행동을 가리는 일도 막을 수 있습니다.

에이전트가 비효율적이거나 안전하지 않은 경로를 선택했더라도 최종 답변은 올바르게 보일 수 있습니다. 따라서 평가는 결과와 실행 경로를 모두 측정해야 합니다.

유용한 지표에는 도구 선택 정확도, 인수의 유효성, 작업 완료 여부, 호출 횟수, 지연 시간, 비용, 오류 복구 능력, 불필요한 민감 데이터 접근, 중복 부작용, 승인 규칙 준수 여부가 포함됩니다. 모델의 동작은 달라질 수 있으므로 여러 차례 반복해 시험해야 합니다.

툴 호출 다이어그램 읽는 법

툴 호출 다이어그램은 번호가 매겨진 입력에서 관찰 가능한 결과 방향으로 읽습니다. 비교 부분은 툴 호출과 가장 가까운 간편 대안을 구분하는 경계를 보여 주고, 제어 경로는 현실에서 결과가 발생하기 전에 권한이나 불확실성을 확인해야 하는 지점을 나타냅니다. 레이블은 일반적인 반응형 페이지 텍스트로 표시되므로 휴대전화에서도 번역하고 줄바꿈하며 화면에 맞게 재배치할 수 있습니다.

「툴 호출이란 무엇인가? AI 모델이 결정을 행동으로 옮기는 방식」의 시각 자료는 보증이 아니라 안내도입니다. 실제 구현에서는 단계를 결합하거나 한 단계를 반복하거나 사람의 승인 절차를 추가할 수 있습니다. 중요한 것은 팀이 배포된 시스템에서 같은 기능을 찾아내고, 각 경계의 담당자를 지정하며, 경계 간 전환을 시험할 수 있는지 여부입니다. 어떤 단계를 관찰하거나 측정할 수 없다면 그 단계에서 발생한 문제를 진단하기 어렵습니다.

툴 호출에 관해 기억할 점

툴 호출은 모델의 판단과 소프트웨어의 작업을 잇는 다리입니다. 모델은 기능을 파악하고 구조화된 입력을 제안하며, 애플리케이션은 이를 검증하고 권한을 확인한 뒤 실행하고 관찰 결과를 반환합니다.

잘 설계된 도구는 AI 시스템을 더 최신이고 유능하며 유용하게 만듭니다. 제대로 설계되지 않은 도구는 평범한 모델의 실수를 외부에 영향을 미치는 결과로 이어지게 합니다. 핵심적인 엔지니어링 작업은 스키마, 권한, 오류 처리, 관측 기능, 실행을 둘러싼 경계를 다루는 데 있습니다.