도구 호출이란 무엇인가요?

도구 호출(tool calling)은 AI 모델이 자체적으로 수행할 수 있는 범위를 넘어 외부 도구, API 또는 시스템과 상호작용하여 작업을 수행하고 정보를 가져오는 기능입니다. 학습 데이터에 내장된 지식에만 의존하는 대신, 도구 호출 기능이 있는 모델은 사용자의 요청에 외부의 도움이 필요한 시점을 인식하고, 적절한 도구를 선택하며, 작업을 완료하기 위한 요청을 구성할 수 있습니다.

이것이 바로 정적인 챗봇과 기능적인 AI 에이전트를 구분 짓는 역량입니다. 도구 호출이 없다면 대규모 언어 모델은 학습 중에 익힌 패턴을 기반으로 텍스트를 생성하는 것만 가능합니다. 하지만 이 기능이 있으면 동일한 모델이 실시간 재고를 확인하고, 데이터베이스를 조회하며, 이메일을 보내고, 코드를 실행하거나, 서드파티 API를 호출할 수 있습니다. 도구 호출은 AI 모델에 손을 달아주는 역할을 합니다.

AI 에이전트에게 도구 호출이 중요한 이유

AI 에이전트는 환경을 인식하고, 의사결정을 내리며, 목표를 달성하기 위해 행동을 취할 수 있는 시스템입니다. 도구 호출은 바로 이 '행동 취하기' 단계를 가능하게 만듭니다. 도구를 호출할 수 없는 에이전트는 대화만 나눌 수 있지만, 도구를 호출할 수 있는 에이전트는 실질적인 작업을 수행하는 일꾼이 됩니다.

생성형 AI에서 에이전트형 AI로의 전환

생성형 AI는 텍스트, 이미지, 코드를 생성합니다. 에이전트형 AI는 여기서 더 나아가 다단계 워크플로우를 계획하고, 도구를 사용해 각 단계를 실행하며, 결과에 따라 적응해 나갑니다. 도구 호출은 이 두 패러다임을 연결하는 가교 역할을 합니다. 이는 AI 모델이 단순히 무엇을 할 수 있는지 설명하는 데 그치지 않고, 실제로 행동에 나서게 하는 메커니즘입니다.

기업들이 주목하는 이유

비즈니스적 가치는 명확합니다. Gartner에 따르면, 2026년 말까지 기업용 애플리케이션의 40%에 특정 작업용 AI 에이전트가 내장될 것으로 예상되며, 이는 2025년의 5% 미만에서 크게 증가한 수치입니다. 이러한 성장은 신뢰할 수 있는 도구 호출에 달려 있습니다. 에이전트가 CRM을 안정적으로 조회하거나, 레코드를 업데이트하거나, 후속 워크플로우를 트리거할 수 없다면 프로덕션급 가치를 제공할 수 없습니다.

또한 도구 호출은 팀이 자동화를 바라보는 방식을 바꿉니다. 가능한 모든 워크플로우에 대해 경직된 규칙 기반의 통합을 구축하는 대신, 조직은 컨텍스트에 따라 적절한 도구를 동적으로 선택하고 호출하는 AI 에이전트를 배포할 수 있습니다. 이를 통해 시스템의 유연성이 향상되고, 취약한 일대일(point-to-point) 연결을 유지 관리하는 데 드는 엔지니어링 오버헤드가 줄어듭니다.

AI 도구 호출은 어떻게 작동하나요?

도구 호출은 구조화된 루프를 따릅니다. 모델이 도구를 직접 실행하는 것은 아닙니다. 대신 애플리케이션 레이어가 처리할 구조화된 요청을 생성한 다음, 그 결과를 자체 응답에 통합합니다. 단계별 작동 방식은 다음과 같습니다.

단계 1. 도구가 필요한 시점 인식하기

이 프로세스는 사용자가 모델의 학습 데이터만으로는 답변할 수 없는 요청을 보낼 때 시작됩니다. 사용자가 "프랑스의 수도는 어디인가요?"라고 묻는다면 모델은 직접 답변합니다. 사용자가 "우리 회사의 2분기 매출 실적은 얼마인가요?"라고 묻는다면 모델은 외부 데이터 소스를 조회해야 함을 인식합니다.

이러한 인식은 모델의 학습 방식에 달려 있습니다. 도구 호출을 지원하는 모델은 질문이 자신의 지식 범위를 벗어나는 시점과 사용 가능한 도구가 도움이 될 수 있는 시점을 식별하도록 미세 조정(fine-tuning)되었습니다. 모델은 액세스 권한이 부여된 도구 목록과 사용자의 의도를 비교하여 평가합니다.

단계 2. 적절한 도구 선택하기

도구가 필요하다고 판단되면 모델은 사용 가능한 도구 세트에서 가장 적합한 도구를 선택합니다. 각 도구는 도구의 이름, 기능, 수락하는 매개변수(parameter)를 포함하는 스키마를 사용하여 모델에 설명됩니다. 모델은 사용자의 요청을 이러한 설명과 대조하여 적절한 도구를 선택합니다.

예를 들어 에이전트가 날씨 API와 데이터베이스 조회 도구 모두에 액세스할 수 있는 상황에서 사용자가 내일 날씨 예보를 물어보면 모델은 날씨 API를 선택합니다. 사용자가 지난달 매출에 대해 물어보면 데이터베이스 조회 도구를 선택합니다.

단계 3. 요청 구성 및 전송하기

도구를 선택한 후 모델은 호출할 도구와 전달할 인자(argument)를 지정하는 구조화된 출력(일반적으로 JSON 형식)을 생성합니다. 모델은 이 호출을 직접 실행하지 않습니다. 모델이 요청을 생성하면 애플리케이션 레이어가 실행을 처리합니다.

단계 4. 응답 수신 및 처리하기

외부 도구가 요청을 실행하고 결과를 반환합니다. 이는 데이터베이스의 데이터 페이로드, 작업 완료 확인, 오류 메시지 또는 기타 구조화된 응답일 수 있습니다. 애플리케이션 레이어는 이 결과를 모델에 다시 전달하여 최종 답변을 생성하기 위한 컨텍스트로 활용하도록 합니다.

단계 5. 답변 제공 또는 작업 실행하기

도구의 응답을 바탕으로 모델은 사용자를 위한 자연어 답변을 합성합니다. 사용자가 2분기 매출 실적을 요청했다면 모델은 "2026년 2분기 북미 지역 매출은 총 1,430만 달러로, 1분기 대비 12% 증가했습니다"라고 응답할 수 있습니다. 모델은 도구에서 얻은 원시 데이터와 자신의 언어 능력을 결합하여 명확하고 맥락에 맞는 응답을 생성합니다.

어떤 경우에는 결과가 대화형 답변이 아니라 이메일 발송, 데이터베이스 레코드 업데이트, 워크플로우 트리거와 같이 실행된 작업일 수도 있습니다. 모델은 사용자에게 작업이 완료되었음을 확인해 줍니다.

단계 6. 결과 반복 및 세분화하기

도구 호출이 항상 단 한 번으로 끝나는 것은 아닙니다. 복잡한 요청의 경우 순차적으로 여러 번 도구를 호출해야 할 수 있습니다. "지난 분기 실적 요약본을 준비해서 리더십 팀에 이메일로 보내줘"라는 요청을 받은 에이전트는 먼저 데이터베이스를 조회하여 실적 지표를 가져온 다음, 코드 실행 도구를 호출하여 차트를 생성하고, 마지막으로 이메일 API를 호출하여 요약본을 전송할 수 있습니다.

각 단계에서 모델은 계속 진행할 만큼 충분한 정보가 있는지, 아니면 추가적인 도구 호출이 필요한지 평가합니다. 이러한 반복 루프 덕분에 에이전트형 AI 시스템이 다단계 워크플로우를 처리할 수 있습니다.

도구 호출의 일반적인 유형

도구 호출은 단일 패턴이 아닙니다. 유스케이스마다 서로 다른 유형의 도구가 필요하며, 각 도구는 에이전트의 워크플로우에서 고유한 목적을 수행합니다.

정보 검색 및 탐색

가장 일반적인 유형의 도구 호출은 모델이 가지고 있지 않은 데이터를 가져오는 작업입니다. 여기에는 데이터베이스 조회, 문서 저장소 검색, 검색 API 호출 또는 주가, 날씨 데이터, 뉴스 같은 실시간 정보 검색이 포함됩니다. 검색 증강 생성(RAG)은 모델이 지식 베이스를 조회하여 검증된 데이터를 바탕으로 응답을 생성하는 이 패턴의 구체적인 형태입니다.

코드 실행

일부 작업에서는 모델이 단순히 텍스트를 생성하는 것을 넘어 코드를 작성하고 실행해야 합니다. 코드 실행 도구를 사용하면 에이전트가 계산을 수행하고, 데이터를 변환하며, 시각화 자료를 생성하거나 분석 스크립트를 실행할 수 있습니다. AI 코딩 에이전트는 Python 함수를 작성하고 이를 샌드박스 환경에서 실행한 후 결과를 사용자에게 반환할 수 있습니다.

프로세스 자동화

도구 호출을 통해 에이전트는 외부 시스템에서 작업을 트리거할 수 있습니다. 여기에는 이메일 전송, 프로젝트 관리 도구의 티켓 생성, CRM 레코드 업데이트, 승인 워크플로우 시작 또는 커뮤니케이션 플랫폼에 메시지 게시 등이 포함됩니다. 이러한 도구는 에이전트를 수동적인 관찰자가 아닌 비즈니스 프로세스의 참여자로 만들어 줍니다.

스마트 기기 및 IoT 모니터링

산업 및 운영 환경에서 도구 호출은 AI 에이전트를 물리적 시스템에 연결합니다. 에이전트는 제조 장비의 센서 데이터를 조회하거나, 스마트 빌딩의 온도 조절기 설정을 조정하거나, 차량 플릿의 텔레메트리를 모니터링할 수 있습니다. 이러한 통합은 AI의 역량을 디지털 세계에서 물리적 세계로 확장합니다.

도구 호출 vs. 함수 호출

이 두 용어는 밀접하게 관련되어 있으며 종종 혼용되지만, 이해해 둘 만한 유의미한 차이가 있습니다.

함수 호출(Function calling)은 도구 호출(tool calling)이 시작된 방식입니다. OpenAI가 이 기능을 처음 도입했을 때는 모델이 개발자가 정의한 함수에 사용할 구조화된 인자(arguments)를 생성하는 방법으로 소개되었습니다. 생태계가 성숙해지고 에이전트가 여러 외부 시스템과 관련된 더 복잡한 워크플로우를 조율하기 시작하면서, 더 포괄적인 용어인 "도구 호출(tool calling)"이 표준으로 자리 잡았습니다.

실제로 "함수 호출"이라고 적힌 문서를 읽고 있다면, 이는 동일한 기본 메커니즘을 설명하는 것입니다. Databricks는 문서와 플랫폼 기능 모두에서 두 용어를 모두 지원합니다. 실제로 함수 호출이 어떻게 평가되는지 자세히 알아보려면 Databricks의 함수 호출 벤치마크를 참조하세요.

실제 작동하는 AI 도구 호출의 활용 사례

도구 호출은 이미 여러 산업 분야의 프로덕션 환경에서 작동하고 있습니다. 조직에서 이를 어떻게 활용하고 있는지 보여주는 구체적인 사례는 다음과 같습니다.

고객 지원 에이전트

지원 에이전트가 주문 상태를 묻는 고객 메시지를 받습니다. 에이전트는 도구를 호출하여 주문 관리 시스템을 조회하고, 배송 추적 정보를 가져와 예상 배송일을 답변합니다. 고객이 배송 주소를 변경하려는 경우, 에이전트는 업데이트 도구를 호출하여 레코드를 수정합니다. 모든 도구 상호작용은 액세스 제어를 적용하고 에이전트 작업부터 소스 데이터까지의 계보(lineage)를 유지하는 Unity Catalog와 같은 플랫폼을 통해 거버넌스가 적용되며 감사 가능합니다.

데이터 분석 워크플로우

분석가가 AI 에이전트에게 이번 분기의 지역별 매출을 비교해 달라고 요청합니다. 에이전트는 SQL 쿼리 도구를 호출하여 레이크하우스에서 데이터를 가져오고, 코드 실행 도구를 호출하여 성장률을 계산하고 차트를 생성한 다음, 형식이 지정된 요약을 반환합니다. 분석가가 수동 쿼리와 스프레드시트 작업으로 30분 동안 해야 했던 일이 단 한 번의 대화형 대화로 해결됩니다.

IT 운영 및 모니터링

운영 팀은 인프라 상태를 모니터링하는 에이전트를 배포합니다. 서버의 CPU 사용량이 임계값을 초과하면 에이전트는 진단 도구를 호출하여 시스템 로그를 수집하고, 알림 도구를 호출하여 대기 중인 엔지니어에게 알리고, 복구 도구를 호출하여 리소스를 자동으로 확장(scale up)합니다. 에이전트는 사람의 개입 없이 1차 대응 워크플로우를 처리합니다.

엔터프라이즈 검색 및 지식 관리

직원이 사내 AI 비서에게 회사의 육아휴직 정책에 대해 문의합니다. 에이전트는 검색(retrieval) 도구를 호출하여 HR 지식 베이스를 검색하고, 관련 정책 문서를 찾아 전체 문서 링크와 함께 간결한 답변을 반환합니다. 이 패턴은 인트라넷을 검색하고 특정 답변을 찾기 위해 여러 페이지를 읽어야 했던 일반적인 경험을 대체합니다.

Databricks에서 도구 호출을 사용하여 AI 에이전트 구축 시작하기

Databricks는 Agent Bricks를 통해 도구 호출 에이전트를 구축, 배포 및 관리할 수 있는 완전한 플랫폼을 제공합니다. Databricks에 따르면, 여러 조직에서 이미 이 플랫폼에서 10만 개 이상의 에이전트를 구축하여 연간 1천조 개 이상의 토큰을 처리하고 있습니다.

Databricks가 도구 호출을 지원하는 방법

Agent Bricks는 도구 통합을 위한 새로운 개방형 표준인 MCP(Model Context Protocol)를 기본적으로 지원합니다. 이를 통해 에이전트는 표준화된 인터페이스를 통해 API, 데이터베이스 및 SaaS 애플리케이션에 안전하게 액세스할 수 있습니다. MCP 도구는 내장된 카탈로그를 통해 조직 전체에서 검색 및 공유할 수 있으며, 모든 통합은 Unity Catalog를 통해 시각화되고 권한이 부여되며 감사 가능합니다.

개발자는 다음과 같은 몇 가지 방법으로 에이전트를 도구에 연결할 수 있습니다.

• 관리형 MCP 서버(Databricks 데이터 소스용)
• 거버넌스가 적용되는 MCP 서비스로 등록된 외부 MCP 서버
• 맞춤형 로직 및 작업별 도구를 위한 Unity Catalog 함수
• Python 기반 Agent SDK로 구축된 맞춤형 도구

Agent SDK는 도구 실행, 함수 호출, 다단계 워크플로우 및 대화 상태 관리를 처리합니다. 개발자는 에이전트가 사용할 수 있는 도구와 다중 턴(multi-turn) 대화에서 에이전트가 작동하는 방식을 정의합니다.

시작하기

도구 호출을 처음 접하는 팀을 위해 AI Playground는 코드로 내보내기 전에 LLM을 선택하고, 도구를 추가하고, 에이전트 동작을 테스트할 수 있는 노코드 샌드박스를 제공합니다. Agent Bricks는 LangGraph, CrewAI, Agno, Claude Code SDK, OpenAI Agent SDK를 포함하여 널리 사용되는 에이전트 하네스를 지원하므로, 팀은 이미 익숙한 프레임워크를 사용하여 구축할 수 있습니다.

거버넌스는 처음부터 기본으로 제공됩니다. 에이전트 거버넌스 및 데이터 거버넌스는 Unity Catalog에서 직접 관리되며, 모델, 도구 및 연결에 역할 기반 액세스 제어가 적용됩니다. 프롬프트 주입(prompt injection) 방지, 민감한 데이터 감지 및 콘텐츠 필터링에 대한 조직 전반의 정책이 단일 제어 플레인 내에서 구성됩니다.

자체 데이터에서 도구 호출 에이전트를 구축하고 테스트하려면 Agent Bricks 및 Databricks 에이전트 도구 프레임워크를 살펴보세요.

자주 묻는 질문

AI에서 도구 호출이란 무엇을 의미하나요?

도구 호출은 AI 모델이 텍스트 생성 이상의 작업을 수행하기 위해 외부 도구, API 또는 시스템을 호출하는 기능입니다. 이를 통해 모델은 실시간 데이터를 가져오고, 코드를 실행하고, 외부 애플리케이션에서 작업을 트리거할 수 있습니다.

도구 호출과 함수 호출의 차이점은 무엇인가요?

함수 호출은 도구 호출의 하위 집합입니다. 함수 호출은 구체적으로 모델이 사전 정의된 함수에 대해 구조화된 인수를 생성하는 것을 의미합니다. 도구 호출은 함수 호출과 함께 API 통합, 데이터베이스 쿼리, 코드 실행 및 기타 외부 상호작용을 포괄하는 더 광범위한 개념입니다.

LLM에서 도구 호출은 어떻게 작동하나요?

도구 호출을 지원하는 LLM은 다음과 같은 루프를 따릅니다. 사용자의 요청에 외부 도구가 필요함을 인식하고, 사용 가능한 세트에서 적절한 도구를 선택하고, 올바른 매개변수로 구조화된 요청을 생성한 다음, 도구의 응답을 최종 답변에 통합합니다. 모델은 도구를 직접 실행하지 않습니다. 애플리케이션 레이어가 수행하는 구조화된 출력을 생성합니다.

도구 호출에 가장 적합한 LLM은 무엇인가요?

도구 호출 성능은 모델 및 사용 사례에 따라 다릅니다. BFCL(Berkeley Function Calling Leaderboard)은 모델 전반에서 도구 호출 신뢰성을 평가하기 위해 가장 널리 참조되는 벤치마크입니다. Databricks는 OpenAI, Anthropic, Google, Meta의 모델을 포함한 여러 LLM 제공업체를 지원하므로, 팀은 특정 요구사항에 따라 모델을 선택하고 비교할 수 있습니다.

AI 도구 호출과 MCP의 차이점은 무엇인가요?

도구 호출은 기능 자체를 의미합니다. MCP(Model Context Protocol)는 도구를 설명, 검색 및 호출하는 방법에 대한 표준화 레이어입니다. MCP는 에이전트가 맞춤형 통합 코드 없이도 모든 MCP 호환 도구에 연결할 수 있도록 일관된 인터페이스를 제공합니다. Databricks Agent Bricks는 통제된 도구 액세스를 위해 MCP를 기본적으로 지원합니다.

AI 에이전트에게 도구 호출이 중요한 이유는 무엇인가요?

도구 호출이 없다면 AI 에이전트는 학습 데이터를 기반으로 텍스트를 생성하는 것으로 제한됩니다. 도구 호출은 에이전트에게 데이터베이스 쿼리, API 호출, 메시지 전송, 코드 실행, 워크플로우 트리거 등 행동할 수 있는 능력을 부여합니다. 이는 언어 모델을 실제 작업을 완료할 수 있는 자율적인 AI 에이전트로 변환하는 핵심 메커니즘입니다.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)