AI 에이전트에 대한 간결한 가이드

AI 에이전트 시스템을 사용하여 GenAI 앱을 프로덕션으로 확장하기

생성형 AI는 엄청난 가능성을 지니고 있지만, 많은 조직에게 파일럿 프로젝트에서 완전히 배포된 애플리케이션으로 전환하는 것은 여전히 중요한 과제로 남아 있습니다. 최근 Economist 보고서인 'Unlocking Enterprise AI'에 따르면 전 세계 기업의 85%가 이미 GenAI를 사용하고 있으며, 이 수치는 2027년까지 99%에 이를 것으로 예상됩니다. 하지만 많은 조직이 이러한 프로젝트를 효과적으로 확장하는 데 어려움을 겪고 있습니다. 이 보고서는 또한 기업의 22%만이 자사 인프라가 AI에 대비되어 있다고 확신하며, 37%만이 자사의 GenAI 모델이 진정으로 프로덕션에 사용할 준비가 되었다고 생각한다고 밝혔습니다. 이러한 격차는 GenAI 애플리케이션이 성공에 필요한 높은 기준을 충족하도록 보장하기 위해 견고한 인프라와 고급 도구가 필요하다는 점을 강조합니다. 

많은 GenAI 프로젝트는 엔터프라이즈 데이터와 통합되지 못하여 부정확하거나 관련 없는 결과를 초래함으로써 기대에 미치지 못합니다. GenAI의 잠재력을 완전히 활용하려면 기업은 독립형 모델 그 이상, 즉 특정 데이터와 비즈니스 요구에 맞춤화된 포괄적인 AI 에이전트 시스템이 필요합니다.

Databricks Agent Bricks: 데이터에 최적화된 프로덕션 AI 에이전트

Databricks Agent Bricks는 조직이 고품질 AI 에이전트를 구축할 수 있도록 지원합니다. 자체 데이터와 작업을 사용하여 맞춤형 벤치마크를 구축하고 모든 출력을 해당 벤치마크와 비교하여 평가함으로써 품질과 정확성을 높입니다. 최신 연구와 인간의 피드백을 활용하여 Agent Bricks는 자동으로 성능을 개선하므로, 에이전트는 비용이 많이 드는 재구축 없이도 정확성을 유지할 수 있습니다. 모델에 구애받지 않으므로 Agent Bricks는 상용, 오픈 소스 또는 미세 조정된 변형 등 모든 AI 모델을 사용할 수 있으며, 새로운 혁신 기술이 등장함에 따라 모델을 교체할 수 있습니다. 

Databricks 플랫폼을 사용하면 데이터에 직접 AI를 적용하여 이미 사용 중인 거버넌스, 보안 및 규정 준수 제어를 확장할 수 있습니다., 자동으로 다음을 수행합니다. 

• 액세스 정책을 시행합니다
• 속도 제한을 적용하여 비용을 관리합니다.
• 유해 콘텐츠를 방지합니다
• 엔드투엔드 리니지 제공 

이 모든 과정에서 조직의 데이터를 외부로 전혀 이동시키지 않습니다.

학습하게 될 내용

이 가이드에서는 AI 에이전트와 AI 에이전트 시스템, 그 활용 사례, 그리고 이를 효과적으로 구축하는 방법을 종합적으로 살펴봅니다. 구체적으로 다음 사항을 알아봅니다: 

• AI 에이전트 및 에이전트 시스템의 기본 사항: 복잡한 비즈니스 과제를 해결하는 데 있어 이러한 시스템의 주요 구성 요소, 기능 및 이점을 이해하세요 
• 실제 사용 사례: 고객 서비스 자동화, 고급 문제 해결을 위한 다중 에이전트 협업 등 실제로 활용되는 AI 에이전트의 실용적인 사례를 살펴보세요. 
• AI 에이전트 시스템 구축 및 확장: 엔터프라이즈 데이터와 원활하게 통합되고, 생성형 및 고전적 AI를 통합하며, 비즈니스 요구 사항에 맞게 조정되는 확장 가능하고 모듈식인 에이전트 시스템을 설계하는 방법을 알아보세요 

이 가이드에 설명된 인사이트, 사용 사례, 실용적인 전략을 따르면 조직의 목표에 부합하고 거버넌스가 적용된 고성능 AI 에이전트 시스템을 배포할 수 있게 될 것입니다.

AI 에이전트란?

AI 에이전트는 작업을 자동화하고 인간의 생산성을 향상시키도록 설계된 지능형 애플리케이션입니다. AI 에이전트는 정보를 분석하고, 의사 결정을 내리고, 조치를 취하여 특정 목표를 달성함으로써 더 전략적인 작업을 위한 시간과 리소스를 확보할 수 있습니다. 

예를 들어, 다음과 같은 접근 방식이 있습니다. 

• 고객 서비스 에이전트: 이 에이전트는 고객과 상호 작용하고 query를 파악하여 시기적절하고 관련성 있는 답변을 제공함으로써 고객 만족도를 개선하고 문제를 효율적으로 해결하는 것을 목표로 합니다. 
• 캠페인 생성 에이전트: 이 에이전트는 브랜드 인지도 향상이나 매출 증대와 같은 특정 목표를 달성하기 위해 데이터를 분석하고, 타겟 고객을 식별하며, 개인화된 마케팅 캠페인을 생성합니다 
• 코드 생성 에이전트: 이 에이전트는 주어진 요구 사항에 따라 코드를 작성, 디버깅, 최적화하여 개발자를 지원하고 소프트웨어 개발 프로세스를 간소화하며 생산성을 향상시킵니다. 효과적인 AI 에이전트를 구축하고 배포하려면 단일 에이전트든 여러 상호 작용하는 에이전트든 관계없이 AI 에이전트 시스템이 필요합니다.

에이전트는 LLM을 추론을 위한 두뇌로 사용합니다.

AI 에이전트 시스템이란 무엇인가요?

AI 에이전트 시스템은 기업이 상호 작용하는 여러 구성 요소를 결합하여 복잡한 작업을 수행할 수 있는 에이전트 또는 에이전트 그룹을 구축하고 운영할 수 있도록 지원합니다. 에이전트 시스템은 단일 모델을 사용하는 데 그치지 않고 특정 목표를 효율적으로 달성하기 위해 대규모 언어 모델(LLM), 기존 머신 러닝(ML) 모델, 기업 데이터, 도구 등 다양한 구성 요소를 통합합니다. 또한 에이전트 시스템에는 평가 기술과 거버넌스가 기본적으로 내장되어 있어 시스템의 모든 구성 요소 전반에 걸쳐 설정된 목표에 따라 완벽하게 관리되는 방식으로 높은 품질의 서비스를 제공합니다. 

AI 에이전트 시스템을 개발하고 관리하는 주요 단계는 다음과 같습니다. 

• 데이터 준비: 에이전트의 의사 결정 및 상호작용에 데이터가 액세스 가능하고 관련성이 있도록 데이터를 정리하고 전처리합니다 
• 에이전트 빌드: 생성형 AI 모델, 기존 ML 모델 및 도구를 결합하여 특정 작업을 수행합니다 
• 에이전트 배포: 실제 환경에 에이전트를 배포하여 사용자와 시스템과 상호작용하고, 안전하고 효율적인 운영을 보장합니다. 
• 성능 평가: 에이전트의 출력과 진행 상황을 측정 및 평가하여 목표를 달성하고 피드백을 통해 개선되도록 합니다 
• 운영 관리: 에이전트 활동을 추적하고 책임성을 보장하면서 보안, 규정 준수 및 윤리 기준을 유지합니다 

AI 에이전트 시스템의 한 예는 LLM과 데이터 검색 시스템을 결합하여 정확하고 컨텍스트를 인식하는 응답을 제공하는 검색 증강 생성(RAG) 애플리케이션입니다. 이러한 시스템은 데이터베이스에서 관련 문서를 검색하여 고객 문의에 답변하는 등 비정형 데이터 작업에 탁월합니다. 

고전적인 머신 러닝 모델 또한 에이전트 시스템에서 핵심적인 역할을 수행하며, 특히 표, Logs 또는 시계열과 같은 정형 데이터를 다룰 때 중요합니다. ML 모델은 예측, 분류 또는 이상 감지와 같은 작업을 위한 특화된 도구 역할을 합니다. 예를 들어, 시스템 내 ML 모델은 재고 수요를 예측하거나 고위험 거래를 식별하면서 정밀한 데이터 기반 인사이트에 집중하여 LLM을 보완할 수 있습니다. 

AI 에이전트 시스템의 체계적인 접근 방식은 다양한 AI 구성 요소의 통합을 보장하여, 에이전트가 복잡하고 자율적인 작업을 효과적으로 수행할 수 있도록 합니다. 이 모듈식 프레임워크는 고객 지원, 데이터 분석, 워크플로 자동화와 같은 사용 사례 전반에 걸쳐 AI 에이전트를 다재다능하고 재사용할 수 있게 만들어, 단순한 응답자에서 의사 결정권자 및 실행자로 전환시킵니다.

AI 에이전트의 활용 사례는 무엇인가요?

AI 에이전트는 다양한 비즈니스 기능에 적용되어 효율성, 정확성, 생산성을 크게 향상시킬 수 있습니다. 다음은 AI 에이전트를 활용할 수 있는 몇 가지 실제적인 예입니다.

고객 지원 자동화

AI 에이전트는 챗봇이나 가상 어시스턴트를 통해 고객 상호작용을 자동화하여 반복적인 문의에 빠르고 정확한 응답을 제공할 수 있습니다. 이를 통해 상담원의 부담을 줄이고 더 복잡한 문제에 집중할 수 있습니다. 예를 들어, AI 상담원을 사용하여 일반적인 서비스 문의를 처리하고 상담원은 이관되거나 전문적인 지원이 필요한 요청을 관리할 수 있습니다.

영업 및 마케팅 지원

AI 에이전트는 리드 자격 평가, 후속 이메일, 데이터 입력과 같은 반복적인 작업을 자동화하여 판매/영업 및 마케팅팀을 지원합니다. 또한 고객 데이터를 분석하여 타겟 마케팅 전략에 대한 통찰력과 권장사항을 제공할 수 있습니다. 예를 들어 AI 에이전트는 후속 조치를 위한 최적의 리드를 식별하거나 고객 선호도에 따라 맞춤형 프로모션을 제안할 수 있습니다.

데이터 분석 및 보고

AI 에이전트는 데이터 수집, 분석, 보고 자동화에 뛰어납니다. 이는 대량의 데이터를 신속하고 정확하게 처리해야 하는 기업에 특히 유용합니다. AI 에이전트는 여러 소스에서 데이터를 가져와 주간 영업 보고서나 성과 대시보드를 생성하여, 수작업 없이 팀에 시기적절하고 실행 가능한 인사이트를 제공할 수 있습니다.

개인화 추천

AI 에이전트는 사용자 행동과 선호도를 분석하여 맞춤 추천을 제공할 수 있습니다. 이는 전자상거래, 엔터테인먼트 및 기타 산업에서 개별 사용자에게 맞춤화된 제품이나 콘텐츠를 추천하는 데 흔히 사용됩니다. 예를 들어 AI 에이전트는 검색 기록을 기반으로 제품을 추천하거나 스트리밍 서비스에서 과거 시청 패턴을 기반으로 콘텐츠를 추천할 수 있습니다.

운영 작업 자동화

AI 에이전트는 예약, 재고 관리, 주문 처리와 같은 일상적인 운영 작업을 대신 처리할 수 있습니다. 이를 통해 인적 오류의 가능성을 줄이고 운영 효율성을 높입니다. 예를 들어 제조 분야에서 AI 에이전트는 재고 업데이트를 자동화하고 재고 수준이 낮아지면 재주문 조치를 트리거할 수 있습니다.

사기 탐지 및 예방

AI 에이전트는 거래와 활동을 실시간으로 모니터링하여 사기를 감지하고 예방할 수 있습니다. 패턴을 분석하고 이상을 식별함으로써 기업이 위험 완화를 위한 사전 조치를 취하도록 도울 수 있습니다. 예를 들어 금융 기관은 AI 에이전트를 배포하여 의심스러운 거래를 식별하고 피해가 발생하기 전에 추가 조사를 위해 플래그를 지정할 수 있습니다. 

이 사례들은 AI 에이전트가 다양한 비즈니스 프로세스에 통합되어 자동화를 주도하고 의사 결정을 향상시키며 생산성을 높여, 모든 조직에 매우 귀중한 자산이 될 수 있음을 보여줍니다.

AI 에이전트 빌드

효과적인 AI 에이전트를 만들려면 안정적으로 성능을 발휘하고 비즈니스 목표에 부합하도록 체계적인 접근 방식이 필요합니다. 프로세스를 핵심 단계로 나누어 조직은 정확하고 확장 가능하며 잘 관리되는 에이전트를 설계, 배포, 관리할 수 있습니다. 아래에서는 AI 에이전트 구축의 핵심 구성 요소를 살펴봅니다.

1. 데이터 준비

AI 에이전트 구축의 첫 번째 단계는 데이터를 잘 정리하고 액세스할 수 있도록 보장하는 것입니다. 에이전트는 정보에 입각한 결정을 내리기 위해 고품질의 관련성 높은 데이터에 의존합니다. 데이터 준비에는 쉽게 액세스할 수 있도록 데이터를 정리, 처리, 인덱싱하는 작업이 포함됩니다. 벡터 데이터베이스와 같은 도구를 통합하면 에이전트가 효과적으로 상호 작용하고 학습할 수 있는 형식으로 데이터를 저장하고 검색할 수 있습니다. 

또한 에이전트를 맞춤 설정하여 특정 엔터프라이즈 데이터와 함께 작동하도록 할 수 있습니다. 데이터를 복제하는 대신 AI 에이전트는 프로덕션 데이터에서 직접 벡터 인덱스와 ML 기능을 생성하여 실시간 인사이트를 제공하고, 데이터를 에이전트의 의사 결정 과정에 원활하게 통합할 수 있습니다.

2. 에이전트 빌드

AI 에이전트 시스템의 핵심에는 입력을 처리하고 사전 정의된 목표에 따라 작업을 수행하는 의사 결정 엔진인 중앙 에이전트가 있습니다. 일반적으로 이는 자연어 프롬프트를 이해하고 응답할 수 있는 사전 훈련된 대규모 언어 모델입니다. 하지만 페르소나와 전문성을 정의하여 특정 작업을 처리하도록 에이전트를 맞춤 설정할 수 있습니다. 

에이전트가 설정되면 에이전트가 시간의 흐름에 따라 컨텍스트 정보를 유지할 수 있도록 메모리가 추가됩니다. 이 메모리는 진행 중인 작업을 위한 단기 메모리(작업 기억)이거나 과거 상호작용을 저장하여 에이전트가 이전 결정을 회상하고 경험을 통해 학습할 수 있도록 하는 장기 메모리(에피소드 기억)일 수 있습니다. 단기 및 장기 메모리의 조합을 통해 에이전트는 사용자와 계속 상호 작용하면서 더 관련성 높은 개인화된 응답을 제공할 수 있습니다.

계획은 에이전트를 구축하는 또 다른 필수 구성 요소입니다. 이 기능을 통해 에이전트는 복잡한 작업을 관리 가능한 단계로 나누고, 사고의 연쇄 또는 계층적 의사 결정과 같은 추론 기법을 적용하여 최적의 행동 방침을 결정할 수 있습니다. 계획 기능은 에이전트가 다각적인 문제를 효과적으로 해결하고 필요에 따라 접근 방식을 조정할 수 있도록 합니다.

마지막으로 도구를 사용하면 에이전트가 API 호출, 코드 실행, 정보 검색과 같은 특정 작업을 수행할 수 있습니다. 이러한 도구는 에이전트의 역량을 확장하여 에이전트가 자율적으로 작동하면서 외부 시스템과 상호 작용하여 목표를 완료하는 데 필요한 데이터를 수집하거나 작업을 수행할 수 있도록 합니다. 

Databricks Notebooks 또는 LangChain과 같은 도구를 사용하여 이러한 도구를 원활하게 설계, 테스트 및 배포할 수 있습니다. 

• Databricks Notebooks에서 개발자는 도구를 사용자 지정 함수로 정의하고 Unity Catalog에 등록하며, 워크플로에 통합하여 엔터프라이즈 데이터를 직접 활용할 수 있습니다. 
• LangChain을 사용하면 도구를 함께 연결하여 복잡한 query를 처리하거나 외부 시스템과 상호 작용하는 동적 작업 파이프라인을 구축할 수 있습니다.

3. 에이전트 배포

에이전트가 구축되면 다음 단계는 배포입니다. 이 단계에서 에이전트는 목표를 달성하기 위해 사용자, 시스템, 데이터와 상호작용하며 실제 태스크를 수행합니다. 배포 프로세스에서는 에이전트가 안전하고 효율적으로 작동하도록 적절한 액세스 제어와 보호 장치를 마련해야 합니다. 

에이전트는 엔터프라이즈 시스템과 상호작용하면서 새로운 입력과 진행 중인 작업을 기반으로 지속적으로 행동을 조정할 수 있습니다. 에이전트는 ReAct 및 Reflexion과 같은 계획 및 피드백 메커니즘을 사용하여 반복적인 학습을 기반으로 의사 결정을 개선하고 시간의 흐름에 따라 성능을 향상시킬 수 있습니다.

4. 에이전트 평가

효과적인 평가는 AI 에이전트가 고품질 결과를 제공하도록 보장하는 핵심 요소입니다. 에이전트 성능 평가는 출력 품질을 측정하고 에이전트가 목표를 충족하는지 확인하는 과정을 포함합니다. 평가 도구는 벤치마크를 기준으로 에이전트의 성능을 추적 및 평가하여 개선이 필요한 영역을 정확히 찾아내는 데 도움이 됩니다. 

맞춤 평가를 사용하면 AI 지원 평가자와 사람의 피드백으로 응답 등급을 매겨 에이전트의 기능을 미세 조정할 수 있습니다. 품질 문제가 감지되면 근본 원인을 신속하게 추적하고 가능한 해결 방법을 평가한 후 에이전트를 다시 배포하여 실시간으로 지속적인 개선을 보장할 수 있습니다.

5. 에이전트 관리

AI 에이전트에서 거버넌스는 보안, 규정 준수 및 윤리적 운영을 보장하는 데 매우 중요합니다. 이는 데이터, 모델, 도구에 걸쳐 적용되며, 액세스 제어를 시행하고, 비용을 관리하며, 유해한 콘텐츠를 방지하고, 데이터 계보를 추적합니다. 강력한 거버넌스는 위험을 완화하고 투명성을 유지하며 에이전트가 책임감 있게 운영되도록 보장합니다. 

예를 들어, 민감한 사용자 쿼리를 처리하고 주문 추적이나 결제 처리와 같은 작업을 위해 외부 API에 액세스하는 고객 서비스 에이전트를 생각해 보세요. AI Gateway와 같은 Databricks 거버넌스 도구를 사용하면 페이로드를 감사할 수 있습니다. 이는 모든 요청과 응답을 상세한 추론 기록과 함께 Logs하여 완전한 감사 추적을 생성합니다. 예를 들어, 고객이 응답에 이의를 제기하는 경우 에이전트의 출력으로 이어진 정확한 데이터와 의사 결정 경로를 추적할 수 있습니다.

데이터 준비, 에이전트 구축, 배포, 성능 평가, 운영 거버넌스라는 이 수명 주기를 따르면 자율적인 의사 결정과 지속적인 개선을 이끌어내는 강력한 AI 에이전트 시스템을 만들 수 있으며, 동시에 통제, 투명성, 윤리적 기준을 유지하는 데 인간의 감독이 필수적인 요소로 유지되도록 보장할 수 있습니다.

엔터프라이즈 AI 에이전트를 위한 사전 빌드된 경로

기존에는 프로덕션에 즉시 사용 가능한 AI 에이전트를 구축하려면 데이터 파이프라인, 검색 시스템, 오케스트레이션 로직, 평가 프레임워크, 거버넌스 등 많은 분리된 구성 요소를 조립해야 했으며, 이들 각각은 별도로 구축되고 유지 관리되었습니다. 

Agent Bricks는 일반적인 패턴을 위해 사전 구축된 엔터프라이즈급 청사진을 제공하여 에이전트 시스템 수명 주기의 1~5단계를 간소화합니다. 이러한 관리형 워크플로는 데이터 수집, 지식 통합, 배포, 평가 및 거버넌스를 단일한 엔드투엔드 환경으로 통합합니다. 

예시는 다음과 같습니다: 

• 정보 추출 에이전트: PDF 및 정형화된 양식 파싱에 맞게 튜닝되었습니다
• 지식 어시스턴트: 기본 내장 메모리 및 피드백 루프를 갖춘 사전 구성된 RAG 시스템
• 감독 에이전트: 복잡한 다단계 워크플로 전반에 걸쳐 작업 라우팅, 실행, 평가를 처리하며 여러 에이전트를 오케스트레이션하고 관리합니다.

표준 엔터프라이즈 사용 사례를 구축하는 팀을 위해 Agent Bricks는 처음부터 start 필요를 없애주어 모델 전반의 정확성, 거버넌스 및 유연성을 유지하면서 가치 실현 시간을 단축합니다.

결론 및 일반 가이드라인

AI 에이전트는 기업이 자동화, 적응, 혁신하는 방식을 재편하고 있습니다. 생성형 AI, 고전적 Machine Learning, 특수 도구를 결합하여 이러한 시스템은 더 스마트하고 확장성이 뛰어난 솔루션을 구현합니다. 잠재력을 극대화하려면 다음 세 가지 주요 원칙에 집중하세요: 

1. 데이터를 기반으로 추론하는 에이전트: 에이전트를 엔터프라이즈 데이터에 직접 연결하여 정확하고 컨텍스트를 인식하는 의사 결정을 내립니다. 데이터 중복을 방지하고 도구를 활용하여 인사이트와 특성을 효율적으로 생성하세요. 
2. 사용 사례에 맞는 맞춤형 평가: human-in-the-loop 피드백을 포함한 맞춤형 평가 방법으로 에이전트 성능을 정기적으로 평가합니다. 특정 비즈니스 목표에 부합하고 품질을 보장하도록 에이전트를 지속적으로 개선합니다. 
3. 데이터, 모델, 도구 전반의 거버넌스: 모든 수준에서 거버넌스를 구현하여 투명성과 보안을 유지합니다. 액세스 제어를 시행하고, 리니지를 추적하며, 규정 준수를 모니터링하여 신뢰할 수 있고 윤리적인 운영을 보장합니다. 

이 가이드라인을 준수함으로써 기업은 AI 에이전트의 모든 역량을 활용하여 복잡한 문제를 해결하고 의미 있는 결과를 이끌어낼 수 있습니다.

AI 에이전트 구축을 시작하려면 다음 단계는 무엇인가요?

AI 에이전트를 구축할 start 준비가 되셨나요? 모듈식이고 안정적이며 엔터프라이즈급 AI 애플리케이션을 설계하기 위한 단계별 지침, 실용적인 팁, 고급 전략을 알아보려면 다음 리소스를 살펴보세요. 

Agent Bricks로 문서를 구조화된 인사이트로 전환 

Databricks의 Agent Bricks + MCP 통합 

신뢰할 수 있는 AI 에이전트 구축: 자신감을 갖고 선택, 관리, 확장하는 새로운 기능 | Databricks 블로그

고품질 AI 에이전트 빌드 — 방법 알아보기

자율적이고 적응력이 뛰어나며 비즈니스 요구에 맞춰진 AI 에이전트를 설계하고 배포하는 방법을 알아보세요. 고객 지원 자동화부터 고급 분석에 이르기까지, 데이터, 모델, 도구를 거버넌스가 적용된 확장 가능한 프레임워크로 통합하는 방법을 알아보세요. 전 세계 조직이 운영을 간소화하고 혁신을 주도하기 위해 Databricks Agent Bricks를 신뢰하는 이유를 확인해 보세요. Databricks 무료로 체험하기

Databricks 소개

Databricks는 데이터 및 AI 기업입니다. adidas, AT&T, Bayer, Block, Mastercard, Rivian, Unilever 및 Fortune 500대 기업의 60% 이상을 포함한 전 세계 20,000개 이상의 조직이 Databricks를 사용하여 데이터 및 AI 앱, 분석 및 에이전트를 구축하고 확장합니다. 샌프란시스코에 본사를 두고 전 세계에 30개 이상의 지사를 둔 Databricks는 Agent Bricks, Lakeflow, Lakehouse, Lakebase, Unity Catalog를 포함하는 통합 데이터 인텔리전스 플랫폼을 제공합니다. 자세한 내용을 알아보려면 LinkedIn, X, YouTube 및 Instagram에서 Databricks를 팔로우하세요.