Lakehouse에서 디지털 마인드로: Databricks 기반의 다중 에이전트 AI 생태계 구축하기

오늘날의 기업에서는 데이터를 활성화하기 위해 방대하고 통합된 데이터 레이크하우스 를 갖추는 것이 매우 중요합니다. 레이크하우스를 통해 조직은 수동적인 리포지토리를 요구를 예측하고, 전문 지식을 자동화하며, 더 나은 정보에 기반한 의사 결정을 유도하는 역동적이고 지능적인 엔진으로 전환할 수 있습니다. Edmunds에서는 이러한 우선순위에 따라 Databricks 데이터 인텔리전스 플랫폼에 직접 정교한 다중 에이전트 AI 생태계를 구축하기 위한 이니셔티브인 Edmunds Mind를 시작하게 되었습니다.

이러한 아키텍처의 진화는 자동차 산업의 중대한 전환점에 의해 촉진되었습니다. 세 가지 주요 트렌드가 하나로 모였습니다.

• 강력한 추론 엔진으로서의 대규모 언어 모델(LLM)의 부상
• 안전한 기반으로서 Databricks와 같은 플랫폼의 확장성 및 거버넌스
• 자동화를 오케스트레이션하기 위한 견고한 에이전트 프레임워크의 등장. 이러한 요인들 덕분에 불과 몇 년 전만 해도 상상할 수 없었던 시스템이 가능해졌습니다.

이러한 전환은 단순히 또 다른 AI 도구를 추가하는 것이 아니라, 우리 조직을 AI 네이티브 조직으로 운영하기 위해 근본적으로 재설계하는 것입니다. 이 지능형 코어의 기반이 되는 원칙, 구성 요소, 전략은 아래의 아키텍처 청사진에 자세히 설명되어 있습니다.

Databricks는 GPT-4o, Claude, Llama와 같은 여러 모델을 실행하고, 필요에 따라 공급업체를 전환하면서 비용을 통제할 수 있는 안전하고 관리되는 기반을 제공합니다. 이러한 유연성 덕분에 리뷰 검토를 자동화하고 콘텐츠 품질을 더 빠르게 개선할 수 있어 자동차 구매자들이 신뢰할 수 있는 인사이트를 더 빨리 얻게 됩니다.”—그레고리 로키타, Edmunds 기술 부사장

풍부한 데이터에서 인사이트 기반으로 전환

데이터가 풍부한 회사에서 인사이트 중심의 조직으로 발전하는 것이 저희의 비전입니다. 저희는 AI를 활용하여 업계에서 가장 신뢰할 수 있고 개인화되었으며 예측 가능한 자동차 쇼핑 경험을 구축합니다.

이는 네 가지 핵심 전략 기둥을 통해 실현됩니다.

• 대규모 데이터 활성화: 정적 대시보드에서 데이터와의 동적이고 대화적인 상호작용으로 전환합니다.
• 전문성 자동화: 도메인 전문가의 귀중한 로직을 코드화하여 재사용 가능한 자율 에이전트로 만듭니다.
• 제품 혁신 가속화: 팀에 차세대 기능을 구축할 수 있는 지능형 에이전트 툴킷을 제공합니다.
• 내부 운영 최적화: 복잡한 내부 워크플로를 자동화하여 상당한 효율성 향상을 이끌어냅니다.

이 비전의 핵심에는 우리의 가장 중요한 경쟁 우위인 Edmunds Data Moat가 있습니다. 이 강력한 자동차 데이터 기반은 업계를 선도하는 중고차 인벤토리, 가장 포괄적인 전문가 리뷰, 동급 최고의 가격 인텔리전스가 주도하며, 방대한 소비자 리뷰와 신차 리스팅으로 보완됩니다. 이 전체 생태계는 Databricks 환경 내에서 통합 및 관리되어, 단일하고 강력한 자산을 형성합니다. Edmunds Mind는 그 잠재력을 최대한 발휘하기 위해 우리가 구축한 엔진입니다.

디지털 에이전트 프레임워크 살펴보기

Edmunds Mind의 아키텍처는 복잡성, 학습, 확장을 위해 설계된 계층적 인지 시스템으로, Databricks 플랫폼이 그 기반이 됩니다.

에이전트 계층 구조: 디지털 전문가 조직

저희는 작업이 분해되고 위임되는 계층적 구조를 사용하여 효율적인 조직을 모방하도록 시스템을 설계했습니다. 이는 Databricks Agent Bricks와 같은 최신 프레임워크의 오케스트레이터 패턴과 완벽하게 일치합니다.

• 슈퍼바이저 에이전트: 전략적 리더입니다. 이들은 장기 계획을 수행하고, 종속성을 관리하며, 복잡한 다단계 작업을 오케스트레이션합니다.
• 매니저 에이전트: 팀 리더입니다. 이들은 구체적이고 명확하게 정의된 목표를 달성하기 위해 전문 에이전트 팀을 조정합니다.
• 작업자 및 전문 에이전트: 이들은 전문적인 지식을 제공하는 개별 기여자입니다. 이들은 시스템의 핵심 동력으로, Knowledge Assistant, DataDave, 다양한 Genies 등 점점 늘어나는 전문가들을 포함합니다.

에이전트 간 통신은 표준화된 프로토콜에 의해 제어되어 작업 위임과 데이터 핸드오프가 구조화되고, 유형화되며, 감사 가능하도록 보장합니다. 이는 대규모 환경에서 안정성을 유지하는 데 매우 중요합니다.

이 계층 구조는 정상적인 장애 처리를 위해서도 설계되었습니다. 관리자 에이전트가 전문가 팀이 작업을 해결할 수 없다고 판단하면, 일화 기억(에피소드 메모리)에 저장된 실패한 시도를 포함하여 전체 작업 컨텍스트를 슈퍼바이저에게 에스컬레이션합니다. 그러면 슈퍼바이저는 다른 전략으로 다시 계획하거나, 중요하게는 새로운 기능을 개발하기 위해 사람의 개입이 필요한 새로운 문제로 플래그를 지정할 수 있습니다. 이를 통해 시스템이 견고해지고 역량의 한계를 파악하는 데 도움이 되는 학습 도구가 됩니다.

심층 분석 1: 자동화된 데이터 보강 워크플로

과거에는 차량 상세 페이지의 색상이 잘못된 것과 같은 차량 데이터의 부정확성을 해결하는 것이 여러 팀 간의 수동 조정이 필요한 노동 집약적인 프로세스였습니다. 오늘날 Edmunds Mind AI 생태계는 이러한 문제를 거의 실시간으로 자동화하고 해결합니다. 이러한 운영 효율성은 다양한 AI 에이전트 기능을 수요에 따라 자동 확장되는 단일하고 응집력 있는 환경으로 통합하는 중앙 집중식 Model Serving을 통해 달성됩니다. 이 아키텍처는 팀을 운영 오버헤드에서 해방시켜 사용자에게 신속하게 가치를 제공하는 데 집중할 수 있도록 합니다.

해결 프로세스는 관리형 다중 에이전트 워크플로우를 통해 실행됩니다. 사용자 또는 자동화된 모니터가 잠재적인 데이터 불일치를 표시하면 Supervisor Agent가 즉시 이벤트를 분류합니다. 이는 문제를 평가하고 적절한 전문팀에 라우팅하며, 강력한 데이터 거버넌스를 위해 Unity Catalog 를 통해 작업 권한을 검증합니다. 그러면 전담 Manager Agent가 VIN 디코딩 및 이미지 검색부터 AI 기반 색상 분석 및 최종 데이터베이스 업데이트까지의 작업을 수행하도록 일련의 전문 Worker Agent를 조율합니다. 데이터 스튜어드는 중요한 검토에 있어 여전히 필수적이며, 수동 개입보다는 가치가 높은 승인 단계에 집중하게 됩니다. 모든 상호 작용과 결정은 체계적으로 기록되어 지속적인 학습과 향후 프로세스 최적화를 위한 포괄적인 기반을 구축합니다.

이 예시는 전체 생태계가 실제 데이터 품질 및 강화 작업을 엔드투엔드 방식으로 처리하는 방법을 보여줍니다.

• 이벤트 트리거: 사용자 불만 또는 자동화된 모니터가 차량 상세 정보 페이지에서 잠재적인 데이터 품질 문제(예: 잘못된 차량 색상)를 감지합니다.
• 분류 및 오케스트레이션: Supervisor Agent가 이벤트를 수집하고 추적 가능한 작업을 생성하며, 사전 정의된 비즈니스 규칙에 따라 우선순위를 평가합니다.
• 관리자에게 위임: Supervisor는 Unity Catalog의 차량 데이터에 액세스하고 수정할 권한을 확인한 후 Vehicle Data Manager Agent에게 작업을 위임합니다.
• 조정된 작업 실행: Manager Agent는 VIN Decoding Agent, 미디어 라이브러리에서 사진을 가져오는 Image Retrieval Agent, 이미지에서 올바른 색상을 결정하는 AI-Powered Color Analysis Agent, 차량 빌드 데이터베이스를 업데이트하는 Data Correction Agent와 같은 전문 Worker Agent 시퀀스를 조율하여 문제를 해결합니다.
• Human-in-the-Loop 검토: 변경사항이 적용되기 전에 Manager Agent가 자동화된 변경사항을 표시하고 최종 검증을 위해 Slack 통합을 통해 담당 데이터 스튜어d에게 알립니다.
• 학습 및 마무리: 스튜어드가 작업을 승인하면 슈퍼바이저가 해당 작업을 완료로 표시합니다. 최종적인 사람의 승인을 포함한 전체 상호작용은 향후 학습 및 감사를 위해 장기 기억(Long-Term Memory)에 추적되고 기록됩니다.

심층 분석 2: 지식 어시스턴트: 실시간 답변, 신뢰할 수 있는 브랜드 보이스

이전에는 고객이 답을 얻기 위해 여러 Edmunds 대시보드를 탐색하거나 Edmunds 지원팀에 문의했지만, 이제 지식 어시스턴트(Knowledge Assistant)가 Edmunds의 모든 데이터를 활용하여 즉각적인 대화형 답변을 제공합니다. 이 RAG 에이전트 는 Edmunds 브랜드 보이스에 맞게 조정되었으며, 전문가 및 소비자 리뷰, 차량 사양, 미디어, 실시간 가격 책정의 통찰력을 종합합니다. 그 결과, 고객은 더 빠르고 만족스러운 상호작용을 경험하고 지원 직원은 기본적인 요청을 처리하는 데 드는 시간을 줄일 수 있습니다.

주요 기능은 다음과 같습니다.

• 브랜드 보이스 의인화: 에이전트는 수십 년 동안 Edmunds 고객에게 익숙한 활기차고 유용하며 신뢰할 수 있는 목소리로 소통하도록 세심하게 조정되었습니다.
• 실시간 데이터 종합: 어시스턴트는 단일 쿼리로 전문가 및 소비자 리뷰, 차량 사양, 텍스트로 변환된 동영상 콘텐츠, 최신 가격 및 인센티브 등 서로 다른 실시간 데이터 소스에서 정보를 검색, 종합하여 제공할 수 있습니다.
• 고급 RAG 기능: 저희는 Databricks와 적극적으로 협력하며 Vector Search를 사용하여 RAG 구현의 한계를 넘어서고 있습니다. 저희는 가장 관련성 높고 시기적절한 정보가 항상 먼저 표시되도록 콘텐츠 최신성 우선순위 지정을 강화하고 정교한 메타데이터 필터링에 중점을 둡니다.

심층 분석 3: DataDave의 "생성 및 비평" 워크플로

DataDave는 이제 이전에는 시간이 많이 소요되는 수작업에 의존했던 복잡한 분석을 처리합니다. 이 에이전트는 가장 까다로운 쿼리에 대해 95%의 정확도를 제공하기 위해 엄격한 워크플로를 조율하며, 각 단계는 전문 에이전트의 평가를 받습니다. DataDave는 웹사이트 트래픽과 인구 통계 데이터를 종합하여 Edmunds 영업팀을 위해 서비스가 부족한 딜러십을 표시하는 등 기회를 선제적으로 파악할 수 있습니다. 이를 통해 Edmunds의 리더십은 '무슨 일이 있었는지' 보고하는 수준에서 '다음에 무엇을 해야 할지' 결정하는 단계로 자신 있게 나아갈 수 있습니다.

내부 워크플로는 분류, 계획, 코드 생성, 실행, 종합의 5단계 프로세스로 구성되며, 전담 비평 에이전트가 각 단계의 출력을 검증합니다. 단순히 내부 지표를 분석하는 것을 넘어, DataDave의 진정한 힘은 독점 데이터를 일반화된 세상 지식과 종합하여 전략적 권장 사항을 생성하는 능력에 있습니다. 예를 들어, DataDave는 Edmunds의 웹사이트 트래픽 데이터와 지리 및 인구 통계 데이터를 연관시켜 서비스가 부족한 지역의 딜러십을 식별하고 영업팀에 "쉽게 달성할 수 있는 목표"로 선제적으로 추천할 수 있습니다.

심층 분석 4: 가격 책정 전문화

Edmunds는 '가격은 단순한 숫자가 아니라 신뢰를 얻기 위해 맥락과 정당성이 필요한 결론'이라는 핵심 원칙에 따라 운영됩니다. 미국 시장에서 가장 정확한 가격 책정에 대한 우리의 명성을 활용하여, 우리의 에이전트 아키텍처는 이러한 신뢰를 대규모로 제공하도록 설계되었습니다.

모놀리식 '가격 책정 전문가'를 협력하는 전문가 팀으로 발전시킨 우리의 경험은 이 원칙을 잘 보여줍니다. Manager Agent가 총괄하고 True Market Value Agent, Depreciation Agent, Deal Rating Agent와 같은 전문가가 포함된 이 팀은 단순한 표시 가격 그 이상을 만들어냅니다. 최종 결과물은 차량 가격이 특정 방식으로 책정된 이유를 설명하는 포괄적이고 맥락에 맞는 가격 책정 스토리입니다.

이를 통해 가격 분석가의 역할이 수동 데이터 집계에서 전략적 감독 및 지침 제공으로 전환됩니다. Databricks Agent Bricks를 활용하여, 우리의 가격 통계 전문가는 제한된 코딩으로 이러한 계층적 에이전트 팀을 구성하여 생산성을 크게 높이고 유지 관리 오버헤드를 낮출 수 있습니다. 이를 통해 이들은 진정으로 중요한 것, 즉 숫자 뒤에 있는 "이유"에 집중할 수 있습니다.

인지 코어: 지능을 복합적으로 구성하기 위한 아키텍처

진정으로 지능적인 AI 생태계를 향한 우리의 여정은 현실적인 과제에서 시작되었습니다. 비즈니스 분석을 위해 DataDave와 같은 전문 에이전트를 배포하는 동안, 우리는 이들이 운영 컨텍스트 내에 고립되어 있던 중요하고 시간에 민감한 비즈니스 진실을 발견하고 있다는 것을 알게 되었습니다. 예를 들어, 에이전트가 주요 마케팅 채널에서 이례적인 하락 추세를 감지할 수 있지만, 조직적인 대응을 촉발하기 위해서는 이 중요한 통찰력이 다른 개체(에이전트 및 사람 모두)에게 효과적으로 전달되어야 합니다. 이는 근본적인 필요성을 부각시켰습니다. 바로 새로 나타난 학습 내용을 포착하여 전체 에이전트 시스템에 입력으로 사용할 수 있도록 하는 공유 메모리 시스템입니다. 우리는 이 지식이 축적, 성장 및 활용되어 전체 생태계를 점진적으로 더 똑똑하게 만들 수 있는 인지 계층을 구상했습니다. 결과적으로 우리의 최신 아이디어와 설계는 다음과 같습니다.

• 에피소드 기억('무슨 일이 있었는가'): 모든 에이전트의 행동과 관찰에 대한 상세한 로그로, 시스템의 그라운드 트루스(ground truth) 역할을 합니다.
• 의미 기억('학습된 내용'): 에피소드 이벤트에서 종합된 일반화된 통찰력과 성공적인 전략을 포함하는 벡터 색인입니다. 이것이 바로 실행 가능한 지식의 라이브러리가 될 것입니다.
• 자동화된 메모리 통합: 백그라운드 "Reflector" 에이전트는 주기적으로 에피소드 메모리를 검토하여 핵심 학습 내용을 식별하고 시맨틱 메모리로 통합합니다.
• 계층적 메모리 액세스: 상위 수준 에이전트는 하위 에이전트의 메모리에 액세스할 수 있어, Manager Agent가 팀 성과를 분석하고 향후 전략을 최적화할 수 있습니다. 이 피드백 루프는 우리 시스템의 안티프래질리티(antifragility)의 핵심입니다. 계층 구조에 의해 보고되는 모든 새로운 장애는 단순히 해결해야 할 문제를 넘어, 전체 생태계를 훈련시켜 점진적으로 더 지능적이고 탄력적으로 만드는 신호가 됩니다.

구현: mem0 + Databricks

저희의 구현은 mem0 인터페이스와 완벽하게 호환되는 Delta Sync Index를 사용하는 Databricks Vector Search 로 구동될 것입니다. mem0 이 벡터 데이터베이스와 상호작용한다는 점을 고려하여, 저희는 일화 기억(episodic memories)과 의미 기억(semantic memories)을 모두 하나의 강력한 백엔드에 저장하는 혁신을 이룰 것입니다. 요약되지 않은 원시 이벤트('무슨 일이 있었는지')와 종합된 학습 내용('무엇을 학습했는지')은 동일한 소스 Delta 테이블 내에서 서로 다른 벡터 유형으로 공존하며, 이후 Vector Search 인덱스를 원활하고 자동으로 채웁니다.

이 통합 아키텍처는 효율적인 워크플로를 만듭니다. Reflector 에이전트는 인덱스를 쿼리하여 최신 에피소드 항목을 찾고, 종합을 수행하며, 새롭게 일반화된 시맨틱 벡터를 소스 Delta 테이블에 다시 쓸 수 있습니다. 그러면 Delta Sync Index가 이 새로운 학습 내용을 자동으로 수집하여 쿼리에 사용할 수 있게 합니다. 소스 Delta 테이블을 단일 진입점으로 활용함으로써 데이터 파이프라인의 복잡성을 제거하고, 진정으로 지능적인 에이전트 시스템에 필요한 확장 가능하고 서버리스이며 지연 시간이 짧은 기반을 확보합니다.

Edmunds Pulse를 사용한 워크플로 예시

1. 로그: 'DataDave' 에이전트가 판매 이상을 감지하고 mem0 API를 통해 Episodic Memory에 이벤트를 기록합니다. 이 작업은 소스 Delta 테이블에 새로운 벡터 항목을 작성합니다.
2. 종합: Reflector 에이전트는 이 이벤트를 처리하고 일반화된 인사이트(예: "주말에는 제품 X의 매출이 감소합니다")를 생성하며 이를 벡터 임베딩으로 변환합니다.
3. 인덱스: 새로운 인사이트는 소스 Delta table에 다시 기록되지만 종합된 학습으로 플래그가 지정됩니다. Databricks Vector Search는 이 새로운 항목을 자동으로 동기화하여 시맨틱 메모리로 인덱싱합니다.
4. 전달: 마지막으로, 높은 우선순위의 인텔리전스를 위해 시맨틱 메모리를 지속적으로 모니터링하는 전용 Edmunds Pulse 에이전트가 이 종합된 결과를 담당자에게 선제적으로 전달합니다. 더 주변 환경을 잘 인지하고 인식하는 AI 어시스턴트 제공을 목표로 하는 ChatGPT Pulse 릴리스와 유사하게, 우리의 Edmunds Pulse는 비즈니스의 실시간 '맥박' 역할을 하여 중요한 통찰력이 단순히 저장되는 것이 아니라 시의적절하고 지능적인 조치를 취하도록 적극적으로 전달되도록 보장할 것입니다.

데이터 및 지식 레이어: 관리되는 진실의 기반

AI 에이전트는 데이터의 품질에 의존합니다. Edmunds 데이터 레이어는 일관성, 거버넌스, 유연성을 위해 특별히 구축되었으며, Unity Catalog는 모든 정보의 정확성과 체계적인 관리를 보장하는 초석 역할을 합니다.

심층 분석 5: GraphQL 데이터 액세스 및 상호작용 패턴

Edmunds MCP(Model Context Protocol) 프레임워크는 AI 에이전트를 차량 사양, 리뷰, 인벤토리, 그리고 New Relic과 같은 시스템의 운영 지표 등 모든 핵심 데이터 소스의 실시간 컨텍스트에 안전하게 연결합니다. 이는 기본 복잡성을 추상화하고 강력한 형식의 자체 문서화 스키마를 제공하는 통합 GraphQL API 게이트웨이를 통해 달성됩니다.

에이전트나 엔지니어가 단편화된 데이터, 일치하지 않는 스키마 또는 느린 문제 해결로 어려움을 겪는 대신, 이제 시스템은 각기 다른 사용 사례에 맞춰 조정된 세 가지 기본 상호 작용 패턴을 지원합니다.

• 동적 스키마 인트로스펙션: 에이전트는 GraphQL 스키마 자체를 인트로스펙션하여 새롭거나 익숙하지 않은 쿼리를 동적으로 탐색할 수 있습니다. 고객이 '최근 안전 리콜이 자동차 가치에 영향을 미칩니까?'와 같이 특정한 질문을 하면 에이전트는 실시간으로 새로운 데이터 유형을 발견하고 관련 답변을 가져오기 위해 정확한 쿼리를 작성할 수 있습니다. 이러한 유연성 덕분에 조직은 수동 API 변경 없이 새로운 비즈니스 요구사항에 신속하게 적응할 수 있습니다.
• 세분화된 매핑 도구: 각 에이전트 도구는 일상적인 작업을 위해 특정 GraphQL 쿼리 또는 뮤테이션에 직접 매핑됩니다. 예를 들어, 차량 색상을 업데이트하려면 VIN과 새 색상을 추출하기만 하면 되며, 에이전트가 뮤테이션을 처리합니다. 이 접근 방식은 신뢰성을 높이고 수작업 개입을 줄여 일상적인 팀 작업을 간소화합니다.
• 영구 쿼리: 실시간 인벤토리 대시보드와 같이 트래픽이 많고 성능이 중요한 기능은 효율성을 극대화하기 위해 미리 등록된 쿼리를 활용합니다. 에이전트가 경량 해시와 변수를 보내면 시스템은 감소된 대역폭과 강화된 보안으로 즉시 결과를 반환합니다.

Edmunds는 단일의 강력한 API 계층을 통해 AI 에이전트에게 모든 비즈니스 데이터에 대한 구조화된 액세스 권한을 부여함으로써 제품 및 지원 기능 전반의 데이터 운영 속도, 유연성, 안정성을 획기적으로 개선했습니다. 이전에는 맞춤형 개발이나 여러 팀에 걸친 디버깅이 필요했던 작업이 이제 실시간으로 처리되어 고객과 내부 팀이 더 풍부한 인사이트와 더 민첩한 대응의 이점을 누릴 수 있게 되었습니다.

심층 분석 6: 시맨틱 및 지식 레이어

이 중요한 레이어는 원시 데이터와 에이전트의 이해를 잇는 다리 역할을 합니다. 이는 기본 데이터 저장소의 복잡성을 추상화합니다. 이는 비즈니스 컨텍스트로 데이터를 강화하여 에이전트가 일관되고 관리되며 이해하기 쉬운 Edmunds 세계관 뷰를 기반으로 작동하도록 보장합니다.

• Unity Catalog: 거버넌스의 중추: 데이터 생태계의 핵심인 Unity Catalog는 모든 데이터 및 AI 자산에 대한 중앙 집중식 거버넌스, 보안, 리니지를 제공합니다. 이를 통해 에이전트가 액세스하는 모든 데이터에 세분화된 액세스 제어가 적용되고 그 경로를 완전히 감사할 수 있으며, 이는 안전하고 규정을 준수하는 AI 플랫폼을 위한 필수적인 기반을 형성합니다.
• 제품 시맨틱 레이어: 실시간 비즈니스 컨텍스트: 이 레이어는 에이전트에게 핵심 제품 엔터티(예: 차량, 딜러, 리뷰)에 대한 실시간 객체 지향 뷰를 제공합니다. 중요한 점은 Edmunds 웹사이트를 구동하는 동일한 GraphQL 스키마에서 직접 소싱된다는 것입니다. 이를 통해 절대적인 일관성을 보장합니다. 에이전트가 "차량"에 대해 논의할 때, 소비자가 웹사이트에서 보는 것과 동일한 데이터 모델 및 비즈니스 로직을 참조하므로 외부 제품과 내부 AI 간의 데이터 드리프트 위험이 제거됩니다.
• 분석 시맨틱 레이어: KPI에 대한 단일 진실 공급원: 이 레이어는 모든 비즈니스 성과 지표에 대한 일관되고 신뢰할 수 있는 뷰를 제공합니다. 이 데이터는 큐레이션된 Delta Metric Views에서 직접 제공되며, 이는 모든 경영 및 운영 대시보드에 데이터를 공급하는 소스와 동일합니다. 이러한 일치를 통해 DataDave 또는 다른 에이전트가 비즈니스 KPI(예: 세션 트래픽, 리드, 감정 평가율)를 보고할 때 기존 비즈니스 인텔리전스 도구와 동일한 정의 및 데이터 소스를 사용하게 되며, 이는 조직 전체에 단일 진실 공급원(single source of truth)을 보장합니다.
• Databricks Vector Search - RAG의 엔진: 이 구성 요소는 비정형 및 반정형 데이터를 위한 고성능 검색 엔진입니다. 방대한 리뷰, 기사, 텍스트로 변환된 콘텐츠 코퍼스를 벡터 임베딩으로 변환하여, Knowledge Assistant와 같은 에이전트가 검색 증강 생성(RAG) 패턴에서 초고속 시맨틱 검색을 수행하고 사용자 질문에 답하기 위한 가장 관련성 있는 컨텍스트를 검색할 수 있도록 합니다.

비용 센터에서 가치 엔진으로: AI ROI 측정

비전 있는 아키텍처는 실행이 뒷받침될 때 비로소 가치가 있습니다. 우리의 접근 방식은 단계별 로드맵과 AI 생태계를 핵심적인 가치 창출 엔진으로 취급하려는 깊은 헌신에 기반을 두고 있습니다. 우리는 관찰 가능성, 거버넌스, 윤리에 대한 기술 프레임워크를 주요 비즈니스 성과에 직접 연결함으로써 이를 달성합니다. 우리의 목표는 단순히 강력한 AI를 구축하는 것이 아니라, 수익에 미치는 영향을 정량화하는 것입니다.

비즈니스 속도 가속화 

저희는 ROI 방정식의 양쪽을 모두 측정하기 위한 전체적인 시스템을 구축했습니다. 수익 측면에서 저희 프레임워크는 AI 성능을 비즈니스 KPI에 직접 연결합니다. 예:

• 우리의 DataDave 에이전트 는 이전에는 Edmunds의 인간 분석가가 몇 시간을 들여야 완료할 수 있었던 복잡하고 실행 가능한 분석을 몇 분 안에 제공합니다. 이는 데이터 기반 의사 결정을 극적으로 가속화합니다.
• 당사의 가격 책정 에이전트는 문의에 즉시 응답하여 몇 시간의 수동 조사를 없애고 팀이 전략적이고 가치가 높은 업무에 집중할 수 있도록 해줍니다.

캠페인 전환율과 같은 지표에 미치는 정확한 영향을 아직 정량화하는 중이지만, 이 프레임워크는 이러한 상관관계를 도출하는 데 필요한 실시간 데이터를 제공합니다.

비용 최적화

우리는 AI Gateway를 통해 스마트한 경제적 거버넌스를 실천합니다. DataDave와 같이 중요도가 높은 에이전트는 정확성을 보장하기 위해 가장 강력한 모델로 라우팅되는 반면, 일상적인 작업은 더 비용 효율적인 모델에 자동으로 할당됩니다. 이러한 모델 계층화 전략을 통해 LLM 및 컴퓨팅 비용을 정밀하게 관리하여 투자된 모든 비용이 창출하는 비즈니스 가치에 부합하도록 보장할 수 있습니다.

“Databricks를 사용하면 올바른 작업에 적합한 모델을 대규모로 안전하게 실행할 수 있습니다. 이러한 유연성은 에이전트를 강화하고 더 스마트한 자동차 쇼핑 경험을 제공합니다.” — Greg Rokita, Edmunds 기술 부문 VP

조직 역량 강화: 모든 직원에게 권한 부여

이 비전을 실현하기 위해, Edmunds는 전사적으로 혁신 문화를 조성하고 있습니다. 우리는 완전 자율 작업부터 human-in-the-loop(인간 참여형) 검토, 완전한 협업적 문제 해결에 이르기까지 모든 범위의 인간-AI 상호작용을 지원하는 것을 목표로 합니다.

이를 지원하기 위해 엔지니어를 위한 강력한 Agent SDK 를 제공하고 Agent Bricks 플랫폼을 통해 "시민 개발자(Citizen Developer)" 운동을 장려합니다. 이 이니셔티브는 전사적으로 열린 "AI Agents @ Edmunds"기술 콘퍼런스로 시작되었으며, 활발히 운영되는 LLM Agents Guild를 통해 모든 직원이 AI 주도 미래에 기여하는 데 필요한 도구와 지원을 받을 수 있도록 합니다.

앞으로 나아갈 길: 선제적 인텔리전스에서 진정한 자율성으로

진정한 AI 네이티브 조직이 되기 위한 우리의 여정은 단거리 경주가 아니라 마라톤입니다. 'Edmunds Mind' 아키텍처는 그 여정을 위한 우리의 청사진 역할을 하며, 다음 진화 단계는 질문에 답할 뿐만 아니라 비즈니스 요구까지 예측하는 선제적 에이전트 를 개발하는 것입니다. 우리는 에이전트가 실시간 데이터 스트림에서 시장 기회를 식별하고 이해관계자가 묻기도 전에 전략적 인사이트를 제공하는 미래를 그리고 있습니다.

궁극적으로 우리의 로드맵은 에이전트가 새로운 도구를 제안하고, 비평 메커니즘을 개선하며, 심지어 아키텍처 개선을 제안하는 등 스스로 최적화할 수 있는 시스템으로 이어집니다. 이는 우리가 단순히 운영하는 시스템에서 진정한 인지적 파트너로의 전환을 의미하며, 우리의 역할도 운영자에서 새로운 지능형 인력의 감독자, 윤리학자, 전략가로 발전하게 됩니다.

Databricks의 도움으로 Edmunds가 어떻게 AI 기반 자동차 구매 경험을 구축하고 있는지 자세히 알아보세요.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)