레이크하우스에서 디지털 마인드로: Databricks Agent Bricks에서 멀티 에이전트 AI 생태계 설계하기

오늘날의 기업에서 방대하고 통합된 데이터 레이크하우스(data lakehouse)를 구축하는 것은 데이터를 활성화하는 데 매우 중요합니다. 레이크하우스를 통해 기업은 수동적인 저장소를 요구 사항을 예측하고 전문 지식을 자동화하며 더 현명한 의사 결정을 이끄는 동적이고 지능적인 엔진으로 전환할 수 있습니다. Edmunds에서는 이러한 우선순위에 따라 Databricks Data Intelligence Platform 위에 정교한 멀티 에이전트 AI 에코시스템을 직접 구축하기 위한 이니셔티브인 Edmunds Mind를 출시하게 되었습니다.

이러한 아키텍처의 진화는 자동차 산업의 중대한 전환점 덕분에 가능해졌습니다. 세 가지 주요 트렌드가 하나로 수렴되었습니다:

• 강력한 추론 엔진으로서 대규모 언어 모델(LLM)의 부상
• 안전한 기반으로서 Databricks와 같은 플랫폼의 확장성 및 거버넌스
• 자동화를 조율하는 강력한 에이전트 프레임워크의 등장. 이러한 요인들 덕분에 불과 몇 년 전만 해도 상상할 수 없었던 시스템을 구현할 수 있게 되었습니다

이러한 변화는 단순히 또 다른 AI 도구를 추가하는 것이 아니라, 조직이 AI 네이티브로 작동하도록 근본적으로 재설계하는 것입니다. 이 지능형 코어의 기반이 되는 원칙, 구성 요소 및 전략은 아래의 아키텍처 청사진에 자세히 설명되어 있습니다.

“Databricks는 비용을 관리하면서 GPT-4o, Claude, Llama와 같은 여러 모델을 실행하고 필요에 따라 제공업체를 전환할 수 있는 안전하고 거버넌스가 확보된 기반을 제공합니다. 이러한 유연성 덕분에 리뷰 중재를 자동화하고 콘텐츠 품질을 더 빠르게 개선하여 자동차 구매자가 신뢰할 수 있는 정보를 더 빨리 얻을 수 있습니다.”—Gregory Rokita, VP of Technology, Edmunds

데이터가 풍부한 기업에서 인사이트 중심 기업으로의 전환

우리의 비전은 데이터가 풍부한 회사에서 인사이트 중심의 조직으로 진화하는 것입니다. 우리는 AI를 활용하여 업계에서 가장 신뢰할 수 있고 개인화되며 예측 가능한 자동차 쇼핑 경험을 구축합니다.

이는 다음과 같은 네 가지 핵심 전략적 축을 통해 실현됩니다:

• 대규모 데이터 활성화: 정적 대시보드에서 데이터와의 동적이고 대화형 상호 작용으로 전환합니다.
• 전문 지식 자동화: 도메인 전문가의 귀중한 로직을 재사용 가능한 자율 에이전트로 코드화합니다.
• 제품 혁신 가속화: 팀에 차세대 기능을 구축할 수 있는 지능형 에이전트 툴킷을 제공합니다.
• 내부 운영 최적화: 복잡한 내부 워크플로우를 자동화하여 효율성을 크게 향상시킵니다.

이 비전의 중심에는 우리의 가장 중요한 경쟁 우위인 Edmunds Data Moat가 있습니다. 이 강력한 자동차 데이터 기반은 업계 최고의 중고차 인벤토리, 가장 포괄적인 전문가 리뷰, 동급 최고의 가격 인텔리전스를 중심으로 구축되었으며, 광범위한 소비자 리뷰와 신차 매물이 이를 보완합니다. 이 전체 에코시스템은 Databricks 환경 내에서 통합 및 관리되어 단일하고 강력한 자산을 생성합니다. Edmunds Mind는 이 자산의 잠재력을 최대한 활용하기 위해 우리가 구축한 엔진입니다.

디지털 에이전트 프레임워크 내부 살펴보기

Edmunds Mind의 아키텍처는 복잡성, 학습 및 확장을 위해 설계된 계층적 인지 시스템이며, Databricks 플랫폼이 그 기반 역할을 합니다.

에이전트 계층 구조: 디지털 전문가 조직

우리는 작업이 분해되고 위임되는 계층적 구조를 사용하여 효율적인 조직을 반영하도록 시스템을 설계했습니다. 이는 Databricks Agent Bricks와 같은 현대적 프레임워크의 오케스트레이터 패턴과 완벽하게 일치합니다.

• Supervisor 에이전트: 전략적 리더입니다. 장기 계획을 수립하고, 종속성을 관리하며, 복잡한 다단계 작업을 조율합니다.
• Manager 에이전트: 팀 리더입니다. 특정하고 명확하게 정의된 목표를 달성하기 위해 전문 에이전트 팀을 조정합니다.
• 작업자 및 전문 에이전트: 전문 지식을 제공하는 개별 기여자입니다. 이들은 시스템의 핵심 일꾼이며, Knowledge Assistant, DataDave 및 다양한 Genies와 같이 계속 늘어나는 전문가 목록을 포함합니다.

에이전트 간 통신은 표준화된 프로토콜에 의해 제어되므로 작업 위임 및 데이터 핸드오프가 구조화되고 유형화되며 감사 가능하므로, 대규모 환경에서 안정성을 유지하는 데 매우 중요합니다.

이 계층 구조는 단계적 장애 복구(graceful failure)를 지원하도록 설계되었습니다. 관리자 에이전트가 자신의 전문가 팀이 작업을 해결할 수 없다고 판단하면, 에피소드 메모리에 저장된 실패한 시도를 포함하여 전체 작업 컨텍스트를 감독자 에이전트에게 다시 에스컬레이션합니다. 그러면 감독자 에이전트는 다른 전략으로 계획을 재수립하거나, 결정적으로 이를 새로운 기능 개발을 위해 인간의 개입이 필요한 새로운 문제로 표시할 수 있습니다. 이를 통해 시스템은 견고해지며 역량의 한계를 식별하는 데 도움이 되는 학습 도구가 됩니다.

심층 분석 1: 자동화된 데이터 보강 워크플로우

과거에는 차량 상세 페이지의 잘못된 색상과 같은 차량 데이터 오류를 해결하는 작업이 여러 팀 간의 수동 조율이 필요한 노동 집약적인 프로세스였습니다. 오늘날 Edmunds Mind AI 에코시스템은 이러한 과제를 거의 실시간으로 자동화하고 해결합니다. 이러한 운영 효율성은 다양한 AI 에이전트 기능을 수요에 따라 자동 확장되는 단일 통합 환경으로 통합하는 중앙 집중식 Model Serving을 통해 달성됩니다. 이 아키텍처는 팀을 운영 오버헤드로부터 해방시켜 사용자에게 신속하게 가치를 제공하는 데 집중할 수 있도록 합니다.

해결 프로세스는 거버넌스가 확보된 멀티 에이전트 워크플로우를 통해 실행됩니다. 사용자 또는 자동화된 모니터가 잠재적인 데이터 불일치를 감지하면, 감독자 에이전트가 즉시 이벤트를 분류합니다. 문제를 평가하고 적절한 전문 팀으로 라우팅하며, 강력한 데이터 거버넌스를 위해 Unity Catalog를 통해 작업 권한을 검증합니다. 그런 다음 전담 관리자 에이전트가 VIN 디코딩 및 이미지 검색부터 AI 기반 색상 분석 및 최종 데이터베이스 업데이트에 이르는 작업을 수행하도록 일련의 전문 작업자 에이전트를 조율합니다. 데이터 관리자(data steward)는 중요한 검토를 위해 계속 참여하며, 수동 개입 대신 가치가 높은 승인 단계에 집중합니다. 모든 상호 작용과 결정은 체계적으로 기록되어 지속적인 학습과 향후 프로세스 최적화를 위한 포괄적인 기반을 구축합니다.

이 예시는 전체 에코시스템이 실제 데이터 품질 및 보강 작업을 처음부터 끝까지 어떻게 처리하는지 보여줍니다.

• 이벤트 트리거: 사용자 불만 제기 또는 자동화된 모니터가 차량 설명 페이지에서 잠재적인 데이터 품질 문제(예: 잘못된 차량 색상)를 감지합니다.
• 분류 및 조율: 감독자 에이전트가 이벤트를 수집하고, 추적 가능한 작업을 생성하며, 사전 정의된 비즈니스 규칙에 따라 우선순위를 평가합니다.
• 관리자에게 위임: 감독자 에이전트는 Unity Catalog에서 차량 데이터에 액세스하고 수정할 수 있는 권한을 확인한 후 Vehicle Data Manager 에이전트에게 작업을 위임합니다.
• 조율된 작업 실행: 관리자 에이전트는 문제를 해결하기 위해 일련의 전문 작업자 에이전트를 조율합니다: VIN 디코딩 에이전트, 미디어 라이브러리에서 사진을 가져오는 이미지 검색 에이전트, 이미지에서 올바른 색상을 결정하는 AI 기반 색상 분석 에이전트, 차량 빌드 데이터베이스를 업데이트하는 데이터 수정 에이전트.
• 인간 참여형(Human-in-the-Loop) 검토: 변경 사항이 적용되기 전에 관리자 에이전트는 자동화된 변경 사항을 표시하고 최종 검증을 위해 Slack 연동을 통해 데이터 관리자에게 알립니다.
• 학습 및 종료: 관리자가 작업을 승인하면 감독자 에이전트가 작업을 완료로 표시합니다. 최종 인간 승인을 포함한 전체 상호 작용은 추적되어 향후 학습 및 감사를 위해 장기 메모리(Long-Term Memory)에 기록됩니다.

심층 분석 2: Knowledge Assistant: 실시간 답변, 신뢰할 수 있는 브랜드 보이스

이전에는 고객이 답변을 얻기 위해 여러 Edmunds 대시보드를 탐색하거나 Edmunds 지원팀에 문의해야 했지만, 이제는 Knowledge Assistant가 Edmunds의 모든 데이터를 활용하여 즉각적이고 대화식인 답변을 제공합니다. 이 RAG 에이전트는 Edmunds 브랜드 보이스에 맞게 조정되어 전문가 및 소비자 리뷰, 차량 사양, 미디어 및 실시간 가격 정보를 하나로 엮어냅니다. 그 결과 고객은 더 빠르고 만족스러운 상호 작용을 경험하고, 지원 직원은 기본적인 문의를 처리하는 데 드는 시간을 줄일 수 있습니다.

주요 기능은 다음과 같습니다:

• 브랜드 보이스 페르소나 구현: 에이전트는 Edmunds 고객들이 수십 년 동안 접해온 활기차고 유용하며 신뢰할 수 있는 목소리로 소통할 수 있도록 세심하게 조정되었습니다.
• 실시간 데이터 합성: 어시스턴트는 단 한 번의 쿼리로 전문가 및 소비자 리뷰, 차량 사양, 전사된 비디오 콘텐츠, 최신 가격 및 인센티브를 포함한 서로 다른 실시간 데이터 소스의 정보를 검색, 합성 및 제시할 수 있습니다.
• 고급 RAG 기능: 저희는 RAG 구현의 한계를 넓히기 위해 AI Search를 사용하여 Databricks와 적극적으로 협력하고 있습니다. 가장 관련성이 높고 시기적절한 정보가 항상 먼저 표시되도록 콘텐츠 최신성 우선순위 지정 및 정교한 메타데이터 필터링을 개선하는 데 집중하고 있습니다.

심층 분석 3: DataDave의 "생성 및 비평(Generate-and-Critique)" 워크플로

이제 DataDave는 이전에는 많은 시간이 소요되던 수작업에 의존했던 복잡한 분석을 처리합니다. 이 에이전트는 가장 까다로운 쿼리에 대해 95%의 정확도를 제공하기 위해 각 단계마다 전문 에이전트의 비평을 받는 엄격한 워크플로를 조율합니다. DataDave는 웹사이트 트래픽과 인구 통계 데이터를 합성하여 기회를 선제적으로 식별할 수 있습니다(예: Edmunds 영업 팀을 위해 서비스가 부족한 대리점 표시). 이를 통해 Edmunds의 리더십은 "무슨 일이 일어났는지" 보고하는 수준에서 벗어나 "다음에 무엇을 해야 할지" 자신 있게 결정할 수 있습니다.

내부 워크플로는 분류(Triage), 계획(Planning), 코드 생성(Code Generation), 실행(Execution), 합성(Synthesis)의 5단계 프로세스로 구성되며, 전담 비평(Critique) 에이전트가 각 단계의 결과를 검증합니다. 단순히 내부 지표를 분석하는 것을 넘어, DataDave의 진정한 힘은 당사의 독점 데이터와 일반적인 세상 지식을 합성하여 전략적 권장 사항을 생성하는 능력에 있습니다. 예를 들어, Edmunds의 웹사이트 트래픽 데이터와 지리 및 인구 통계 데이터를 연관시킴으로써 DataDave는 서비스가 부족한 지역의 대리점을 식별하고 이를 당사 영업 팀에 "쉽게 달성할 수 있는 목표(low-hanging fruit)"로 선제적으로 추천할 수 있습니다.

심층 분석 4: 가격 책정 전문화

Edmunds는 핵심 원칙에 따라 운영됩니다. 가격은 단순한 숫자가 아니라 신뢰를 얻기 위해 맥락과 정당성이 필요한 결론입니다. 미국 시장에서 가장 정확한 가격 책정이라는 당사의 명성을 활용하여, 당사의 에이전트 아키텍처는 이러한 신뢰를 대규모로 제공하도록 설계되었습니다.

단일 구조의 "가격 책정 전문가"를 조율된 전문가 팀으로 발전시킨 당사의 경험이 이 원칙을 증명합니다. 관리자 에이전트(Manager Agent)가 조율하고 True Market Value 에이전트, 감가상각(Depreciation) 에이전트, 딜 레이팅(Deal Rating) 에이전트와 같은 전문가가 포함된 이 팀은 단순한 권장 소비자 가격 이상의 결과를 만들어냅니다. 최종 출력은 차량이 왜 그렇게 평가되는지 설명하는 포괄적이고 맥락화된 가격 책정 스토리입니다.

이를 통해 가격 분석가의 역할이 수동 데이터 수집에서 전략적 감독 및 지침 제공으로 전환됩니다. Databricks Agent Bricks를 활용함으로써 당사의 가격 통계학자들은 최소한의 코딩으로 이러한 계층적 에이전트 팀을 구성할 수 있으며, 생산성을 크게 높이고 유지 관리 오버헤드를 줄일 수 있습니다. 이를 통해 그들은 진정으로 중요한 것, 즉 숫자 뒤에 숨겨진 "이유"에 집중할 수 있습니다.

인지 코어: 복합 지능을 위한 아키텍처

진정으로 지능적인 AI 생태계를 향한 당사의 여정은 실질적인 과제에서 시작되었습니다. 비즈니스 분석을 위해 DataDave와 같은 전문 에이전트를 배포하는 동안, 이들이 운영 컨텍스트 내에 고립되어 있는 중요하고 시급한 비즈니스 진실을 발견하고 있음을 알게 되었습니다. 예를 들어, 에이전트가 주요 마케팅 채널에서 비정상적인 하락세를 감지할 수 있지만, 이 중요한 인사이트가 조율된 대응을 유도하기 위해 에이전트와 인간 모두를 포함한 다른 주체에 효과적으로 전달되어야 합니다. 이는 이러한 새로운 학습 내용을 캡처하고 전체 에이전트 시스템의 입력으로 액세스할 수 있도록 하는 공유 메모리 시스템의 근본적인 필요성을 강조했습니다. 저희는 이러한 지식이 축적되고 성장하여 전체 생태계를 점진적으로 더 스마트하게 만드는 데 활용될 수 있는 인지 레이어를 구상했습니다. 이에 따라 당사의 최신 생각과 디자인은 다음과 같습니다.

• 일화 기억(Episodic Memory, "무슨 일이 일어났는가"): 시스템의 실측 자료(ground truth) 역할을 하는 모든 에이전트 행동 및 관찰에 대한 고정밀 로그입니다.
• 의미 기억(Semantic Memory, "무엇을 배웠는가"): 일화적 이벤트에서 합성된 일반화된 인사이트와 성공적인 전략을 포함하는 벡터 인덱스입니다. 이는 실행 가능한 지식 라이브러리가 될 것입니다.
• 자동 기억 통합: 백그라운드의 "Reflector" 에이전트가 주기적으로 일화 기억을 검토하여 핵심 학습 내용을 식별하고 의미 기억으로 통합합니다.
• 계층적 기억 액세스: 상위 수준의 에이전트는 하위 에이전트의 기억에 액세스할 수 있으므로, 관리자 에이전트(Manager Agent)가 팀 성과를 분석하고 향후 전략을 최적화할 수 있습니다. 이 피드백 루프는 당사 시스템의 안티프래질리티(antifragility)의 핵심입니다. 계층 구조에 의해 에스컬레이션되는 모든 새로운 실패는 해결해야 할 문제일 뿐만 아니라 전체 생태계를 훈련시켜 점진적으로 더 지능적이고 탄력적으로 만드는 신호입니다.

구현: mem0 + Databricks

당사의 구현은 mem0 인터페이스와 완전히 호환되는 Delta Sync Index를 사용하는 Databricks AI Search를 기반으로 합니다. mem0가 벡터 데이터베이스와 상호 작용한다는 점을 고려하여, 저희는 단일의 강력한 백엔드 내에 일화 기억과 의미 기억을 모두 저장하는 혁신을 이룰 것입니다. 요약되지 않은 원시 이벤트("무슨 일이 일어났는가")와 합성된 학습 내용("무엇을 배웠는가")은 동일한 소스 Delta 테이블 내에서 고유한 벡터 유형으로 공존하며, 이후 AI Search 인덱스를 원활하고 자동으로 채우게 됩니다.

이 통합 아키텍처는 효율적인 워크플로를 생성합니다. Reflector 에이전트는 최근 일화 항목에 대해 인덱스를 쿼리하고, 합성을 수행하고, 새로운 일반화된 의미 벡터를 소스 Delta 테이블에 다시 쓸 수 있습니다. 그런 다음 Delta Sync Index는 이러한 새로운 학습 내용을 자동으로 수집하여 쿼리할 수 있도록 합니다. 소스 Delta 테이블을 단일 진입점으로 활용함으로써 데이터 파이프라인의 복잡성을 제거하고 진정으로 지능적인 에이전트 시스템에 필요한 확장 가능하고 서버리스이며 대기 시간이 짧은 기반을 확보할 수 있습니다.

Edmunds Pulse를 사용한 워크플로 예시

1. 로그 기록: 'DataDave' 에이전트가 판매 이상 징후를 감지하고 mem0 API를 통해 일화 기억(Episodic Memory)에 이벤트를 기록합니다. 이 작업은 소스 Delta 테이블에 새로운 벡터 항목을 기록합니다.
2. 합성: Reflector 에이전트가 이 이벤트를 처리하고, 일반화된 인사이트(예: "주말에 제품 X 판매 감소")를 생성하고, 이를 벡터 임베딩으로 변환합니다.
3. 인덱싱: 새로운 인사이트는 소스 Delta 테이블에 다시 기록되지만 합성된 학습 내용으로 플래그가 지정됩니다. Databricks AI Search는 이 새로운 항목을 자동으로 동기화하여 의미 기억에 인덱싱합니다.
4. 전달: 마지막으로, 우선순위가 높은 인텔리전스를 위해 의미 기억을 지속적으로 모니터링하는 전담 Edmunds Pulse 에이전트가 이 합성된 결과를 인간 이해관계자에게 선제적으로 전달합니다. 보다 주변 상황을 잘 인식하는 AI 어시스턴트를 제공하는 것을 목표로 하는 ChatGPT Pulse 릴리스와 유사하게, 당사의 Edmunds Pulse는 비즈니스의 실시간 '맥박(pulse)' 역할을 하여 중요한 인사이트가 단순히 저장되는 데 그치지 않고 적극적으로 전달되어 시기적절하고 지능적인 조치를 유도하도록 합니다.

데이터 및 지식 레이어: 거버넌스가 확보된 신뢰할 수 있는 기반

AI 에이전트는 데이터의 품질에 의존합니다. Edmunds 데이터 레이어는 일관성, 거버넌스 및 유연성을 위해 특별히 구축되었으며, 모든 정보가 정확하고 잘 관리되도록 보장하는 초석 역할을 Unity Catalog가 수행합니다.

심층 분석 5: GraphQL 데이터 액세스 및 상호 작용 패턴

Edmunds Model Context Protocol (MCP) 프레임워크는 AI 에이전트를 차량 사양, 리뷰, 재고, New Relic과 같은 시스템의 운영 지표 등 모든 핵심 데이터 소스의 실시간 컨텍스트에 안전하게 연결합니다. 이는 기본 복잡성을 추상화하고 강력한 형식의 자체 문서화 스키마를 제공하는 통합 GraphQL API 게이트웨이를 통해 달성됩니다.

에이전트나 엔지니어가 파편화된 데이터, 일치하지 않는 스키마 또는 느린 문제 해결로 어려움을 겪는 대신, 이제 시스템은 각각 서로 다른 사용 사례에 맞게 조정된 세 가지 주요 상호작용 패턴을 지원합니다:

• 동적 스키마 인트로스펙션: 에이전트는 GraphQL 스키마 자체를 인트로스펙션하여 새로운 또는 익숙하지 않은 쿼리를 동적으로 탐색할 수 있습니다. 고객이 최근 안전 리콜이 차량 가치에 영향을 미치는지와 같은 독특한 질문을 할 때, 에이전트는 즉석에서 새로운 데이터 유형을 발견하고 관련 답변을 가져오기 위한 정밀한 쿼리를 작성할 수 있습니다. 이러한 유연성 덕분에 조직은 수동으로 API를 변경할 필요 없이 새로운 비즈니스 요구사항에 신속하게 적응할 수 있습니다.
• 세분화된 매핑 도구: 각 에이전트 도구는 일상적인 작업을 위해 특정 GraphQL 쿼리 또는 뮤테이션에 직접 매핑됩니다. 예를 들어, 차량 색상을 업데이트하는 것은 VIN과 새로운 색상을 추출하는 것만큼 간단하며, 에이전트가 뮤테이션을 처리합니다. 이 접근 방식은 신뢰성을 높이고 수동 개입을 줄여 팀의 일상적인 업무를 간소화합니다.
• 영구 쿼리: 실시간 재고 대시보드와 같이 트래픽이 많고 성능이 중요한 기능은 최대의 효율성을 위해 사전 등록된 쿼리를 활용합니다. 에이전트가 가벼운 해시와 변수를 전송하면 시스템은 대역폭을 줄이고 보안을 강화하여 결과를 즉시 반환합니다.

Edmunds는 단일하고 강력한 API 레이어를 통해 AI 에이전트에게 모든 비즈니스 데이터에 대한 구조화된 액세스를 제공함으로써 제품 및 지원 기능 전반에서 데이터 작업의 속도, 유연성 및 신뢰성을 극적으로 향상시켰습니다. 이전에는 맞춤형 개발이나 팀 간 디버깅이 필요했던 작업이 이제 실시간으로 처리되므로, 고객과 내부 팀은 더 풍부한 인사이트와 더 민첩한 대응의 혜택을 누릴 수 있습니다.

심층 분석 6: 시맨틱 및 지식 레이어

이 중요한 레이어는 원시 데이터와 에이전트의 이해 사이를 연결하는 가교 역할을 합니다. 기본 데이터 저장소의 복잡성을 추상화합니다. 비즈니스 컨텍스트로 데이터를 풍부하게 하여 에이전트가 Edmunds 세계관에 대한 일관되고 거버넌스가 적용되며 이해하기 쉬운 뷰를 기반으로 작동하도록 보장합니다.

• Unity Catalog: 거버넌스의 중추: 데이터 에코시스템의 핵심인 Unity Catalog는 모든 데이터 및 AI 자산에 대한 중앙 집중식 거버넌스, 보안 및 리니지를 제공합니다. 에이전트가 액세스하는 모든 데이터가 세분화된 액세스 제어의 대상이 되고 그 여정을 완전히 감사할 수 있도록 보장하여, 안전하고 규정을 준수하는 AI 플랫폼을 위한 타협할 수 없는 기반을 형성합니다.
• 제품 시맨틱 레이어: 실시간 비즈니스 컨텍스트: 이 레이어는 에이전트에게 핵심 제품 엔티티(예: 차량, 딜러, 리뷰)에 대한 실시간 객체 지향 뷰를 제공합니다. 결정적으로, 이는 Edmunds 웹사이트를 구동하는 것과 동일한 GraphQL 스키마에서 직접 소싱됩니다. 이를 통해 절대적인 일관성이 보장됩니다. 에이전트가 "차량"에 대해 논할 때 소비자가 웹사이트에서 보는 것과 동일한 데이터 모델 및 비즈니스 로직을 참조하므로, 외부 제품과 내부 AI 간의 데이터 드리프트 위험이 제거됩니다.
• 분석 시맨틱 레이어: KPI를 위한 단일 진실 공급원: 이 레이어는 모든 비즈니스 성과 지표에 대한 일관되고 신뢰할 수 있는 뷰를 제공합니다. 이는 모든 임원 및 운영 대시보드에 데이터를 제공하는 것과 동일한 소스인 큐레이션된 Delta Metric Views에서 직접 소싱됩니다. 이러한 정렬을 통해 DataDave 또는 다른 에이전트가 비즈니스 KPI(세션 트래픽, 리드 또는 평가율 등)에 대해 보고할 때 기존 비즈니스 인텔리전스 도구와 동일한 정의 및 데이터 소스를 사용하도록 보장하여 조직 전체에 걸쳐 단일 진실 공급원을 확보할 수 있습니다.
• Databricks AI Search - RAG를 위한 엔진: 이 구성 요소는 비구조화 및 반구조화 데이터를 위한 고성능 검색 엔진입니다. 방대한 리뷰, 기사 및 전사된 콘텐츠 코퍼스를 벡터 임베딩으로 변환함으로써, Knowledge Assistant와 같은 에이전트가 번개처럼 빠른 시맨틱 검색을 수행하고 Retrieval-Augmented Generation (RAG) 패턴으로 사용자 질문에 답하는 데 가장 관련성 높은 컨텍스트를 검색할 수 있도록 지원합니다.

비용 센터에서 가치 엔진으로: AI ROI 측정

비전 있는 아키텍처도 결국 실행이 뒷받침되어야 가치가 있습니다. 우리의 접근 방식은 단계별 로드맵과 AI 에코시스템을 핵심 가치 창출 엔진으로 다루겠다는 깊은 의지에 기반하고 있습니다. 우리는 관찰 가능성(observability), 거버넌스 및 윤리를 위한 기술적 프레임워크를 주요 비즈니스 결과에 직접 연결함으로써 이를 달성합니다. 우리의 목표는 단순히 강력한 AI를 구축하는 것이 아니라, 최종 수익(bottom line)에 미치는 영향을 정량화하는 것입니다.

비즈니스 속도 가속화

우리는 ROI 방정식의 양면을 측정하기 위한 전체론적인 시스템을 구축했습니다. 수익 측면에서 우리의 프레임워크는 AI 성능을 비즈니스 KPI에 직접 연결합니다. 예를 들어:

• 당사의 DataDave 에이전트는 이전에는 Edmunds의 인간 분석가가 완료하는 데 몇 시간이 걸렸던 작업인 복잡하고 실행 가능한 분석을 단 몇 분 만에 제공합니다. 이는 데이터 기반 의사 결정을 극적으로 가속화합니다.
• 당사의 가격 책정 에이전트는 문의에 즉각적으로 응답하여 수시간의 수동 조사를 없애고 팀이 전략적이고 가치가 높은 업무에 집중할 수 있도록 지원합니다.

캠페인 전환율과 같은 지표에 미치는 정확한 영향을 여전히 정량화하는 중이지만, 이 프레임워크는 이러한 상관관계를 도출하는 데 필요한 실시간 데이터를 제공합니다.

비용 최적화

우리는 AI Gateway를 통해 스마트한 경제적 거버넌스를 실천합니다. 정확성을 보장하기 위해 DataDave와 같이 중요도가 높은 에이전트는 가장 강력한 모델로 라우팅되는 반면, 일상적인 작업은 더 비용 효율적인 모델에 자동으로 할당됩니다. 이러한 모델 티어링 전략을 통해 LLM 및 컴퓨팅 비용을 정밀하게 관리하여 투자된 모든 비용이 창출되는 비즈니스 가치와 일치하도록 보장합니다.

“Databricks 덕분에 적절한 작업을 위해 적절한 모델을 안전하고 대규모로 실행할 수 있습니다. 그러한 유연성은 에이전트에 힘을 실어주고 더 스마트한 자동차 쇼핑 경험을 제공합니다.” — Greg Rokita, Edmunds 기술 부문 부사장

조직적 역량 강화: 모든 직원에게 권한 부여

이 비전을 실현하기 위해 우리는 Edmunds 전반에 걸쳐 혁신 문화를 조성하고 있습니다. 완전히 자율적인 작업부터 인간 참여형(human-in-the-loop) 검토 및 완전한 협업 문제 해결에 이르기까지 인간과 AI 상호작용의 전체 스펙트럼을 지원하는 것을 목표로 합니다.

이를 지원하기 위해 엔지니어에게 강력한 Agent SDK를 제공하고 Agent Bricks 플랫폼을 통해 "시민 개발자(Citizen Developer)" 운동을 옹호합니다. 이 이니셔티브는 회사 전체의 "AI Agents @ Edmunds" 기술 컨퍼런스로 시작되었으며 활발한 LLM Agents Guild에 의해 육성되어 모든 직원이 AI 기반 미래에 기여할 수 있는 도구와 지원을 갖추도록 보장합니다.

앞으로의 여정: 주도적 인텔리전스에서 진정한 자율성으로

진정한 AI 네이티브 조직이 되기 위한 우리의 여정은 단거리 경주가 아니라 마라톤입니다. "Edmunds Mind" 아키텍처는 그 여정의 청사진 역할을 하며, 다음 진화 단계는 단순히 질문에 답하는 것을 넘어 비즈니스 요구사항을 예측하는 주도적인 에이전트를 개발하는 것입니다. 우리는 에이전트가 실시간 데이터 스트림에서 시장 기회를 식별하고 이해관계자가 묻기도 전에 전략적 인사이트를 제공하는 미래를 구상합니다.

궁극적으로 우리의 로드맵은 에이전트가 스스로 최적화하여 새로운 도구를 제안하고, 비판 메커니즘을 개선하며, 아키텍처 개선까지 제안할 수 있는 시스템으로 이어집니다. 이는 우리가 단순히 운영하는 시스템에서 진정한 인지적 파트너로의 전환을 의미하며, 우리의 역할을 단순 운영자에서 새로운 지능형 인력의 감독자, 윤리학자 및 전략가로 진화시킵니다.

Edmunds가 Databricks의 도움을 받아 어떻게 AI 기반 자동차 쇼핑 경험을 구축하고 있는지 자세히 알아보세요.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)