에콜랩이 Databricks와 Anthropic Claude를 기반으로 리테일 인텔리전스를 재구축한 방법

대형 식품 소매점의 매장 관리자가 로티세리 치킨의 올바른 온장 보관 온도를 알아야 할 때, 그 답은 700페이지에 달하는 FDA 식품 규정 어딘가에 묻혀 있습니다. 최근까지만 해도 이를 찾으려면 몇 시간 동안 수동으로 검색하거나 회신이 오지 않을 수도 있는 전화를 걸어야 했습니다.

이는 더 큰 문제의 한 가지 증상에 불과했습니다. 물, 위생 및 감염 예방 분야의 글로벌 리더인 에코랩(Ecolab)은 북미 전역의 수천 개 소매 및 패스트푸드 매장의 식품 안전, 해충 방제, 수질을 모니터링합니다. 하지만 이러한 서비스를 구동하는 데이터는 감사, 위생 검사, 해충 IoT 원격 측정, 체크리스트, 화학 물질 사용 로그, 날씨 피드, Yelp 리뷰, CDC 지역 데이터, FDA 식품 규정 자체 등 9개의 개별 시스템에 분산되어 있었습니다.

"우리에게는 9개의 서로 다른 데이터 소스와 9개의 서로 다른 인텔리전스가 있었지만, 단일 매장에 대한 전체적인 그림을 볼 수 있는 방법은 없었습니다." — Nicholas Dylla, 에코랩 기술 리드

에코랩은 이를 바꾸기 위해 나섰고, 단순한 통합 대시보드보다 훨씬 더 야심 찬 것을 구축했습니다.

9개의 사일로에서 하나의 인텔리전스 엔진으로

에코랩의 Retail Intelligence 애플리케이션은 Databricks App 네이티브 애플리케이션으로, Lakebase Postgres를 트랜잭션 백본으로 사용합니다. 9개의 모든 데이터 소스는 Lakeflow 및 Spark Declarative Pipelines를 통해 Unity Catalog로 거버넌스가 제공되는 레이크하우스로 유입되며, Databricks Asset Bundles를 통해 재현 가능한 방식으로 배포됩니다.

이 앱은 Databricks 보안 경계 내에서 실행되므로, 에코랩은 별도의 인프라를 구축하지 않고도 내장된 인증, 자동 서비스 주체(service principals), Unity Catalog 액세스 제어 기능을 활용할 수 있습니다. 최종 사용자가 보는 모든 것은 Databricks에서 제공됩니다.

그림 1: Retail Intelligence 앱 아키텍처

하지만 데이터를 통합하는 것은 과제의 절반에 불과했습니다. 진짜 문제는 '어떻게 9개의 인텔리전스 소스를 하나의 대화형 전문가처럼 느끼게 만들 것인가?'였습니다.

Databricks는 에코랩에 별도의 ML 인프라를 구축하거나 관리할 필요 없이 데이터, AI 및 거버넌스를 위한 단일 플랫폼을 제공합니다. 에코랩은 Foundation Model APIs를 통해 복잡한 추론을 위한 Claude Sonnet, 빠르고 비용 효율적인 요약을 위한 Haiku, 이미지 분석을 위한 Gemini를 모두 동일한 제어 평면(control plane)에서 서비스합니다. 내일 더 나은 모델이 나오더라도 아키텍처를 재설계할 필요 없이 바로 교체할 수 있습니다. 모든 모델 호출은 Databricks 보안 경계 내에 유지됩니다. Unity AI Gateway는 페이로드 로깅, 사용자별 속도 제한, PII 가드레일, 자동 폴백(fallback) 기능을 계층화하며, Unity Catalog는 데이터와 이를 서비스하는 모델 모두에 대한 액세스를 제어합니다.

Databricks에서 Claude 서비스하기

이 프레임워크의 핵심은 동일한 Foundation Model APIs를 통해 서비스되는 Anthropic의 Claude입니다.

Claude Sonnet은 기본 추론 엔진 역할을 하며 복잡한 규정을 요약하고 장기 사용자 메모리를 유지합니다. Claude Haiku는 요약을 담당하여 대화 기록을 세 턴마다 압축하고, 상세한 데이터 신호를 간결한 브리핑으로 요약하는 동시에 빠르고 비용 효율적인 상호작용을 유지합니다.

에코랩은 여러 제공업체를 평가한 끝에 Claude를 선택했습니다. 이 모델의 응답 형식은 규정 준수 요약에 가장 적합한 것으로 입증되었으며, 사설로 호스팅되는 Claude 테넌트는 엄격한 보안 요구사항을 충족했습니다. 동시에 Databricks 플랫폼은 다중 모델 유연성을 제공합니다.

에이전트들이 협업하는 방식

내부적으로 이 시스템은 Databricks Workflows를 통해 오케스트레이션되는 Multi-Agent-Supervisor 패턴을 따릅니다.

매장 관리자가 질문을 입력하면, Coordinator Agent가 이를 하위 작업으로 나누고 각 작업을 특화된 하위 에이전트에게 위임합니다. 한 하위 에이전트는 Vector Search를 통해 관련 FDA 조항을 검색할 수 있습니다. 다른 에이전트는 SQL 및 Unity Catalog Functions를 통해 정형화된 규정 준수 데이터를 쿼리합니다. 세 번째 에이전트는 외부 MCP 서버에서 해충 원격 측정 데이터를 가져옵니다. 그런 다음 Response Agent가 모든 내용을 출처가 표시된 단일 답변으로 결합하고 상호작용 내용을 Lakebase에 저장합니다.

그림 2: 에이전트 간 오케스트레이션

이 경험을 개인화된 느낌으로 만드는 것은 바로 이중 레이어 메모리 아키텍처입니다.

단기(작업 메모리). 모든 쿼리는 표준적인 대화 버퍼(conversation buffer) 접근 방식에 따라 프롬프트에 직접 마지막 10번의 대화 턴을 포함합니다. 세션이 커짐에 따라 컨텍스트를 간결하게 유지하기 위해, Claude Haiku 4.5는 세 턴마다 인라인 요약기를 실행하여 이전 대화를 조밀한 요약본으로 압축합니다. Prompt caching은 웜 컨텍스트(warm context)를 효율적으로 전송하도록 유지하며, 메모리 도구는 활성 상태와 지속 상태 간의 구조화된 핸드오프를 제공합니다.

장기(의미 메모리). 세션 전반에 걸쳐 Claude Sonnet 4.6은 사용자별 프로필(역할, 선호도, 반복되는 관심 영역, 위치 컨텍스트 및 행동 패턴)을 유지합니다. 프로필은 구조화된 레코드로 저장되며 사용자가 상호작용함에 따라 지속적으로 업데이트됩니다. 이는 장기 메모리 패턴을 반영합니다.

이러한 효과가 결합되어, 몇 주 동안 자리를 비웠던 매장 관리자가 다시 어시스턴트를 열었을 때 다시 프롬프트를 입력하거나 자신을 소개하거나 누구인지 재설명할 필요 없이, 이미 자신의 담당 구역, 미결 티켓 및 워크플로우를 이해하고 있는 답변을 받게 됩니다.

그림 3: 쿼리 아키텍처 및 메모리 페이로드 흐름

품질은 결코 고정되어 있지 않습니다. 5개의 Judge LLM이 여러 차원에 걸쳐 모든 상호작용을 평가합니다. 사용자 피드백은 암묵적인 신호와 결합되어 자동화된 프롬프트 최적화 루프에 제공됩니다. MLflow는 모든 실행 경로를 추적하고, 대시보드는 대기 시간과 오류율을 실시간으로 모니터링합니다. 팀은 심지어 쿼리 로그를 분석하여 관리자가 실제로 질문하는 내용을 기반으로 더 나은 기본 질문을 구축하기도 합니다.

실시간 에이전트 답변은 이야기의 절반에 불과합니다. 과거 검사 기록의 소급 평가, 포트폴리오 전반의 규정 준수 브리핑 생성, Judge LLM 평가 루프 구동과 같은 대용량 오프라인 워크로드의 경우, 에코랩은 Databricks AI 배치 추론 기능인 ai_query()를 사용하여 단일 SQL 호출로 수천 개의 레코드에 Claude를 적용합니다. 과거에는 순차적인 행 단위 처리였던 작업이 이제는 실시간 에이전트를 보호하는 동일한 Unity Catalog 정책의 제어를 받으며 몇 초 만에 병렬로 완료됩니다.

몇 주가 걸리던 작업을 몇 분 만에

그 효과는 즉각적이었습니다. 과거에는 한 고객 매장의 단일 규정 준수 보고서를 작성하기 위해 9개의 사일로화된 시스템에서 수동으로 데이터를 추출하는 데 2주일이 걸렸지만, 이제는 2분도 채 걸리지 않습니다. 관리자가 몇 시간 동안 700페이지 분량의 PDF를 뒤져야 했던 FDA 식품 규정 질문에 대해 이제는 출처가 명시된 쉬운 언어로 된 답변을 몇 초 만에 제공합니다.

보이지 않는 곳에서는 9개의 개별 데이터 소스가 거버넌스가 제공되는 단일 레이크하우스로 통합되어, 2026년 4월 중순 출시 시점에 수백 개의 북미 매장에 서비스를 제공하고 있습니다. 또한 대화형 에이전트가 약 98%의 정확도로 약 12개 언어를 지원하므로, 현장 직원들은 자신에게 가장 편한 언어로 상호작용할 수 있습니다.

더 빠른 인사이트에서 위반 감소로

속도는 시작에 불과합니다. 2주의 시간을 단축하여 2분으로 줄이는 것의 진정한 가치는 팀이 확보한 시간을 어떻게 활용하는지, 그리고 더 중요하게는 문제가 제재로 이어지기 전에 미리 감지해내는 데 있습니다.

식품 안전 위반이기도 한 해충 문제는 서로 다른 워크플로에서 두 번 발견되는 대신, 한 번에 플래그가 지정되고 조사 및 해결됩니다. Ecolab 고객에게는 눈에 띄게 향상된 규정 준수 상태, 제재 발생 건수 감소, 사후 대응이 아닌 선제적으로 인텔리전스를 제공하는 파트너를 얻는 결과를 가져옵니다. Ecolab에게는 고객 관계를 심화하고 운영 데이터를 지속 가능한 경쟁 우위로 전환하는 플랫폼이 됩니다.

"이전에는 단 하나의 규정 준수 보고서를 작성하기 위해 9개 시스템에서 데이터를 가져오는 데 2주일이 걸렸지만, 이제 Databricks 기반의 Claude를 통해 2분도 채 걸리지 않습니다. 600개 지점의 현장 직원들은 700페이지에 달하는 FDA 식품 규정에서 출처가 명시된 쉬운 언어로 된 답변을 자신이 가장 편한 언어로 단 몇 초 만에 얻을 수 있습니다." — Josh McCoy, Ecolab 리테일 인텔리전스 제품 관리자

다음 단계로 Ecolab은 MCP 기반의 자동화된 작업(해충 검사, 화학 물질 재주문, 식품 안전 규범 및 작업 지시 등)을 채팅 인터페이스에서 직접 트리거할 수 있도록 추가할 계획입니다.
이를 통해 시스템을 인텔리전스 레이어에서 완전한 운영 에이전트로 전환할 것입니다.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)