7‑Eleven이 Databricks Agent Bricks로 유지보수 기술자의 지식 액세스를 혁신한 방법

모든 매장의 기술자 역량 강화

7‑Eleven의 유지보수 기술자들은 식품 서비스 기기 및 냉장 장치부터 주유기 및 슬러피 기계에 이르기까지 광범위한 장비를 정비하여 매장이 원활하게 운영되도록 합니다. 각각의 수리는 기술자의 지식과 서비스 매뉴얼, 배선도, 주석이 달린 이미지와 같은 지원 문서에 대한 즉각적인 액세스에 의존합니다.

기술자가 장비 정보를 찾는 통합되고 더 빠른 방법 만들기

시간이 지남에 따라 장비 문서는 여러 형식을 포함하도록 발전했으며 다양한 위치에 분산되었습니다. 이로 인해 기술자들이 필요한 정보를 신속하게 찾는 것이 더 어려워졌습니다. 또한 익숙하지 않은 장비, 부품 등을 마주했을 때 기술자들은 종종 채팅이나 이메일에 의존하여 동료들로부터 지원을 받곤 했습니다.

따라서 정보 액세스, 공유 등을 간소화할 기회가 포착되었으며, 이는 궁극적으로 매장 운영에 대한 더 일관된 지원으로 이어졌습니다.

기술자 유지보수 어시스턴트(TMA) 구축

이러한 문제를 해결하기 위해 7-Eleven은 다음과 같은 기능을 수행할 수 있는 AI 기반 어시스턴트를 구상했습니다.

• 유지보수 문서에서 정확한 답변을 검색하세요.
• 이미지에서 장비 부품을 식별하고 관련 자료를 제안합니다.
• Microsoft Teams와 원활하게 통합됩니다.

Databricks와의 파트너십을 통해 7-Eleven은 문서 검색, 비전 모델, 협업을 간소화된 워크플로에 통합하는 지능형 솔루션인 기술자 유지보수 어시스턴트(TMA)를 개발했습니다.

문서 저장 및 인덱싱

모든 관련 유지보수 문서는 클라우드 스토리지 전반에 걸쳐 텍스트 및 이미지와 같은 비정형 데이터에 대한 권한을 관리하는 Unity Catalog Volume에 업로드되었습니다.

개발팀은 Databricks Vector Search를 사용하여 Delta Sync with Embeddings Compute를 구현했습니다. 그들은 BAAI bge-large-en-v1.5 모델을 사용하여 벡터 임베딩을 생성하고, 고속, 저지연 검색을 위해 Vector Search 엔드포인트를 통해 이를 제공했습니다.

Microsoft Teams 통합

기술자는 Microsoft Teams를 통해 TMA에 직접 액세스합니다. Teams 봇은 Databricks Model Serving으로의 호출을 오케스트레이션하는 API 레이어를 통해 각 쿼리를 라우팅합니다. 어시스턴트는 채팅 창에서 직접 맥락에 맞는 답변을 제공하고, 문서 링크를 연결하며, 관련 부품을 제안합니다.

라우팅 에이전트 및 하위 에이전트 설계

라우팅 에이전트는 기술자의 쿼리가 문서 기반인지 이미지 기반인지 판단하여 올바른 하위 에이전트로 전달합니다.

• 문서 질의응답 에이전트
  • 기술자는 Teams 내에서 자연어 쿼리를 사용할 수 있습니다. Databricks Model Serving을 통해 Claude 3.7 Sonnet을 사용하여 시스템은 이러한 쿼리를 벡터 임베딩으로 변환하고 인덱스를 검색하며 검색 증강 생성(RAG)을 사용하여 상황 인식 답변을 반환합니다. 기술자는 긴 설명서나 장비 가이드에서도 즉시 응답을 받습니다.
• 이미지 식별 에이전트
  • 초기 버전은 Claude 3.7 Sonnet을 통해 단순한 텍스트 추출을 사용했지만 고르지 않은 결과를 낳았습니다. 엔지니어들은 제품 번호, 제조업체 세부 정보, 사양, 안전 경고, 인증 날짜를 포괄하도록 기술자 워크플로에 맞춰 프롬프트를 조정하여 성능을 향상시켰습니다.
  • 추출된 데이터는 Delta Table 필드에 직접 매핑되어 시각적 참조를 벡터 인덱스의 올바른 문서에 연결합니다. 이러한 개선을 통해 더 정확하고 신뢰성 있는 부품 인식이 가능해졌습니다.

로깅 및 분석

투명성과 데이터 거버넌스를 유지하기 위해 라우팅, 쿼리, 이미지 요청 등 모든 상호 작용은 Amazon DynamoDB에 기록됩니다. 일일 Databricks 작업은 이러한 로그를 추출하여 Delta 테이블에 저장하고 전용 AI/BI 대시보드를 지원합니다.

대시보드는 7‑Eleven에 다음 항목에 대한 가시성을 제공합니다.

• 기술자별 일별/주별/월별(아래 참조) 쿼리 볼륨
• 가장 자주 검색되거나 서비스되는 장비.
• 챗봇 해결 동향 및 지연 시간
• TMA 도입과 개선된 최초 수리 성공률 간의 상관관계

AWS에서 Databricks로 마이그레이션

최초의 개념 증명(PoC)에서는 SageMaker, FAISS, Bedrock 등 AWS 구성 요소를 활용하여 Claude 3.7 Sonnet 및 Llama 3.1 405B와 같은 대규모 언어 모델을 호스팅했습니다. 이 설정은 기능적으로는 문제가 없었지만 수동 재인덱싱과 여러 분리된 서비스가 필요했고, 지연 시간을 발생시켰습니다.

인프라를 단순화하기 위해 7-Eleven은 완전한 엔드투엔드 Databricks Agent Bricks 솔루션으로 마이그레이션하여 응답 시간을 단축했습니다.

주요 개선 사항:

• Databricks Vector Search를 통한 자동화된 벡터 인덱싱
• 통합된 데이터 거버넌스 및 컴퓨팅 관리
• 단일 레이크하우스 아키텍처를 통한 지연 시간 단축 및 관찰 가능성 간소화

운영상의 영향

"지금까지의 경험으로 볼 때, Technician’s Maintenance Assistant는 우리 기술자들이 예방적 유지보수 및 장비 수리를 위해 중요 문서에 액세스하는 속도, 정확성, 일관성을 크게 향상시킬 잠재력이 있습니다."라고 7‑Eleven의 기업 유지보수 트레이너인 James David Coterel이 말했습니다.

문서 검색을 간소화하고 동료 지원에 대한 의존도를 줄임으로써 TMA는 기술자의 자신감을 높이고, 최초 수리 성공률을 개선하며, 검색 시간을 몇 분 또는 몇 시간에서 몇 초로 단축하여 직접적으로 다운타임을 줄이고 매장 준비 상태를 가속화합니다.

이와 병행하여 검색, 임베딩, 추론을 AWS에서 Databricks로 이전함으로써 FAISS 유지보수와 EC2 부하가 제거되었고, 인프라 오버헤드를 줄이고 지연 시간을 개선하여 측정 가능한 운영 비용 절감과 더욱 일관된 고객 경험으로 이어졌습니다.

정확한 금전적 영향은 아직 측정 중이지만, 더 빠른 최초 해결, 더 적은 수동 에스컬레이션, 더 낮은 인프라 오버헤드의 조합은 노동 시간 및 예상치 못한 장비 다운타임에 대한 명확한 비용 절감 효과를 창출하며, 이 두 가지 모두 매장 수익 보호 및 고객 경험 안정성과 밀접한 관련이 있습니다.

향후 개선 사항

7‑Eleven은 다음을 통해 TMA의 기능을 확장할 계획입니다.

• 시각적 및 실습 학습을 위한 영상 기반 유지보수 가이드.
• 글로벌 유지보수팀을 위한 다국어 지원
• 응답 정확도와 관련성을 지속적으로 개선하기 위한 데이터 기반 피드백 루프

Databricks가 7-Eleven과 같은 기업이 단일 플랫폼에서 데이터, 문서, 비전 모델을 통합하는 지능형 어시스턴트를 구축하도록 지원하는 방법을 알아보세요.

Databricks AI 솔루션 살펴보기

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)