주요 컨텐츠로 이동
데이터 전략

규제 산업을 위한 4가지 AI 아키텍처 패턴

엔터프라이즈 시스템에서 결정론, 에이전트 추론, 인간의 권한 및 제한된 자율성을 배치하는 방법

작성자: Molly Nagamuthu

  • 결정론적 제어 및 인간의 책임성과 에이전트를 결합하기 위한 4가지 프로덕션 아키텍처 패턴.
  • 에이전트가 추론, 생성, 추천 또는 행동할 위치를 결정하기 위한 의사결정 프레임워크.
  • 모델 단독이 아니라 거버넌스 데이터, 리니지, 집행, 평가 및 감사 증적이 엔터프라이즈 에이전트 배포를 가능하게 하는 이유.

엔터프라이즈 AI는 모든 결정론적 제어를 대체할 수 없습니다. 이 네 가지 패턴은 아키텍트가 에이전트가 추론 및 행동할 수 있는 영역과 제어 또는 인간의 권한을 받아야 하는 영역을 결정하는 데 도움을 줍니다.

엔터프라이즈 AI 이면에 있는 아키텍처 관점의 질문

기업은 고정된 규칙과 반복 가능한 프로세스를 기반으로 구축된 시스템에 에이전트를 추가하고 있습니다. 에이전트는 복잡한 문제를 추론할 수 있지만, 특히 규제가 엄격한 산업의 엔터프라이즈 시스템은 제어 가능하고 감사 가능해야 합니다. 여기서 질문은 둘 중 어느 것을 선택하느냐가 아니라, 어떻게 두 시스템을 함께 작동시키느냐입니다.

우리가 이 시리즈를 작성하는 이유는 고객들이 다음과 같은 공통된 질문을 던지기 때문입니다. 전 세계 기업들은 우리와 비슷한 제약 조건을 어떻게 헤쳐 나가고 있습니까? 엔터프라이즈 AI 도입의 현실은 어떻습니까? 다른 조직들은 이러한 미묘한 차이에 어떻게 접근하고 있습니까? 요구사항이 모호하고 복잡하며 해당 기관에 매우 특수할 때, Databricks는 이러한 문제를 어떻게 해결하고 있습니까?

Forward Deployed Engineer인 우리는 이러한 접점에서 일합니다. 우리는 모호한 비즈니스 문제를 프로덕션 준비가 완료된 시스템으로 전환합니다. 구현 방식은 기관마다 다르며 구체적인 구현 세부사항을 공개할 수는 없지만, 일반화된 패턴과 관행에 대해서는 논의할 수 있습니다. 에이전트가 대규모 엔터프라이즈 시스템의 일부가 됨에 따라 다음과 같은 두 가지 질문이 계속해서 제어됩니다.

  • 결정론이 반드시 유지되어야 하는 영역은 어디입니까(예: 작업이 되돌릴 수 없거나 오류에 비대칭적 위험이 따르는 경우)?
  • 에이전트에게 권한을 부여할 수 있는 영역은 어디입니까, 특히 작업이 되돌릴 수 있거나 수정 비용이 낮은 경우?

모든 유스케이스에 대한 정답은 동일하지 않습니다. 현장에서 구축하고 현대화하는 시스템 전반에서 네 가지 패턴이 나타나고 있습니다. 이 첫 번째 아티클에서는 프레임워크를 소개합니다. 이어지는 네 개의 아티클에서는 각 패턴이 실제로 어떻게 작동하는지 보여줍니다.

image2.png
그림 1. 규제가 엄격한 엔터프라이즈 시스템에 에이전트를 배치하기 위한 결정 프레임워크.

패턴 1: 결정론적 제어와 에이전틱 추론

결과가 엄격하게 결정론적이고 재현 가능해야 하거나, 오류가 되돌릴 수 없고 높은 수정 비용을 수반할 때 이 패턴을 사용하세요. 여기서 결정론적이란 데이터, 규칙, 허용 오차, 구성 및 실행 컨텍스트를 함께 기록하는 명시적인 버전 관리 계약에 따라 결과를 재현할 수 있음을 의미합니다.

금융 기관에는 많은 제어가 존재합니다. 대사(reconciliation)가 좋은 예입니다. 제어는 잔액을 계산하고, 승인된 규칙을 적용하며, 재현 가능한 PASS 또는 FAIL을 생성해야 합니다. 에이전트는 허용 오차를 재해석하거나 자체적인 설명을 통과된 제어로 바꿀 수 없습니다. 대사가 실패할 때 에이전트는 증거를 수집하고, 리니지 및 배치 상태를 검사하며, 이전 인시던트와 차이를 비교하고, 제한된 원인 집합을 테스트하며, 다음에 수행해야 할 작업을 권장할 수 있습니다. 결정론적 제어는 여전히 대사가 통과되었는지 여부를 결정합니다. 에이전트는 실패한 이유를 설명하는 데 도움을 줍니다.

에이전트는 제어를 조사할 수 있습니다. 제어 자체가 될 수는 없습니다.

이 패턴은 규제 계산, 정책 집행, 데이터 품질 게이트, 시스템 무결성 검사 등 결과가 정확하고 재현 가능하며 감사 가능해야 하는 모든 곳에 적용됩니다.

패턴 2: 에이전틱 실행과 결정론적 판단 기준(judge)

둘 이상의 답변이 유효할 수 있지만 결과가 객관적으로 테스트될 수 있는 경우 이 패턴을 사용하세요.

레거시 마이그레이션 또는 현대화가 좋은 예입니다. 에이전트는 기존 워크로드를 분석하고 타겟 구현을 생성할 수 있습니다. 매번 정확히 동일한 구현을 생성하지 않을 수도 있습니다. 그것은 반드시 문제가 되는 것은 아닙니다. 중요한 것은 결과가 올바른지 여부입니다.

결정론적 판단 기준은 코드 컴파일 여부, 스키마 준수 여부, 데이터 대사 여부, 제어 총계 일치 여부, 거버넌스 요구사항 충족 여부, 성능이 목표를 충족하는지 테스트할 수 있습니다. 결과가 실패하면 에이전트는 증거를 받고, 문제를 진단하고, 작업을 수정하며, 유효성 검사를 다시 실행합니다.

해당 기준을 통과했다고 해서 계약이 모든 프로덕션 동작을 다룬다는 증거는 아닙니다. 테스트 커버리지, 프로덕션 형태의 엣지 케이스, 주기적 검토는 여전히 중요합니다.

결정론적으로 그 출력을 평가할 수 있을 때 에이전트를 결정론적으로 만들지 마세요.

검증기는 단순한 제어가 아닙니다. 에이전트가 결과를 개선할 수 있도록 하는 피드백 루프입니다. 이 패턴은 마이그레이션, 코드 생성, 변환, 테스트 및 수정에 유용합니다.

패턴 3: 에이전틱 추론과 인간의 권한

답변에 판단이 필요하고 결정론적 테스트로 올바름을 증명할 수 없을 때 이 패턴을 사용하세요.

금융 범죄 조사가 그 예입니다. 에이전트는 트랜잭션, 문서, 정책, 관계 및 과거 패턴을 상관관계 분석할 수 있습니다. 증거를 취합하고, 가능한 설명을 식별하며, 해결되지 않은 질문을 표면화하고, 처리를 권장할 수 있습니다. 이는 결정이 개인에게 큰 영향을 미치거나 규제 기관, 감사관, 법원 또는 피해자에게 결과를 정당화해야 할 때 규정에서 요구하는 경우이기도 합니다.

하지만 권장 사항이 곧 결정은 아닙니다. 결과가 중대하고 정확성을 확립할 수 있는 결정론적 방법이 없는 경우, 권한은 책임 있는 사람에게 남아 있어야 합니다.

인간의 검토는 모든 단계가 아니라 결정 경계에 위치해야 합니다.

에이전트의 추론 역시 설명 가능해야 합니다. 모든 권장 사항은 그 이면의 증거, 소스 및 도구로 추적할 수 있어야 합니다. 이를 통해 조사관은 논리를 이의 제기할 수 있으며, 감사관이나 규제 기관은 에이전트가 어떻게 권장 사항에 도달했는지 재구성할 수 있습니다. 규정이 피해자에게 설명받을 권리를 부여하는 경우, 설명은 결정에 구체적이어야 합니다. 여기에는 주요 요인, 에이전트의 역할, 인간의 역할이 포함됩니다. "모델이 플래그를 지정했습니다"만으로는 충분하지 않습니다. 조사관은 에이전트 오버라이드를 포함하여 최종 결정을 내린 근거를 기록합니다.

에이전트는 조사 노력을 줄이고 제시된 증거의 일관성을 향상시킵니다. 조사관은 최종 결정에 대한 책임을 유지하며, 이는 주관적이고 미묘하며 결정론적이지 않을 수 있습니다.

패턴 4: 제한된 자율성을 가진 에이전틱 실행

에이전트가 행동해야 하지만 명시적인 운영 범위 내에서만 행동해야 할 때 이 패턴을 사용하세요.

거버넌스된 엔터프라이즈 데이터에 대한 액세스를 관리하는 거버넌스 인텔리전스 모듈을 고려해 보세요. 사용자는 어떤 데이터가 필요한지, 왜 필요한지, 얼마나 오래 필요한지 설명합니다. 에이전트는 요청을 해석하고, 적절한 데이터 제품을 식별하며, 필요한 최소 액세스를 결정하고, 관련 ID, 정책, 소유권, 분류, 리니지 및 사용 컨텍스트를 수집합니다.

모든 표준 요청에 대해 수동 승인을 요구하면 위험을 반드시 줄이지 못한 채 지연이 발생합니다. 액세스 권한을 부여하는 데 에이전트에게 무제한 권한을 부여하면 용납할 수 없는 제어 공백이 발생합니다. 이에 대한 답은 제한된 자율성입니다.

운영 범위는 다음을 정의합니다.

  • 스트레이트스루 프로세싱(straight-through processing) 자격이 있는 데이터 제품 및 액세스 수준;
  • 반드시 통과해야 하는 신원, 목적, 지역, 법적 인티티, 거주지 및 직무 분리 규칙;
  • 부여될 수 있는 최대 기간 및 최소 액세스 수준;
  • 에이전트가 시작할 수 있는 승인된 Unity Catalog 작업;
  • 인간의 승인이 필요한 민감하고 모호하거나 예외적인 요청; 그리고
  • 감사를 위해 액세스가 모니터링, 만료, 취소 및 기록되는 방식.

해당 범위 내에서 에이전트는 요청을 해석하고, 증거를 취합하고, 승인된 워크플로를 선택하고, 시간 제한이 있는 권한을 시작할 수 있습니다. Unity Catalog가 권한 부여를 강제하기 전에 결정론적 정책 서비스가 필수적인 모든 조건을 검증합니다.

모든 결정을 제약하려고 하지 마세요. 운영 범위를 제약하세요. 이 범위 내의 검증 주기에 걸쳐 다중 에이전트 판단 기준 프레임워크를 구현하면 자동화된 다각도 안전 검사를 통해 인간의 감독을 보완할 수도 있습니다.

요청이 범위를 벗어나는 경우(예: 민감한 데이터, 누락된 속성, 상충되는 정책, 과도한 권한 또는 직무 분리 예외와 관련된 경우) 시스템은 스트레이트스루 실행을 차단하고 적절한 데이터 소유자, 스튜어드 또는 위험 검토자에게 라우팅합니다.

기존 시스템이 에이전틱 아키텍처를 구동하는 방식

Databricks 플랫폼 기능

Databricks는 4가지 패턴 전반에 걸쳐 거버넌스가 적용된 기반을 제공합니다. Omnigent는 특정 에이전트를 아키텍처의 중심에 두지 않고도 에이전트와 에이전트 하네스를 구성할 수 있습니다. Unity Gateway는 모델, 도구, MCP 서버 및 외부 API에 대한 액세스를 제어합니다. Unity Catalog는 기업 데이터를 관리하고 레지던시 및 국경 간 전송 규칙을 포함하여 승인된 액세스를 강제합니다. 안전한 연결을 통해 이러한 제어 지점을 우회하지 않고 온프레미스, 클라우드 및 SaaS 시스템에 도달할 수 있습니다. MLflow는 규제 기관의 감사 기록 역할도 하는 추적 및 평가 증거를 보존합니다. 에이전트 호출이 거버넌스 제어 지점을 거쳐 온프레미스, 클라우드 및 규제 대상 관할 구역의 고객 시스템으로 흐르는 방식을 보여주는 참조 아키텍처는 첨부된 다이어그램을 참조하세요.

image1.png

전통적인 현대화는 기술이 실행되는 장소와 방식을 변경합니다. AI 전환은 실행 모델 자체를 변경합니다. 주로 미리 정의된 지침을 따르던 시스템 이제 해석, 추론, 생성 및 행동을 수행할 수 있습니다.

그렇다고 기업이 수십 년 동안 구축해 온 결정론적 시스템을 폐기해야 한다는 의미는 아닙니다. 많은 경우 이러한 시스템은 에이전틱 아키텍처의 기반이 됩니다.

  • 정책 엔진이 제어 평면이 됩니다.
  • 검증 프레임워크가 결정론적 판사가 됩니다.
  • 수락 기준이 에이전트 평가가 됩니다.
  • 운영 한도가 자율성 경계가 됩니다.
  • 거버넌스가 적용된 데이터, 리니지 및 감사 추적이 에이전트에 필요한 컨텍스트와 증거를 제공합니다.

기존 시스템을 단순히 에이전트로 교체하는 것이 전부가 아닙니다. 4가지 패턴 모두에서 에이전트를 배포할 수 있게 만드는 것은 거버넌스가 적용된 기업 데이터, 검증 가능한 리니지, 강제된 액세스, 측정 가능한 품질, 재현 가능한 감사 추적이라는 기반입니다.

이는 약한 아키텍처 경계가 제어 실패, 벌금 또는 규제 준수 지연으로 이어질 수 있는 규제 산업에서 특히 중요합니다. 잘 설계된 경계는 조사 노력을 줄이고, 현대화 주기를 단축하며, 모델에 부적절한 권한을 넘기지 않고도 고가치 자동화를 가능하게 합니다.

AI 네이티브 아키텍처는 결정론, 지능 및 권한이 어디에 위치해야 하는지 결정하는 것입니다.

에이전트를 선택하기 전에 패턴을 선택하세요

에이전틱 솔루션을 설계하기 전에 다음 세 가지 질문을 해보세요.

  • 에이전트가 무엇에 대해 추론할 수 있나요?
  • 에이전트에게 어떤 작업이 허용되나요?
  • 무엇이 에이전트의 권한 범위 밖에 있어야 하나요?

이러한 답변에 따라 솔루션에 결정론적 제어, 결정론적 판사, 인간 의사결정 경계 또는 명시적인 운영 범위가 필요한지 결정됩니다. 모델은 아키텍처 결정 이후에 선택되며 그 전이 아닙니다.

이러한 패턴들은 상호 배타적이지 않습니다. 프로덕션 시스템은 하나의 결정에 대해 결정론적 제어를 사용하고, 예외 상황에 대해서는 인간의 권한을 사용하며, 승인된 조치에 대해서는 제한된 자율성을 사용할 수 있습니다. 중요한 점은 각 경계를 명시적으로 만드는 것입니다.

시스템이 프로덕션 환경에서 성숙해짐에 따라 이러한 경계는 조정될 수 있습니다. 결정론적 판사는 누적된 사용 데이터로 평가 규칙을 개선하고, 인간 권한 경계는 피드백을 통해 에이전트 추론에 대한 신뢰가 형성됨에 따라 변경될 수 있습니다.

시리즈 이어보기

다음 4개의 기사에서는 각 패턴을 아키텍처에서 구현 단계로 발전시키는 방법을 다룹니다.

파트 2: 결정론적 제어와 에이전틱 추론
집행력이나 감사 가능성을 약화시키지 않으면서 결정론적 재무 제어 주변의 예외를 에이전트가 조사하는 방법.

파트 3: 에이전틱 실행과 결정론적 판사
결정론적 검증을 통해 결과의 수용 여부를 결정하는 동안 에이전트가 구현을 생성하고 수정하는 방법.

파트 4: 에이전틱 추론과 인간의 권한
책임 있는 조사자가 중요한 결정을 유지하는 동안 Lakewatch가 모니터링 신호, 은행 데이터 및 전문가 네트워크 인텔리전스를 검토 가능한 증거 패키지로 결합하는 방법.

파트 5: 제한된 자율성을 갖춘 에이전틱 실행
결정론적 권한 부여, Unity Catalog 강제 적용, 그리고 중대한 예외에 대한 인간의 해결을 통해 정책으로 정의된 운영 범위 내에서 에이전트가 거버넌스가 적용된 데이터 액세스를 조율하기 위한 디자인 청사진.

4가지 패턴 프레임워크를 사용하여 사용 사례를 분류한 다음, 시스템에 필요한 경계와 일치하는 구현 기사로 진행하세요. 여러 패턴에 걸쳐 있는 규제 대상 사용 사례의 경우, 에이전트 아키텍처를 선택하기 전에 Databricks 계정 팀 또는 FDE 참여 관리자에게 연락하여 제어, 추론 및 권한 경계를 매핑하세요.

저자 소개

Molly Nagamuthu는 Databricks의 수석 Forward Deployed Engineer입니다. 그녀는 현대화가 거버넌스, 제어 및 운영 엄격성과 공존해야 하는 글로벌 은행을 중심으로 복잡한 데이터 및 AI 전환 이니셔티브에 대해 기업들과 협력하고 있습니다.

이 시리즈에서 Molly와 다른 Forward Deployed Engineer들은 기업이 결정론적 아키텍처에서 AI 네이티브 시스템으로 전환함에 따라 현장 작업에서 도출되는 구현 패턴을 공유합니다.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)

최신 게시물을 이메일로 받아보세요

블로그를 구독하고 최신 게시물을 이메일로 받아보세요.