악성 AI 방지: Unity Catalog가 에이전트 작업을 보호하는 방법

에이전트 AI의 위험은 더 이상 이론적인 문제가 아닙니다. 외부 도구에 연결된 에이전트가 프로덕션 환경에서 파괴적이고 되돌릴 수 없는 작업을 수행하고 있습니다: 몇 초 만에 전체 데이터베이스 삭제, 수백만 개의 중요 데이터 행 삭제, 그리고 작업 도중 프로덕션 데이터베이스 삭제. 각 사고에서 에이전트는 위임된 권한 범위 내에서 작동했습니다. 부족했던 것은 호출할 수 있는 도구에 대한 제한과 수행한 작업에 대한 기록이었습니다.

오늘, 저희는 세분화된 액세스 제어, 정책 적용 및 완전한 감사 추적을 통해 데이터를 관리하는 것과 동일한 방식으로 모든 MCP 도구를 관리할 수 있는 기능을 출시합니다. Unity Catalog를 통해 이제 누가 어떤 MCP 서버를 호출할 수 있는지 설정할 수 있으며, 관리자는 서비스 정책을 적용하여 특정 도구(예: delete_database)에 대한 액세스를 제한하거나 도구를 호출할 수 있는 조건(예: 관리자만 delete_database를 호출할 수 있음)을 정의할 수 있습니다. Unity AI Gateway는 모든 호출에 대해 실시간으로 이러한 정책을 적용하며, 모든 요청의 전체 페이로드 로깅을 제공합니다.

문제: 액세스는 전면적이거나 전무하며, 도구 호출은 흔적을 남기지 않습니다.

MCP 서버는 연결된 모든 에이전트에 일련의 도구를 노출합니다. GitHub MCP는 `push_files`, `delete_file`, `merge_pull_request`를 노출할 수 있고, 데이터베이스 MCP는 `execute_query` 및 `drop_table`을 노출할 수 있습니다. 기본적으로 에이전트가 연결하도록 승인되면 모든 도구를 언제든지 사용할 수 있습니다. 이 에이전트는 읽을 수는 있지만 쓸 수는 없다거나, 선임 엔지니어만 이 작업을 수행할 수 있다거나, 프로덕션 환경에서 관리 도구를 호출해서는 안 된다고 말할 방법이 없습니다.

그리고 문제가 발생하더라도 조사할 것이 없습니다. 도구 호출은 모델 로그나 애플리케이션 로그에 나타나지 않습니다. 에이전트가 어떤 인수로 누구를 대신하여 수행한 정확한 작업은 어디에도 기록으로 존재하지 않습니다.

이는 잘못 구성된 에이전트 하나, 예상치 못한 작업 하나로 인해 발생하기 전에 방지할 방법도, 발생한 후에 설명할 방법도 없다는 의미입니다.

솔루션: Unity Catalog의 MCP 거버넌스

Unity Catalog는 이제 LLM 및 MCP를 포함한 전체 GenAI 자산을 관리합니다. MCP가 등록되면 누락되었던 것, 즉 에이전트가 수행할 수 있는 작업에 대한 제어와 실제로 수행한 작업에 대한 전체 기록을 얻게 됩니다. 두 가지 모두 Unity AI Gateway에 의해 모든 MCP 호출에 대해 실시간으로 적용됩니다.

서비스 정책을 통해 업스트림 MCP 서버에 도달하기 전후에 모든 도구 호출을 평가하는 규칙을 작성할 수 있습니다. 어떤 호출을 허용하거나 거부할지, 또는 사용자 동의가 필요한지 결정합니다. 서비스 정책은 SQL로 정의되며, 관리자는 호출자 속성 및 기타 컨텍스트 속성을 포함한 인수를 확인할 수 있습니다. 호출이 정책을 통과하지 못하면 차단됩니다.

페이로드 로깅은 모든 도구 호출을 Unity Catalog에서 관리되는 추적 테이블의 항목으로 캡처합니다. 도구 이름, 인수, 결과, 사용자 ID, 그리고 호출이 허용되었는지 거부되었는지 여부가 기록됩니다. 다른 테이블과 마찬가지로 SQL로 쿼리할 수 있습니다.

작동 방식

Unity Catalog에서 정책 함수 정의

Unity Catalog를 사용하면 모든 외부 MCP를 등록하고 관리할 수 있습니다(작동 방식은 저희 블로그를 참조하세요!). 서비스 정책은 Unity Catalog SQL 함수입니다. 이 함수는 두 가지 인수, 즉 호출자(actor)와 호출 내용(context)을 받아서 허용 또는 거부와 그 이유를 반환합니다.

연결 및 적용

정책이 작성되면 Unity AI Gateway의 모든 MCP 서비스에 정책을 연결합니다. 그 시점부터 해당 서비스를 통해 라우팅되는 모든 도구 호출은 실행되기 전에 평가됩니다. 에이전트나 MCP 서버에서 코드 변경이 필요하지 않습니다.

로그 및 확인

모든 도구 호출은 Unity Catalog의 Delta 테이블에 자동으로 캡처됩니다. 차단되어야 할 프롬프트와 통과되어야 할 프롬프트를 보냅니다. 결과는 로그에 즉시 나타나며, 다른 테이블과 마찬가지로 SQL로 쿼리할 수 있습니다.

시작하기

MCP용 서비스 정책 및 페이로드 로깅은 Gated Beta로 제공되며, 데이터에 이미 사용하고 있는 동일한 거버넌스 개념을 모든 MCP 호출로 확장합니다. 조기 액세스를 원하시면 Databricks 계정 팀에 문의하십시오.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)