Unity AI Gateway 정식 출시

지난 6개월 동안 AI 기반 생산성이 급격히 향상되었고 기업 전반에 걸쳐 에이전트가 급증했습니다. 이러한 에이전트는 지식 업무를 혁신할 수 있지만, 비용, 통제, 선택이 맞물리는 지점에서 다음과 같은 중대한 과제도 야기합니다:

1. 비용: 감당하기 힘든 지출. 도입 규모가 커짐에 따라, 사용자 수(seat)가 아닌 토큰을 추적하는 사용량 기반 요금제 모델로 인해 AI 비용이 기하급수적으로 증가하고 있습니다. 비용 관리를 더욱 어렵게 만드는 것은 AI 도구에 강력한 자체 비용 통제 기능이 부족하고, 전체 청구서를 한눈에 볼 수 있는 통합 뷰가 없다는 점입니다.
2. 통제: 보안 및 IP 리스크. 에이전트가 효과적으로 작동하려면 가장 민감한 데이터를 신뢰하고 맡길 수 있어야 합니다. 하지만 모델이 안전한 샌드박스를 벗어나고 있으며, 공급망 공격 및 프롬프트 인젝션으로 인해 데이터가 유출되고 있고, 데이터 보존 및 메모리 시스템이 통제되지 않는 데이터 복사본을 생성하고 있습니다.
3. 선택: 벤더 종속. 기업들은 개발자에게 최신 모델과 도구를 자유롭게 도입할 수 있는 자율성을 부여해야 한다는 압박을 받고 있습니다. 빠르게 진행되는 AI 혁신(매달 새로운 모델이나 에이전트 하네스가 출시됨!)으로 인해 특정 벤더에 종속되지 않고 민첩성을 유지하기가 어렵습니다.

이러한 과제는 광범위한 에이전트의 무분별한 확산으로 인해 더욱 악화되고 있으며, 기업들은 서로 단절된 플랫폼에서 여러 AI 도구와 수천 개의 맞춤형 에이전트를 관리하는 데 어려움을 겪고 있습니다.

엔터프라이즈 시스템은 아직 이러한 과제를 해결하지 못했습니다. 이것이 바로 저희가 Unity AI Gateway의 정식 출시(GA)를 발표하게 되어 기쁜 이유입니다. Unity AI Gateway는 기업이 코딩 에이전트, MCP, 외부 에이전트, 스킬, 모델 등 어디서나 AI 에이전트 및 자산 전반에 걸쳐 AI 지출을 관리하고 보안을 강화하는 데 필요한 비용, 통제, 그리고 선택의 지렛대를 제공합니다.

Rivian, Asana, Edmunds와 같은 수천 개의 고객사가 이미 Unity AI Gateway를 사용하여 조직 전체에 책임감 있게 AI를 도입하고 있으며, 지난 한 해 동안 1,000조 개 이상의 토큰이 저희 게이트웨이를 통과했습니다. Databricks 역시 내부적으로 Unity AI Gateway를 사용하여 각각 여러 주요 AI 도구에 액세스할 수 있는 수천 명의 직원들의 지출을 관리하고 있습니다. 전체 개요를 보려면 데모를 시청해 보세요!

비용: 완전한 AI 관측 가능성(observability) 및 비용 통제

기업은 모든 AI 예산이 어디로 흘러가는지 완전히 파악하고, 급증하는 비용을 실시간으로 차단할 수 있는 기능과, 개발자의 속도를 늦추거나 부담을 주지 않으면서 AI 예산 사용 방식을 지속적으로 최적화할 수 있는 방법이 필요합니다.

Unity AI Gateway는 외부 에이전트, MCP, 스킬, 코딩 어시스턴트를 포함한 모든 AI 자산의 중앙 허브 역할을 하며, 모델, 제공업체, 팀, 애플리케이션 전반에 걸쳐 엔드투엔드 관측 가능성과 세부적인 비용 귀속을 제공합니다. 이 데이터를 Unity Catalog에 중앙 집중화함으로써 즉시 사용 가능한 대시보드와 Genie 기반 분석을 제공하여 AI 투자에 대한 깊고 즉각적인 인사이트를 제공합니다. 또한 팀은 선제적인 예산을 수립하고 엄격한 지출 한도를 적용하여 AI 혁신이 예측 가능하고 비즈니스 목표에 부합하도록 유지할 수 있습니다.

AI 지출을 제어하는 데 도움이 되는 한 가지 기법은 독점 및 오픈 소스 프런티어 모델 전반에 걸쳐 라우팅하는 것입니다.현재 베타 버전인 스마트 라우팅(Smart Routing)은 개발자의 생산성을 제한하지 않으면서 기업이 AI 지출의 가치를 극대화할 수 있도록 지원합니다. Unity AI Gateway는 품질, 비용, 성능, 가용성, 예산 등의 요소를 기반으로 각 요청을 적절한 모델로 동적으로 라우팅하여, 가장 성능이 뛰어나고 비용이 많이 드는 모델은 해당 작업이 필요한 태스크를 위해 예약하고 다른 작업은 더 효율적인 옵션으로 라우팅합니다. 그 결과 개발자가 사용하는 도구나 필요한 품질을 타협하도록 강요하지 않으면서 모든 AI 지출에서 더 나은 가치를 얻을 수 있습니다. 베타에 참여하고 싶으시다면 어카운트 팀에 문의해 주세요.

“Unity AI Gateway는 가용성 문제 없이 월 1,000억 개 이상의 토큰에 달하는 프로덕션 규모를 처리하는 동시에, AI 지출에 대한 가시성과 사용자 수준의 통제력을 제공해 주었습니다. 쉽게 쿼리할 수 있는 사용량 테이블과 결합된 최신 프런티어 및 오픈 소스 모델에 대한 신속한 액세스 덕분에 새로운 모델을 빠르게 평가하고 AI 사용에 대한 맞춤형 분석을 구축할 수 있었습니다.” —Sriram Ravichandran, Technical Lead - Software Engineering, Zepto

"Unity AI Gateway 덕분에 데이터 제품과 코딩 에이전트 전반에서 대규모로 LLM을 중앙 집중식으로 거버넌스할 수 있게 되었습니다. 모델 제공업체 전반에 걸쳐 단일 거버넌스 액세스 계층을 제공하고, 포괄적인 관측 가능성 및 예산 통제 기능을 결합함으로써 조직 전체에서 AI를 안전하게 확장하는 것이 훨씬 쉬워졌습니다." —Max Lautner, Staff Engineer, Technical Lead, STRABAG SE

통제: 통합된 컨트롤 플레인을 통한 데이터 및 AI 거버넌스

저희는 데이터와 AI가 함께 거버넌스되어야 한다고 믿습니다. 결국 에이전트는 가장 민감한 기업 데이터와 상호 작용하고, 사용자를 대신하여 작업을 수행하기 위해 MCP 서버와 도구를 호출하여 데이터와 기록 시스템을 생성하기 때문입니다. 또한 생성된 에이전트 추적(trace)에는 기밀 정보, PII 데이터 또는 실수로 유출될 수 있는 기타 비밀 정보가 가득합니다. 기업은 모든 작업을 거버넌스하는 데 필요한 ID, 감사 추적, 정책을 유지하면서 에이전트가 액세스하고 수행할 수 있는 작업을 제어할 수 있는 통합된 방법이 필요합니다.

Unity Catalog 및 Unity AI Gateway를 통해 기업은 데이터와 AI를 한곳에서 거버넌스할 수 있습니다. Unity Catalog은 데이터 및 AI 자산에 대한 액세스를 거버넌스하는 ID, 권한, 리니지(lineage), 감사를 제공하는 한편, Unity AI Gateway는 AI 상호 작용 전반에 걸쳐 런타임 가드레일과 컨텍스트 정책을 적용합니다. 이 두 솔루션은 팀에 중앙 집중식 가시성과 통제력을 제공하여 별도의 거버넌스 및 보안 시스템을 짜깁기할 필요 없이 민감한 데이터를 보호하고, 정책을 시행하며, AI 활동을 조사할 수 있도록 지원합니다.

“Unity AI Gateway 덕분에 마침내 회사 전체에서 AI 코딩 도구와 에이전트가 어떻게 사용되는지에 대한 단일 진실 공급원(single source of truth)을 확보하게 되었습니다. 모든 요청은 우리가 이미 보유하고 있는 인프라 위에서 속도 제한, PII 가드레일, 사용자별 비용 귀속 기능과 함께 단일 컨트롤 플레인을 통해 실행됩니다. 다음 단계로, 저희는 Databricks와 협력하여 동일한 가시성과 통제력을 나머지 AI 스택 전반으로 확장하고 있습니다. 에이전트는 앞으로 더욱 자율화될 것입니다. 거버넌스된 단일 컨트롤 플레인을 갖춘다는 것은 수십 개의 문이 아닌 단 하나의 문만 감시하면 된다는 것을 의미합니다.” —Saravanan Lakshmanan, Tech Lead, Analytics Platforms, Rivian and Volkswagen Group Technologies (RV Tech)

"OnePay에서 AI 지향적이라는 것은 고객의 금융 데이터를 관리하는 수탁자로서의 책임을 다하는 동시에 팀원들에게 AI에 대한 광범위한 액세스를 제공하는 것을 의미합니다. Databricks의 Unity Catalog은 저희가 신뢰하는 거버넌스 기반이며, Unity AI Gateway는 동일한 신뢰 계층을 AI 도구, 에이전트, 개발 하네스 전반으로 확장해 줍니다. 이제 저희 팀은 일관된 가드레일을 통해 품질, 효율성, 관측 가능성을 타협하지 않으면서 더 빠르게 움직일 수 있습니다." —Nameet Pai, Head of Platform & Data Engineering, OnePay

선택: 종속 없는 개방형 멀티 AI 액세스

개발자는 단일 AI 에코시스템에 종속되지 않고 자신의 팀에 가장 적합한 모델, 제공업체, 코딩 에이전트, AI 도구를 자유롭게 선택하기를 원합니다. Unity AI Gateway는 개방형 멀티 AI 거버넌스 접근 방식을 제공하여, 팀이 어디서 빌드하든 Unity Catalog의 ID, 권한, 정책, 관측 가능성을 확장해 줍니다.

Unity Catalog을 통해 기업은 Databricks 호스팅 모델 및 외부 모델, 코딩 에이전트, MCP 서버, 스킬을 단일 진실 공급원(single source of truth)에서 등록하고 검색할 수 있습니다. 그런 다음 Unity AI Gateway는 이러한 AI 자산과의 상호 작용 전반에 걸쳐 거버넌스를 시행하여, 자산이 사용되는 모든 곳에 일관된 권한, 정책, 통제를 확장합니다. 기존 ID 제공업체 및 보안 도구를 이러한 AI 워크플로우로 확장할 수 있으므로, 팀은 거버넌스를 재구축하거나 신뢰할 수 있는 엔터프라이즈 통제를 대체하지 않고도 새로운 AI 기술을 유연하게 도입할 수 있습니다.

Unity AI Gateway는 단일 쿼리 API를 통해 Anthropic, OpenAI, Gemini, Kimi, GLM 등을 포함한 프론티어 모델에 대한 네이티브 액세스도 제공합니다. 덕분에 모델을 매우 쉽게 교체하고 최신 및 최고의 모델로 최신 상태를 유지할 수 있습니다.

“Unity AI Gateway는 Unity Catalog 거버넌스를 외부 모델 엔드포인트로 확장하여, 엔지니어에게 가장 적합한 도구를 자유롭게 사용할 수 있도록 하는 동시에 코딩 에이전트에 구애받지 않도록 해줍니다. 동시에 개별 엔지니어 수준에서 부서 전체에 이르기까지 AI 지출을 추적할 수 있는 기능을 통해 중앙 집중식 감독 및 비용 제어를 제공합니다.” —Bart Consedine, Head of AI Engineering, Magnite

"Unity AI Gateway는 거버넌스를 희생하지 않으면서 모든 코딩 작업에 적합한 모델을 선택할 수 있는 유연성을 제공합니다. 일관된 권한, 중앙 집중식 관측 가능성(observability), 엔지니어링 팀 전반에서 AI가 어떻게 사용되고 있는지에 대한 확신을 유지하면서 AI 환경의 변화에 맞춰 빠르게 움직일 수 있습니다." —Naveen Rao, CEO, Unconventional AI

"Unity AI Gateway는 조직 전체의 AI 트래픽을 관리하고 제어할 수 있는 단일 공간을 제공합니다. 빌트인 관측 가능성(observability)과 거버넌스가 적용된 기술을 안전하게 공유할 수 있는 표준화된 코딩 에이전트를 통해, 더 큰 자신감을 가지고 AI 도입을 확장할 수 있는 기반을 마련해 줍니다."—Greg Rokita, VP of Technology, Edmunds

Unity AI Gateway 시작하기

Unity AI Gateway는 오늘 정식 출시(GA)되어, 조직이 AI 도입 규모를 확장함에 따라 비용, 제어, 선택의 균형을 맞추는 통합된 AI 거버넌스 접근 방식을 제공합니다.

자세히 알아보기:

• 다음 플랫폼의 설명서를 살펴보세요: AWS, Azure 및 GCP
• Databricks 웹사이트 방문
• Databricks의 공동 창립자이자 CTO인 Matei Zaharia와 Databricks의 AI 제품 디렉터인 Kasey Uhlenhuth가 진행하는 8월 13일 AI 거버넌스 웨비나에 등록하세요.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)