Databricks에서 오픈 웨이트 모델을 도입해야 하는 엔터프라이즈의 이유

Databricks의 현장 엔지니어로서 저희는 기업용 AI 도입 현장에서 많은 시간을 보내며 전략의 명확한 변화를 목격해 왔습니다. 단일 프론티어 모델 제공업체를 표준화하는 데 2년을 보낸 후, 기업들은 다음과 같은 7가지 주요 압박 요인으로 인해 접근 방식을 재평가하고 있습니다.

AI 전략을 형성하는 7가지 관찰 결과

1. 지출이 충분한 수익을 창출하지 못하고 있습니다. AI 예산이 수익과 비용 절감 효과를 앞지르면서 더 나은 유닛 이코노믹스(단위 경제성)의 필요성이 대두되었습니다 [1].

2. 2023년 이후 모델 순위가 반복적으로 바뀌었습니다. 코딩, 추론, 추출에 가장 적합한 모델은 매달 바뀌며, 최고의 성능 순위는 2023년 5주 이후 20회 이상 바뀌었습니다 [2]. 단일 제공업체에 묶인 아키텍처는 순위가 바뀔 때 더 나은 모델을 채택하기 어렵게 만듭니다.

3. 프론티어 안전장치가 정상적인 작업을 차단할 수 있습니다. 최근 Hugging Face 사고에서 발견된 한계와 같이, AI 연구소에서 부과한 모델 안전장치는 라이브 악성코드 분석이나 패치를 위한 익스플로잇 재현과 같은 합법적인 작업을 거부할 수 있습니다 [6][7]. Hugging Face 대응팀이 분석을 위해 호스팅된 프론티어 모델에 실제 공격 로그와 익스플로잇 페이로드를 입력했을 때 안전장치가 이를 거부하여, 팀은 대신 오픈 웨이트 모델(GLM 5.2)에서 분석을 실행했습니다.

4. 데이터 보관 정책이 진화했으며 앞으로도 계속 그럴 수 있습니다. 일부 프론티어 제공업체는 Anthropic의 프론티어 티어와 함께 도입된 30일 최소 보관 기간과 같이 제로 데이터 보관(ZDR) 정책에서 벗어났습니다 [8]. "어떠한 프롬프트나 완성도 저장되지 않는다"는 원칙을 중심으로 컴플라이언스 정책이 작성된 기업의 경우, 업스트림 정책 변경으로 인해 문제가 발생하고 잠재적으로 시스템 변경이 필요할 수 있습니다.

5. 기업은 모델 거버넌스에 대한 가시성과 통제권을 원합니다. AI 모델 전반에 걸쳐 엔드투엔드 가시성과 거버넌스에 대한 수요가 증가하고 있습니다. 고객은 정확도를 평가하고 성능을 개선할 수 있도록 모델 입력, 출력, 오류, 에이전트 작업에 대한 검색 가능한 기록뿐만 아니라 민감한 데이터와 지적 재산을 보호하기 위한 중앙 집중식 제어 기능을 원합니다.

6. 모델만큼이나 하네스도 중요합니다. Databricks의 연구에 따르면 모델을 둘러싼 스캐폴딩, 즉 프롬프트, 도구, 제어 흐름의 하네스가 측정된 성능을 변화시키는 것으로 나타났습니다. Databricks 자체 벤치마크에서 동일한 모델은 하나의 하네스에서 61.7%, 다른 하네스에서 48.1%, 베어 모델에서는 38.4%의 점수를 기록했습니다 [9]. 하네스 선택에 따라 벤치마크 결과가 달라지므로 평가 시 모델과 하네스를 함께 테스트해야 합니다.

7. 오픈 웨이트 모델이 프론티어 모델을 따라잡았습니다. 상위 오픈 웨이트 모델은 이제 더 낮은 비용으로 상위 프론티어 모델에 필적하는 수준의 벤치마크를 기록하고 있습니다 [3][4][5]. 18개월 전만 해도 그렇지 않았습니다. 프론티어 수준의 벤치마크 성능을 달성하는 오픈 웨이트 모델은 앞선 6가지 포인트에서 설명한 비용, 제어, 배포의 상충 관계를 변화시킵니다.

이러한 관찰 결과를 바탕으로 기업들은 1) 생산성 향상을 희생하지 않으면서 비용을 최적화하고, 2) 운영의 자유를 유지하며, 3) AI 구현이 혁신을 신속하게 통합할 수 있도록 보장하고자 합니다. 이를 위해 거버넌스를 약화시키지 않으면서 모델과 하네스를 변경할 수 있는 아키텍처가 필요합니다.

오픈 웨이트 모델의 장점

오픈 웨이트 모델은 프론티어 모델에 비해 비용 효율성, 제어 및 유연성을 향상시킵니다.

• 컴모디티화된 지능(Commoditized Intelligence): 모델 지능이 범용화됨에 따라 이제 오픈 웨이트 옵션은 적은 비용으로 상위 프론티어 모델과 동등한 지능을 제공하여 AI 배포의 ROI를 높여줍니다.
• 데이터 주권: 제어 가능한 인프라에 모델을 호스팅하면 팀이 컴플라이언스, 보안, 데이터 보관 정책에 대한 권한을 갖게 되며 향후 컴플라이언스를 위반하는 변경의 위험을 줄일 수 있습니다.
• 완전한 운영 자율성: 오픈 웨이트 모델을 사용하면 팀은 프론티어 안전장치로 인해 방해를 받을 수 있는 워크로드(예: 사이버 보안 대응)를 실행할 수 있습니다.

출처: [5] 비용 기준 DeepSWE 리더보드. 작성자의 재량에 따라 필터링된, 독점적 동등 모델과 비교된 상위 오픈 웨이트 모델 중 일부입니다.

Unity Gateway에서 오픈 웨이트 모델을 사용할 때의 이점

프론티어 모델과 함께 오픈 웨이트 모델 활용

Unity Gateway는 중앙 집중식 거버넌스 제어가 포함된 통합 API를 통해 오픈 웨이트 및 프론티어 모델을 제공하므로, 팀은 코드 변경이나 기타 추상화 [12][13] 대신 구성이나 스마트 라우팅 [10][11]을 통해 모델 간에 전환할 수 있습니다.

Unity Gateway의 멀티 모델 기능은 고객의 AI 전략에서 점차 필수가 되어가고 있습니다. 1월 이후 고객당 사용되는 고유 모델의 평균 개수는 4.2개에서 7.1개로 증가했으며, 이는 Unity Catalog에서 사용할 수 있는 옵션과 ROI가 높은 모델을 추구하고 있음을 나타냅니다. 이 모델들 중 약 40%가 오픈 웨이트였습니다.

출처: 2026년 1월 5일로 끝나는 주부터 2026년 7월 27일로 끝나는 주까지의 Databricks 내부 데이터. Genie One을 사용하여 생성되었습니다.

업계 최고 수준의 속도로 대규모 오픈 웨이트 모델 사용

경쟁력 있는 응답 시간으로 대규모 오픈 웨이트 모델을 제공하려면 대규모 비용 효율성을 유지하기 위한 최적화가 필요합니다. Databricks는 프론티어 GPU에 배포된 맞춤형 추론 엔진과 최적화된 커널을 활용하여 지연 시간 제약을 해결합니다. Artificial Analysis의 독립적인 평가는 이러한 성능 특성을 강조합니다. 예를 들어 GLM 5.3(max)은 Databricks에서 9.1초의 엔드투엔드 응답 시간(입력 처리, 추론, 생성 포함)을 달성하며 [15], 최고 수준의 관리형 엔드포인트와 비교해도 손색없는 성능을 보여줍니다 [16].

출처: [15] GLM 5.3 모델 제공업체: Artificial Analysis

한 곳에서 모든 모델의 비용 및 사용량 거버넌스 관리

Unity Gateway에서 이러한 모델을 관리하고 비용을 제어하는 데 도움이 되는 주요 기능은 다음과 같습니다.

• 스마트 라우팅은 작업을 위한 비용 효율적인 모델로 세션을 전송하므로 일상적인 작업이 프론티어 모델에서 벗어나게 됩니다 [10][11].
• 폴백 체인은 모델 속도 제한이나 제공업체 중단에 대응하여 트래픽을 자동으로 재라우팅합니다 [14].
• 사용자, 팀 또는 유스케이스별 지출 상한선이 있는 예산은 과도한 지출을 방지합니다 [19][30]. 이러한 제한은 경미한 경고부터 세션을 더 저렴한 모델로 재라우팅하는 엄격한 정책에 이르기까지 다양한 수준의 엄격함으로 구성할 수 있습니다.
• 도구 및 스킬을 위한 중앙 집중식 거버넌스. Unity Catalog는 기본 제공 MCP 서버와 함께, 관리형 프록시를 통해 실행되고 중앙에서 감사되는 외부 MCP 서버 등록을 지원합니다. 따라서 에이전트는 모델과 동일한 거버넌스를 통해 도구를 사용할 수 있습니다 [20]. 스킬 [21] 역시 등록 및 거버넌스가 가능하므로, 반복 가능한 워크플로에서 결정론과 토큰 효율성이 향상됩니다.
• 오픈 웨이트, 외부, 프론티어 모델 전반의 통합 거버넌스. 모델 공급자 서비스 [17]를 통해 외부 모델 공급자(예: Amazon Bedrock, Azure AI Foundry)를 연결하고, Databricks에서 호스팅되는 오픈 웨이트 및 프론티어 모델에 사용되는 것과 동일한 중앙 거버넌스 레이어를 통해 요청을 라우팅하세요 [18]. 단일 플랫폼에서 전체 모델 포트폴리오에 대한 액세스, 비용 제어, 감사 추적을 관리할 수 있습니다.

기업들이 오픈 웨이트 모델로 워크플로를 전환하고 있습니다

GLM 5.2는 Unity Gateway에서 오픈 웨이트 사용량이 급격히 증가한 시기와 맞물려 있습니다. 7월 중순에 GLM 5.2가 제공된 이후 사용량이 증가했습니다. 동시에 Unity Gateway 고객의 성장은 비교적 일관되게 유지되었으며, 이는 기존 고객들이 더 많은 AI 트래픽을 오픈 웨이트 모델로 전환했음을 시사합니다. 처음 제공된 지 불과 한 달 만에 GLM 5.2는 Unity Gateway에서 사용된 오픈 웨이트 토큰의 약 40%를 차지하고 있으며, 해당 성장의 대부분은 점진적인 것입니다. GLM 5.3과 Kimi K3의 벤치마크 성능은 고객에게 GLM 5.2와 함께 평가할 수 있는 또 다른 오픈 웨이트 옵션을 제공합니다 [5].

출처: 2026년 1월 5일로 끝나는 주부터 2026년 7월 27로 끝나는 주까지의 Databricks 내부 데이터. Genie One을 사용하여 작성됨

이러한 수요를 지원하기 위해 Databricks는 7월에 30억 달러 규모의 펀딩 라운드를 발표했으며, 알리 고드시(Ali Ghodsi) CEO는 CNBC와의 인터뷰에서 이번 투자가 부분적으로 오픈 모델을 호스팅하기 위한 GPU 용량을 확보하기 위한 것이라고 밝혔습니다. "전 세계적으로 GPU가 부족합니다... 일본, 한국, 미국, 인도 등에서 많은 물량이 필요하며, 이를 위해서는 상당한 자금이 요구됩니다. 이것이 바로 우리가 이번 펀딩을 진행하게 된 계기입니다" [22].

Unity Gateway를 통해 공급자 하네스에서 오픈 웨이트 모델에 액세스하세요

개발자가 이미 사용 중인 하네스에서도 Databricks에서 호스팅되는 오픈 웨이트 모델을 계속 실행할 수 있습니다. 7월 말 기준으로 GLM 5.3을 포함하여 Unity Gateway에서 제공되는 모델은 Codex 및 OpenCode와 같은 공급자 코딩 하네스 내에서 실행할 수 있으며 [12][26], 추가 하네스에 대한 지원도 확대되고 있습니다. 게이트웨이는 하네스별로 OpenAI 호환 엔드포인트를 노출하므로 간단한 설정 변경만으로 이용할 수 있습니다. 하네스를 워크스페이스의 게이트웨이 URL로 지정하거나 한 줄의 코드로 ucode 헬퍼를 사용하세요:

ucode codex --model system.ai.glm-5-3

마무리

기업은 단일 모델이나 공급자가 모든 워크플로에서 품질, 비용, 정책 적합성 측면을 모두 충족할 수는 없으므로 모델 포트폴리오를 계획해야 합니다. 선택 가능한 옵션 중에서 오픈 웨이트 모델은 이제 더 낮은 비용으로 경쟁력 있는 인텔리전스를 제공하며 데이터 처리 및 거버넌스 정책에 대한 더 나은 제어력을 제공합니다. 반면 프론티어 모델은 더 나은 결과를 제공하는 영역에서 여전히 유용합니다. Unity Gateway는 공통 액세스 제어, 라우팅 정책, 예산, 감사를 통해 이러한 옵션을 관리합니다. Omnigent는 이러한 유연성을 하네스로 확장하여 팀이 워크플로를 다시 빌드하지 않고도 모델이나 에이전트 환경을 변경할 수 있도록 합니다.

이 기사의 사용 데이터는 고객들이 이미 이러한 방향으로 이동하고 있음을 보여줍니다. 고객들은 더 많은 모델을 서빙하고, 더 많은 트래픽을 오픈 웨이트로 유도하며, 휴대용 하네스를 사용하여 선택의 폭을 넓히고 있습니다. 지속적인 경쟁력은 모델 옵션, 품질, 가격 및 정책 요구 사항이 진화함에 따라 이러한 변경을 신속하게 수행할 수 있는 능력입니다.

출처

[1] Nanda, M., Challapally, A., Pease, C., Raskar, R., & Chari, P. (2025년 7월). 생성형 AI 격차: 2025년 비즈니스 AI 동향 (AI 구현 연구 예비 결과). 프로젝트 NANDA, 매사추세츠 공과대학교. 
[2] LLM 리더보드 이력: 2023-2026년 추적된 AI 순위, BenchLM 
[3] Kimi K3 - 지능, 성능 및 가격 분석, Artificial Analysis 
[4] GLM-5.3 (max) - 지능, 성능 및 가격 분석 | Artificial Analysis 
[5] 비용 기준 DeepSWE 리더보드 
[6] 보안 사고 공개, 2026년 7월, Hugging Face 블로그 
[7] OpenAI의 Hugging Face 침해 사고로 드러난 프런티어 AI 가드레일의 실패, Forbes, 2026년 7월 23일 
[8] Fable 5 및 Mythos 5 접근 중단에 관한 미국 정부 지침 성명 
[9] AI 에이전트 하네스란 무엇인가요?, Databricks 블로그 
[10] 코딩 에이전트를 위한 스마트 라우팅 
[11] Unity AI Gateway의 스마트 라우팅: 태스크당 30% 이상 낮은 비용으로 프런티어 수준의 품질 달성 
[12] Databricks 호스팅 파운데이션 모델, Databricks 문서 
[13] Agent Bricks: Data + AI Summit 2026, Databricks 블로그 
[14] 모델 서비스를 위한 라우팅 및 폴백 구성 
[15] GLM-5.3 (max) API 제공업체 벤치마킹 및 분석 
[16] https://artificialanalysis.ai/models#end-to-end-response-time 
[17] 외부 모델 제공업체 거버넌스(모델 제공업체 서비스) 
[18] Databricks Unity AI Gateway 문서 
[19] Unity Gateway 예산 관리 
[20] Unity AI Gateway: 에이전트를 외부 MCP에 안전하게 연결하는 방법, Databricks 블로그 
[21] Unity Gateway의 스킬 지원 
[22] Databricks CEO: Kimi와 같은 오픈 소스 모델을 호스팅하느라 GPU가 부족합니다, CNBC, 2026년 7월 17일 
[23] 모델 및 자격 증명, Omnigent 문서 
[24] Databricks의 수백만 줄 코드베이스에서 코딩 에이전트 벤치마킹 
[25] Unity AI Gateway로 대규모 MCP 거버넌스 구현 
[26] 코딩 에이전트와 함께 오픈 소스 모델 사용 
[27] Unity AI Gateway: 멀티 AI 거버넌스 및 비용 제어, Databricks 
[28] Omnigent 소개: 에이전트를 결합, 제어 및 공유하기 위한 메타 하네스, Databricks 블로그 
[29] GLM-5.2 제공업체: 출력 속도 비교, Artificial Analysis 
[30] Unity Gateway를 통한 AI 지출 제어 기능 소개 
[31] Omnigent 소개: 에이전트를 결합, 제어 및 공유하기 위한 메타 하네스

Unity AI Gateway 살펴보기

단일 통합 플랫폼을 통해 오픈웨이트, 프런티어 및 외부 모델을 거버넌스하고 라우팅 및 모니터링하는 방법을 알아보세요.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)