에이전트 및 애플리케이션 구축을 위해 Unity AI Gateway를 통해 제공되는 Thinking Machines Lab의 오픈 가중치 모델
작성자: Mike Eastham, Yuchen Jin , Preslav Le
Thinking Machines Lab(TML)의 데이 제로(day zero) 출시 파트너로 Databricks가 참여하게 되었음을 기쁘게 알려드립니다. TML의 첫 번째 오픈 가중치(open-weights) 모델인 Inkling을 Databricks 플랫폼에서 제공하여, 기업 고객이 자사 데이터에 적용하고 코딩 워크플로를 강화할 수 있도록 지원합니다. Inkling은 코딩 및 에이전트 추론(agentic reasoning) 워크플로에 탁월하며 멀티모달 입력을 지원하는 오픈 가중치 모델입니다.
오픈 가중치 모델은 고객이 자체 기업 데이터에 맞춰 맞춤화하여 더 높은 품질, 더 낮은 비용, 그리고 종종 더 빠른 대기 시간으로 전문화된 작업을 수행할 수 있도록 지원하므로 Databricks 미션의 핵심입니다. AI 연구 및 제품 기업인 Thinking Machines Lab(TML)의 Inkling은 최근 강력한 오픈 가중치 모델의 급증세를 이어가고 있습니다.
기업 팀에 이것이 중요한 이유:
컨텍스트: Inkling과 같은 오픈 가중치 모델은 독점 코드베이스, 내부 문서 및 도메인 특정 데이터에 대해 미세 조정(fine-tuning)되어 특정 작업에서 더 높은 정확도를 달성할 수 있습니다.
제어: Inkling은 기업이 Databricks의 모든 모델에 적용하는 것과 동일한 보안, 권한, 감사 로깅 및 정책 적용을 통해 Unity AI Gateway를 통해 거버넌스가 수행됩니다. 데이터는 거버넌스가 적용되는 환경 내에 유지됩니다.
선택권: 단일 모델 제공업체에 종속되지 않습니다. 팀은 요구 사항이 변화함에 따라 모델을 전환, 결합 또는 맞춤화할 수 있으며, 오픈 소스 및 독점 옵션 중에서 각 워크로드에 적합한 모델을 선택할 수 있습니다.
비용: 워크로드에 맞는 규모와 구성으로 Inkling을 배포하세요. 오픈 가중치 모델을 사용하면 조직은 토큰당 API 요금 없이 추론 비용을 최적화할 수 있습니다.
Inkling은 보안, 비용 제어 및 관찰 가능성을 위한 통합 거버넌스 레이어인 Unity AI Gateway에서 사용할 수 있습니다. REST API를 통해 Inkling을 호출하세요.
SQL 쿼리 지원이 곧 제공될 예정입니다.
Unity AI Gateway를 통해 Inkling을 Cursor, OpenCode 또는 Pi와 같은 인기 있는 코딩 에이전트와 연결하고, 액세스, 비용 제어 및 예산, 보안을 중앙에서 제어할 수 있습니다.

이제 Databricks에서 Inkling을 사용할 수 있습니다. 시작하는 방법은 다음과 같습니다.
(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)
블로그를 구독하고 최신 게시물을 이메일로 받아보세요.