주요 컨텐츠로 이동
일체 포함

Thinking Machines Lab의 Inkling 모델, 이제 Databricks에서 지원

에이전트 및 애플리케이션 구축을 위해 Unity AI Gateway를 통해 제공되는 Thinking Machines Lab의 오픈 가중치 모델

작성자: Mike Eastham, Yuchen Jin , Preslav Le

  • Thinking Machines Lab의 오픈 가중치 모델인 Inkling을 이제 Unity AI Gateway를 통해 Databricks 플랫폼에서 사용할 수 있으므로, 기업 데이터에서 AI 에이전트 및 코딩 애플리케이션을 쉽게 구축하고 배포할 수 있습니다.
  • 코딩, 에이전트 추론 및 멀티모달 입력에 최적화된 오픈 가중치 모델로 빌드하는 동시에 비즈니스에 맞게 모델을 맞춤화할 수 있는 유연성을 유지하세요.
  • Unity AI Gateway의 중앙 집중식 보안, 권한, 비용 제어 및 관찰 가능성을 통해 Inkling을 제어하고, 이를 Cursor 및 OpenCode와 같은 코딩 에이전트에 연결하여 기업용 AI 개발을 가속화하세요.

Thinking Machines Lab(TML)의 데이 제로(day zero) 출시 파트너로 Databricks가 참여하게 되었음을 기쁘게 알려드립니다. TML의 첫 번째 오픈 가중치(open-weights) 모델인 Inkling을 Databricks 플랫폼에서 제공하여, 기업 고객이 자사 데이터에 적용하고 코딩 워크플로를 강화할 수 있도록 지원합니다. Inkling은 코딩 및 에이전트 추론(agentic reasoning) 워크플로에 탁월하며 멀티모달 입력을 지원하는 오픈 가중치 모델입니다.

오픈 가중치 모델은 고객이 자체 기업 데이터에 맞춰 맞춤화하여 더 높은 품질, 더 낮은 비용, 그리고 종종 더 빠른 대기 시간으로 전문화된 작업을 수행할 수 있도록 지원하므로 Databricks 미션의 핵심입니다. AI 연구 및 제품 기업인 Thinking Machines Lab(TML)의 Inkling은 최근 강력한 오픈 가중치 모델의 급증세를 이어가고 있습니다.

기업 팀에 이것이 중요한 이유:

컨텍스트: Inkling과 같은 오픈 가중치 모델은 독점 코드베이스, 내부 문서 및 도메인 특정 데이터에 대해 미세 조정(fine-tuning)되어 특정 작업에서 더 높은 정확도를 달성할 수 있습니다.

제어: Inkling은 기업이 Databricks의 모든 모델에 적용하는 것과 동일한 보안, 권한, 감사 로깅 및 정책 적용을 통해 Unity AI Gateway를 통해 거버넌스가 수행됩니다. 데이터는 거버넌스가 적용되는 환경 내에 유지됩니다.

선택권: 단일 모델 제공업체에 종속되지 않습니다. 팀은 요구 사항이 변화함에 따라 모델을 전환, 결합 또는 맞춤화할 수 있으며, 오픈 소스 및 독점 옵션 중에서 각 워크로드에 적합한 모델을 선택할 수 있습니다.

비용: 워크로드에 맞는 규모와 구성으로 Inkling을 배포하세요. 오픈 가중치 모델을 사용하면 조직은 토큰당 API 요금 없이 추론 비용을 최적화할 수 있습니다.

기업 데이터에 Inkling 적용하기

Inkling은 보안, 비용 제어 및 관찰 가능성을 위한 통합 거버넌스 레이어인 Unity AI Gateway에서 사용할 수 있습니다. REST API를 통해 Inkling을 호출하세요.

SQL 쿼리 지원이 곧 제공될 예정입니다.

Inkling 및 Unity AI Gateway로 코딩 워크플로 강화

Unity AI Gateway를 통해 Inkling을 Cursor, OpenCode 또는 Pi와 같은 인기 있는 코딩 에이전트와 연결하고, 액세스, 비용 제어 및 예산, 보안을 중앙에서 제어할 수 있습니다.

image1.png

지금 시작하기

이제 Databricks에서 Inkling을 사용할 수 있습니다. 시작하는 방법은 다음과 같습니다.

  • AI Playground에서 Inkling 사용해 보기: 매개변수를 조정하고 프롬프트를 노트북이나 SQL로 직접 내보낼 수 있습니다.
  • Unity AI Gateway를 통해 Inkling 배포하기: 기본 제공되는 보안, 비용 제한 및 관찰 가능성을 갖춘 거버넌스형 Inkling 엔드포인트를 몇 초 만에 설정하세요. Inkling을 Cursor 또는 OpenCode와 같은 코딩 에이전트에 연결할 수 있습니다.
  • Agent Bricks로 Inkling 기반 에이전트 구축하기: 데이터를 분석하고, 복잡한 작업을 자동화하며, 맞춤형 평가자(custom judges)로 평가하고 대규모로 배포하세요.
  • Foundation Model API 문서 읽기: Inkling을 위한 전체 API 참조 자료

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)

최신 게시물을 이메일로 받아보세요

블로그를 구독하고 최신 게시물을 이메일로 받아보세요.