Databricks에서 OpenAI의 새로운 오픈 모델 소개

저희는 OpenAI와 협력하여 오늘날 Databricks에서 네이티브로 사용할 수 있는 오픈 가중치 모델인 gpt-oss 20B 및 gpt-oss 120B를 출시하게 되어 기쁩니다.

gpt-oss 모델은 고급 추론 및 도구 사용을 지원하며 오픈 모델의 새로운 품질 표준을 설정합니다. 오픈 모델은 엔터프라이즈 데이터 및 도메인에서 추론할 수 있는 AI를 구축하기 위해 더 쉽게 사용자 정의할 수 있으며, 독점 모델과 함께 강력한 옵션을 제공합니다.

gpt-oss는 Databricks의 프론티어 모델 세트에 합류하여, 완전한 거버넌스 및 관찰 가능성으로 데이터를 안전하게 활용하면서 사용 사례에 가장 적합한 모델을 사용하여 도메인별 맞춤형 AI 에이전트를 구축할 수 있게 해줍니다.

gpt-oss로 구축할 수 있는 것

OpenAI는 gpt-oss 20B 및 120B의 두 가지 모델을 출시하며, 두 모델 모두 추론 및 도구 사용을 지원합니다.

이 모델들은 GenAI로 구축할 수 있는 범위를 확장하여 새로운 사용 사례를 가능하게 하고 속도, 비용 및 품질의 균형을 맞출 수 있게 합니다. gpt-oss는 단독으로 또는 GPT-4o, Claude, Llama와 같은 모델과 함께 사용할 수 있습니다. 다음 사용 사례에 적합합니다:

• 빠른 에이전트
  Mixture of Experts 아키텍처로 구축된 gpt-oss 는 검색, 채팅, 실시간 의사 결정과 같은 사용 사례에 대해 낮은 지연 시간 성능을 제공합니다.
• 대규모 데이터 분석
  Databricks에서 데이터 및 도구 바로 옆에서 모델을 직접 실행하여 수백만 개의 문서를 효율적으로 요약하고 분류합니다.
• 모델 사용자 정의
  오픈 가중치를 도메인 및 사용 사례에 맞게 미세 조정하여 일반 목적 모델이 부족한 전문 작업에 대한 품질을 향상시킵니다.
• 엔터프라이즈급 규정 준수
  이미 승인된 HIPAA, PCI 규정 준수, Unity Catalog 거버넌스 플랫폼 내에 배포합니다.

Databricks에서 gpt-oss 사용하기

다른 지원 모델과 마찬가지로 파운데이션 모델 API를 통해 Playground에서 즉시 gpt-oss를 사용해 보세요. 항상 그렇듯이 Agent Bricks AI Gateway는 내장된 로깅, 가드레일 및 PII 감지를 통해 사용량을 자동으로 관리하므로 팀은 엔터프라이즈 애플리케이션에서 gpt-oss를 자신 있게 사용할 수 있습니다.

gpt-oss를 데이터에 안전하게 연결하기

gpt-oss를 사용하여 엔터프라이즈 데이터에 안전하게 액세스할 수 있는 지능형 복사본 및 에이전트를 구축하세요. 거버넌스가 내장된 RAG 워크플로를 지원하고, 문서를 검색하고, API를 호출합니다.

SQL 또는 Lakeflow로 작업 자동화

SQL, 노트북 또는 Lakeflow에서 gpt-oss 를 사용하여 분류, 요약 및 추출을 자동화하세요. 제로 설정으로 대규모로 수행할 수 있습니다.

gpt-oss 사용자 정의

gpt-oss와 같은 오픈 모델은 도메인별 데이터에서 더 쉽게 사용자 정의할 수 있습니다. Databricks AI Runtime를 사용하여 고유한 엔터프라이즈 데이터로 gpt-oss를 미세 조정하여 최종 사용 사례에 대한 모델의 품질을 최적화하세요. 빠른 확장 가능한 미세 조정 실험 및 워크플로를 위해 내장된 MLflow 추적 기능이 있는 대화형 노트북을 활용하세요. 이 미세 조정 기능에 대한 조기 액세스는 Databricks 팀에 문의하세요. 또한 엔터프라이즈는 Vector Search 및 기능 제공을 통해 구조화 및 비구조화 데이터를 사용하여 gpt-oss를 증강할 수 있습니다.

gpt-oss 시작하기

gpt-oss 모델은 현재 AWS, Azure 및 GCP 전반의 파운데이션 모델 API에서 사용할 수 있으며, 향후 며칠 내에 프로비저닝된 처리량 및 AI 함수 지원이 출시될 예정입니다.

• Agent Bricks AI Playground에서 사용해 보세요
• gpt-oss 설명서를 읽어보세요
• Agent Framework 및 gpt-oss를 사용하여 에이전트를 구축하는 방법을 배워보세요
• 데이터를 위한 AI 함수를 살펴보세요
• AI Runtime를 사용하여 gpt-oss를 미세 조정하세요
   

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)