Databricks에서 OpenAI의 새로운 오픈 모델 소개
OpenAI gpt-oss를 사용하여 지능적이고 도메인별 AI 에이전트를 안전하게 구축
작성자: Databricks 엔지니어링팀
Archived. This article has not been updated since the publish date above. The dynamic nature of information means that previously accurate content can become outdated or even obsolete over time. Readers are advised to exercise due diligence and cross-check any information found in this blog post before making decisions or adopting any practices based on said information.
- Databricks의 gpt-oss: 고급 추론 및 빠르고 비용 효율적인 성능을 갖춘 오픈 가중치 20B 및 120B 모델.
- 안전하고 도메인 준비된 AI: 엔터프라이즈 데이터와 함께 실행되는 맞춤형 규정 준수 에이전트 구축.
- 확장 가능하고 유연함: 131k 컨텍스트로 작업 자동화, 모델 미세 조정, 실시간 앱 지원.
저희는 OpenAI와 협력하여 오늘날 Databricks에서 네이티브로 사용할 수 있는 오픈 가중치 모델인 gpt-oss 20B 및 gpt-oss 120B를 출시하게 되어 기쁩니다.
gpt-oss 모델은 고급 추론 및 도구 사용을 지원하며 오픈 모델의 새로운 품질 표준을 설정합니다. 오픈 모델은 엔터프라이즈 데이터 및 도메인에서 추론할 수 있는 AI를 구축하기 위해 더 쉽게 사용자 정의할 수 있으며, 독점 모델과 함께 강력한 옵션을 제공합니다.
gpt-oss는 Databricks의 프론티어 모델 세트에 합류하여, 완전한 거버넌스 및 관찰 가능성으로 데이터를 안전하게 활용하면서 사용 사례에 가장 적합한 모델을 사용하여 도메인별 맞춤형 AI 에이전트를 구축할 수 있게 해줍니다.
gpt-oss로 구축할 수 있는 것
OpenAI는 gpt-oss 20B 및 120B의 두 가지 모델을 출시하며, 두 모델 모두 추론 및 도구 사용을 지원합니다.
이 모델들은 GenAI로 구축할 수 있는 범위를 확장하여 새로운 사용 사례를 가능하게 하고 속도, 비용 및 품질의 균형을 맞출 수 있게 합니다. gpt-oss는 단독으로 또는 GPT-4o, Claude, Llama와 같은 모델과 함께 사용할 수 있습니다. 다음 사용 사례에 적합합니다:
- 빠른 에이전트
Mixture of Experts 아키텍처로 구축된 gpt-oss 는 검색, 채팅, 실시간 의사 결정과 같은 사용 사례에 대해 낮은 지연 시간 성능을 제공합니다. - 대규모 데이터 분석
Databricks에서 데이터 및 도구 바로 옆에서 모델을 직접 실행하여 수백만 개의 문서를 효율적으로 요약하고 분류합니다. - 모델 사용자 정의
오픈 가중치를 도메인 및 사용 사례에 맞게 미세 조정하여 일반 목적 모델이 부족한 전문 작업에 대한 품질을 향상시킵니다. - 엔터프라이즈급 규정 준수
이미 승인된 HIPAA, PCI 규정 준수, Unity Catalog 거버넌스 플랫폼 내에 배포합니다.
모델 하이라이트
|
Databricks에서 gpt-oss 사용하기
다른 지원 모델과 마찬가지로 파운데이션 모델 API를 통해 Playground에서 즉시 gpt-oss를 사용해 보세요. 항상 그렇듯이 Agent Bricks AI Gateway는 내장된 로깅, 가드레일 및 PII 감지를 통해 사용량을 자동으로 관리하므로 팀은 엔터프라이즈 애플리케이션에서 gpt-oss를 자신 있게 사용할 수 있습니다.
gpt-oss를 데이터에 안전하게 연결하기
gpt-oss를 사용하여 엔터 프라이즈 데이터에 안전하게 액세스할 수 있는 지능형 복사본 및 에이전트를 구축하세요. 거버넌스가 내장된 RAG 워크플로를 지원하고, 문서를 검색하고, API를 호출합니다.
SQL 또는 Lakeflow로 작업 자동화
SQL, 노트북 또는 Lakeflow에서 gpt-oss 를 사용하여 분류, 요약 및 추출을 자동화하세요. 제로 설정으로 대규모로 수행할 수 있습니다.
gpt-oss 사용자 정의
gpt-oss와 같은 오픈 모델은 도메인별 데이터에서 더 쉽게 사용자 정의할 수 있습니다. Databricks AI Runtime를 사용하여 고유한 엔터프라이즈 데이터로 gpt-oss를 미세 조정하여 최종 사용 사례에 대한 모델의 품질을 최적화하세요. 빠른 확장 가능한 미세 조정 실험 및 워크플로를 위해 내장된 MLflow 추적 기능이 있는 대화형 노트북을 활용하세요. 이 미세 조정 기능에 대한 조기 액세스는 Databricks 팀에 문의하세요. 또한 엔터프라이즈는 AI Search 및 기능 제공을 통해 구조화 및 비구조화 데이터를 사용하여 gpt-oss를 증강할 수 있습니다.
gpt-oss 시작하기
gpt-oss 모델은 현재 AWS, Azure 및 GCP 전반의 파운데이션 모델 API에서 사용할 수 있으며, 향후 며칠 내에 프로비저닝된 처리량 및 AI 함수 지원이 출시될 예정입니다.
- Agent Bricks AI Playground에서 사용해 보세요
- gpt-oss 설명서를 읽어보세요
- Agent Framework 및 gpt-oss를 사용하여 에이전트를 구축하는 방법을 배워보세요
- 데이터를 위한 AI 함수를 살펴보세요
- AI Runtime를 사용하여 gpt-oss를 미세 조정하세요
(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)
최신 게시물을 이메일로 받아보세요
블로그를 구독하고 최신 게시물을 이메일로 받아보세요.