Databricks의 Google Gemini 모델

오늘부터 Databricks Data Intelligence Platform에서 Google의 Gemini 모델을 기본적으로 안전하게 사용할 수 있습니다. 이는 엔터프라이즈 AI에 있어 중요한 이정표입니다. 이제 Databricks는 데이터가 있는 바로 그곳에서 세계 최고의 모든 LLM에 대한 안전하고 통합된 액세스를 제공합니다. 

Databricks의 Week of Agents 행사의 일환으로, 이번 출시를 통해 최신 Gemini 모델을 데이터 및 워크플로와 동일한 신뢰할 수 있고 관리되는 환경으로 가져옴으로써 고객이 강력한 AI 에이전트를 대규모로 안전하게 구축, 관리 및 배포하는 방법을 확장합니다.

이번 출시를 통해 이제 모든 팀이 다음을 수행할 수 있습니다.

• ai_query를 사용한 배치 Inference로 데이터에 Gemini 모델 적용
• Agent Bricks를 사용하여 실시간으로 비공개 데이터에 대해 추론할 수 있는 지능형 에이전트를 빌드하세요.
• 기본 내장된 거버넌스 및 청구 가시성으로 규정 준수를 유지하며 Gemini 모델에 안전하게 액세스

이를 통해 데이터가 저장된 Databricks에서 바로 최신 Gemini 모델을 안전하고 효율적으로 적용하여 고급 대화형 에이전트를 배포하고, 문서 분석을 자동화하며, 비즈니스 추론을 가속화하는 것이 훨씬 더 쉬워집니다. 

Databricks Foundation Model API에서 Gemini 모델이 정식 출시되어, 사용자는 SQL 내에서, Model Serving의 API endpoint로 또는 Agent Bricks를 통해 Vertex AI에 호스팅된 Gemini 모델을 호출할 수 있습니다. 

Databricks에서 Gemini 모델을 활용하는 한 가지 방법은 SQL 또는 Python의 기본 내장 연산자로 사용하는 것입니다. 이를 통해 LLM을 기업 데이터에 직접 적용하는 프로세스가 획기적으로 간소화되고 계약, PDF, 대화록 또는 이미지 분석과 같은 일상적인 작업을 자동화할 수 있습니다. 이 query를 실행하면 Databricks가 백엔드에서 Gemini 모델 용량을 자동으로 확장하여 소수의 행부터 수백만 개의 행까지 모두 처리하므로, 별도의 설정 없이 빠르고 안정적인 결과를 보장합니다.

그림 1: 지금 바로 workspace에서 ai_query로 Gemini 모델을 사용해 보세요!

또한 Gemini 모델은 실시간 APIs를 통해 대규모로 이용할 수 있습니다! OpenAI 채팅 완성 클라이언트 또는 REST API를 사용할 수 있습니다.

그림 2: Python에서 Gemini 모델과 도구를 사용하여 실시간 에이전트 빌드하기

Google의 Gemini 모델은 언제 사용해야 하나요?

이제 Google의 가장 발전된 두 가지 모델인 Gemini-2.5 Pro와 Gemini 2.5 Flash를 Databricks의 Data Intelligence Platform에서 직접 액세스할 수 있습니다.

Gemini 2.5 Flash: 추론, 도구, 비용 효율적인 에이전트에 최적화

Gemini 2.5 Flash는 최고 수준의 인텔리전스와 매우 짧은 지연 시간 및 높은 throughput을 결합하여 시장에서 두각을 나타냅니다. 이 모델은 Google의 하이브리드 추론 모델 중 하나로, '말하기 전에 생각'하도록 설계되었으며 개발자가 작업에 따라 '사고' 수준을 설정할 수 있습니다. 구조화된 문제 해결, 도구 사용(Python 또는 계산기와 같은), 단계별 논리에 탁월합니다. 

다음과 같은 경우 Gemini 2.5 Flash를 사용하세요.

• 구조화된 query에 대해 신뢰할 수 있는 단계별 추론을 제공합니다.
• 실시간 문제 해결 또는 의사 결정 자동화
• 단일 워크플로에서 텍스트와 이미지를 모두 심층적으로 분석하세요.
• 지원, 운영 또는 물류 분야에 경량의 비용 효율적인 에이전트를 대규모로 배포하세요.

Gemini 2.5 Pro: 복잡한 작업, 코드, 긴 컨텍스트를 위한 플래그십 모델

Gemini 2.5 Pro는 Google의 가장 성능이 뛰어난 대규모 언어 모델 중 하나입니다. 고급 추론, 긴 컨텍스트 처리를 위한 업계 최고 수준의 1M 컨텍스트 창, 코딩 등에서 최첨단 성능을 제공하며, 기본적으로 멀티모달입니다. 

다음과 같은 경우에 Gemini 2.5 Pro를 사용하세요.

• 업계 최고 수준인 1백만 컨텍스트 창으로 매우 큰 데이터세트에서 요약, 항목 추출, 분류와 같은 고급 텍스트 처리 작업을 수행해 보세요.
• 고급 추론이 필요한 복잡한 비즈니스 워크플로를 자동화하는 에이전트 애플리케이션 빌드
• 법률 문서, 계약서, 연구 논문과 같은 대규모 멀티모달 문서 코퍼스에서 인사이트를 추출하세요.
• 개발자 생산성 및 내부 도구를 지원하기 위한 고품질 코드 및 기술 콘텐츠 생성

고객이 Gemini로 빌드할 수 있는 것

실시간 고객 지원 에이전트
Gemini 2.5 Flash를 사용하면 기업은 엔터프라이즈 데이터를 안전하게 가져오면서 밀리초 단위로 응답하는 챗봇을 구축할 수 있습니다. 예를 들어, 통신 회사는 문제를 분류하고, 계정 정보를 검색하고, 해결 방법을 제안하는 자동화된 지원을 제공할 수 있습니다. 이 모든 과정은 상담원이 개입하기 전에 이루어집니다.

멀티모달 제품 인텔리전스
Gemini 2.5 Pro는 이미지, 텍스트, 정형 데이터를 결합하는 워크플로를 지원합니다. 소매업체는 제품 사진, 사용자 리뷰, 재고 데이터를 함께 분석하여 결함을 감지하거나 판매 동향을 예측할 수 있습니다.

엔터프라이즈 규모의 의사 결정 자동화
Databricks 오케스트레이션 및 거버넌스를 사용하여 조직은 거래 분류, 위험 점수 산정 또는 규정 준수 보고서 생성과 같이 분당 수천 개의 구조화된 추론 작업을 실행하는 에이전트를 빌드할 수 있습니다. 지연 시간을 줄이려면 Flash를, 정확도를 높이려면 Pro를 사용하여 균형을 맞출 수 있습니다.

다음 단계

• 자세히 알아보기 Google의 Week of AI Agents
• AI Playground와  Model Serving에서 Gemini 모델을 사용해보세요. 별도의 설정이 필요 없습니다.
• 읽어보기 Google의 AI 에이전트 요약 가이드

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)