バッチおよびエージェントワークフローのための構造化出力の紹介

from pydantic import BaseModel
from openai import OpenAI

DATABRICKS_TOKEN = os.environ.get('YOUR_DATABRICKS_TOKEN')
DATABRICKS_BASE_URL = os.environ.get('YOUR_DATABRICKS_BASE_URL')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,
  base_url=DATABRICKS_BASE_URL
  )

class CalendarEvent(BaseModel):
    name: str
    date: str
    participants: list[str]

completion = client.beta.chat.completions.parse(
    model="databricks-meta-llama-3-1-70b-instruct",
    messages=[
        {"role": "system", "content": "イベント情報を抽出します。"},
        {"role": "user", "content": "アリスとボブは金曜日に科学展に行く予定です。"},
    ],
    response_format=CalendarEvent,
)

print(completion.choices[0].message.parsed)
#name='science fair' date='Friday' participants=['Alice', 'Bob']

from openai import OpenAI

DATABRICKS_TOKEN = os.environ.get('あなたのDATABRICKS_TOKEN')
DATABRICKS_BASE_URL = os.environ.get('あなたのDATABRICKS_BASE_URL')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,
  base_url=DATABRICKS_BASE_URL
  )

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_delivery_date",
            "description": "顧客の注文の配送日を取得します。例えば、顧客が'私のパッケージはどこにありますか'と尋ねたときや、配送日を知る必要があるときにこれを呼び出します。",
            "parameters": {
                "type": "object",
                "properties": {
                    "order_id": {
                        "type": "string",
                        "description": "顧客の注文ID。",
                    },
                },
                "required": ["order_id"],
            },
        }
    },
    {
        "type": "function",
        "function": {
            "name": "get_relevant_products",
            "description": "指定された検索クエリで販売されている関連製品のリストを返します。例えば、顧客が'販売しているラップトップは何ですか?'と尋ねた場合、これを呼び出します。",
            "parameters": {
                "type": "object",
                "properties": {
                    "search_query": {
                        "type": "string",
                        "description": "検索する製品のカテゴリ。",
                    },
                    "number_of_items": {
                        "type": "integer",
                        "description": "検索応答で返すアイテムの数。デフォルトは5で、最大は20です。",
                    },
                },
                "required": ["search_query"],
            },
        }
    }
]


response = client.chat.completions.create(
    model="databricks-meta-llama-3-1-70b-instruct",
    messages=[
        {"role": "user", "content": "キーボードを販売していますか？"}],
    tools=tools,
    tool_choice="auto",
)

print(response.choices[0].message.tool_calls)

{
        "name": "extract",
        "schema": {
          "type": "object",
          "properties": {
		"dates" : {
		  "type": "object",
		  "properties": {
			"start_date": { "type": "string" },
			"end_date": { "type": "string" },
"sign": { "type": "string" },
			"expire" : { "type" : "string" },
   }
		},
		"people" : {
		  "type": "object",
		  "properties": {
			"lessee": { "type": "string" },
			"lessor": { "type": "string" },
   }
		},
		"terms_of_payment": { "type": "string"},
            	"if_pets": { "type": "boolean" },
		"pets" : {
		  "type": "array",
		  "items": {
		    "type": "object",
		    "properties": {
		       "animal" : { "type": "string" },
			 "name" : { "type": "string" }
          },
        },
        "strict": True
      }

import os
import json
from openai import OpenAI

DATABRICKS_TOKEN = os.environ.get('YOUR_DATABRICKS_TOKEN')
DATABRICKS_BASE_URL = os.environ.get('YOUR_DATABRICKS_BASE_URL')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,
  base_url=DATABRICKS_BASE_URL
  )

response_format = {
      "type": "json_schema",
      "json_schema": {
        "name": "extract_lease_information",
	  "description": "リース契約から法的およびPOC情報を抽出する", 
        "schema": {
          "type": "object",
          "properties": {
   "start_date": { 
     "type": "date", 
     "description": "リースの開始日。" 
   },
		"end_date": { 
  "type": "date", 
  "description": "リースの終了日。" 
},
   "signed_date": { 
     "type": "date",
     "description": "リースが貸主と借主の両方によって署名された日付"
   },
	      "expiration_date" : { 
              "type" : "date",
              "description": "リースが満了する日付"
             },
	      "lessee": { 
     "type": "string",
     "description": "リース契約を署名した借主の名前（および可能性としては住所）。", 
   },
		"lessor": { 
               "type": "string",
		   "description": "リース契約を署名した貸主の名前（および可能性としては住所）。"
             },
		"terms_of_payment": { 
               "type": "string",
               "description": "支払い条件の説明。"
             },
		"pets" : {
		  "type": "array",
               "description": "リースに記載されている借主が所有するペットのリスト。"
		  "items": {
		    "type": "object",
		    "properties": {
		       "animal" : { 
                     "type": "string",
                     "description": "ペットの種類、猫、犬、鳥など。 それ以外のペットは許可されません。",
			  "enum": ["dog", "cat", "bird"]
                    },
			 "name" : { 
                      "type": "string",
                      "description": "ペットの名前。"
                    }
          },
	   "required": ["start_date", "end_date", "signed_date", "expiration_date", "lessee", "lessor", "terms_of_payment"]
        },
        "strict": True
      }
    }

messages = [{
        "role": "system",
        "content": "あなたは構造化データ抽出の専門家です。 リースから非構造化テキストを与えられ、それを指定された構造に変換する必要があります。"
      },
      {
        "role": "user",
        "content": "..."
      }]

response = client.chat.completions.create(
    model="databricks-meta-llama-3-1-70b-instruct",
    messages=messages,
    response_format=response_format
)

print(json.dumps(json.loads(response.choices[0].message.model_dump()['content']), indent=2))