工具使用設計模式 (Tool Use Design Pattern)

為什麼工具這麼重要？

如果 LLM 只能根據訓練資料回答，它的能力就被鎖在模型內部。加上工具後，Agent 可以即時查詢股票價格、更新 CRM、操作檔案系統——從「語言模型」變成真正的「行動引擎」。本課深入探討 Tool Use 設計模式：如何讓 AI Agent 選擇並使用外部工具來達成目標。

學習目標

• 定義 Tool Use 設計模式及其目的
• 辨識適合使用此模式的場景
• 理解實作所需的關鍵元件
• 認識建構可信賴 Agent 時的安全考量

什麼是 Tool Use 設計模式？

Tool Use 設計模式的核心是賦予 LLM 與外部工具互動的能力。工具是 Agent 可執行的程式碼——可以是一個簡單的函數（如計算機），也可以是第三方服務的 API 呼叫（如股價查詢、天氣預報）。在 AI Agent 的脈絡中，工具是由 Agent 根據模型生成的 Function Call來執行的。

適用場景

AI Agent 可以運用工具完成複雜任務、擷取資訊或做出決策。Tool Use 模式常用於需要與外部系統動態互動的情境：

實作 Tool Use 的關鍵元件

以下元件共同構成 Tool Use 設計模式的基礎：

深入 Function / Tool Calling

Function Calling 是讓 LLM 與工具互動的主要方式。你可能常看到「Function」和「Tool」交替使用——因為「函數（可重用的程式碼區塊）」就是 Agent 用來執行任務的「工具」。流程如下：

1. 將包含所有可用函數描述的 Schema 傳送給 LLM
2. LLM 根據使用者請求，從 Schema 中選擇最合適的函數，回傳函數名稱與參數
3. 程式執行被選中的函數，取得結果
4. 將結果回傳給 LLM，LLM 用此資訊回覆使用者

實作 Function Calling 的三要素

範例：查詢城市當前時間

步驟一：初始化支援 Function Calling 的 LLM 客戶端（Azure OpenAI Responses API）

from openai import OpenAI

client = OpenAI(
    base_url=f"{os.environ['AZURE_OPENAI_ENDPOINT'].rstrip('/')}/openai/v1/",
    api_key=os.environ["AZURE_OPENAI_API_KEY"],
)
deployment_name = os.environ["AZURE_OPENAI_DEPLOYMENT"]

步驟二：建立函數 Schema 並傳送給 LLM

# 定義工具 Schema（Responses API 扁平格式）
tools = [
    {
        "type": "function",
        "name": "get_current_time",
        "description": "查詢指定城市的當前時間",
        "parameters": {
            "type": "object",
            "properties": {
                "location": {
                    "type": "string",
                    "description": "城市名稱，例如 San Francisco",
                },
            },
            "required": ["location"],
        },
    }
]

messages = [{"role": "user", "content": "舊金山現在幾點？"}]

# 第一次 API 呼叫：要求模型使用工具
response = client.responses.create(
    model=deployment_name,
    input=messages,
    tools=tools,
    tool_choice="auto",
    store=False,
)

messages += response.output

# 模型回傳的是一個 Function Call，不是最終答案！
# [ResponseFunctionToolCall(
#   arguments='{"location":"San Francisco"}',
#   call_id='call_pOsKdUlqvdyttYB67MOj434b',
#   name='get_current_time',
#   type='function_call'
# )]

步驟三：實作函數邏輯並執行

def get_current_time(location):
    """查詢指定城市的當前時間"""
    location_lower = location.lower()
    for key, timezone in TIMEZONE_DATA.items():
        if key in location_lower:
            current_time = datetime.now(ZoneInfo(timezone)).strftime("%I:%M %p")
            return json.dumps({"location": location, "current_time": current_time})
    return json.dumps({"location": location, "current_time": "unknown"})

# 處理 Tool Call
tool_calls = [item for item in response.output if item.type == "function_call"]
if tool_calls:
    for tool_call in tool_calls:
        if tool_call.name == "get_current_time":
            function_args = json.loads(tool_call.arguments)
            time_response = get_current_time(location=function_args.get("location"))
            messages.append({
                "type": "function_call_output",
                "call_id": tool_call.call_id,
                "output": time_response,
            })

# 第二次 API 呼叫：取得最終回覆
final_response = client.responses.create(
    model=deployment_name,
    input=messages,
    tools=tools,
    store=False,
)
print(final_response.output_text)
# → 舊金山現在是上午 09:24。

使用 Agentic 框架實作 Tool Use

雖然可以從頭實作 Function Calling，但如第 2 課所介紹，Agentic 框架提供了預建的構件來簡化開發。

Microsoft Agent Framework

Microsoft Agent Framework 是開源的 AI Agent 框架，直接使用 Python @tool 裝飾器就能定義工具，框架會自動處理模型與程式碼之間的來回通訊：

import os
from agent_framework import tool
from agent_framework.foundry import FoundryChatClient
from azure.identity import AzureCliCredential

@tool(approval_mode="never_require")
def get_current_time(location: str) -> str:
    """查詢指定城市的當前時間"""
    ...  # 實作邏輯

# 建立客戶端
provider = FoundryChatClient(
    project_endpoint=os.environ["AZURE_AI_PROJECT_ENDPOINT"],
    model=os.environ["AZURE_AI_MODEL_DEPLOYMENT_NAME"],
    credential=AzureCliCredential(),
)

# 一行建立 Agent 並執行
agent = provider.as_agent(
    name="TimeAgent",
    instructions="使用可用工具回答問題。",
    tools=get_current_time
)
response = await agent.run("現在幾點了？")

Microsoft Foundry Agent Service

Microsoft Foundry Agent Service 是較新的全託管 Agent 框架，專為企業應用設計，不需管理底層運算和儲存資源。相較於直接使用 LLM API，它提供以下優勢：

Foundry Agent Service 內建工具分類

實戰範例：Contoso 銷售資料分析 Agent

假設你是 Contoso 的銷售專員，想建立一個對話式 Agent 來回答銷售資料相關問題。以下使用 Foundry Agent Service 的程式碼展示如何結合自定義函數和內建 Code Interpreter：

import os
from azure.ai.projects import AIProjectClient
from azure.identity import DefaultAzureCredential
from fetch_sales_data_functions import fetch_sales_data_using_sqlite_query
from azure.ai.projects.models import ToolSet, FunctionTool, CodeInterpreterTool

project_client = AIProjectClient.from_connection_string(
    credential=DefaultAzureCredential(),
    conn_str=os.environ["PROJECT_CONNECTION_STRING"],
)

# 初始化工具集
toolset = ToolSet()

# 加入自定義函數工具
fetch_data_function = FunctionTool(fetch_sales_data_using_sqlite_query)
toolset.add(fetch_data_function)

# 加入內建 Code Interpreter 工具
code_interpreter = CodeInterpreterTool()
toolset.add(code_interpreter)

# 建立 Agent——LLM 會自動根據使用者請求選擇合適的工具
agent = project_client.agents.create_agent(
    model="gpt-5-mini",
    name="my-agent",
    instructions="You are helpful agent",
    toolset=toolset
)

安全性考量

範例程式碼

• Python：Agent Framework
• .NET：Agent Framework

本課重點回顧

1. Tool Use = Function Calling 核心機制：LLM 選函數 → 程式執行 → 結果回傳 LLM → 自然語言回覆
2. 六大關鍵元件：Tool Schema、執行邏輯、訊息處理、整合框架、錯誤處理、狀態管理
3. 框架簡化一切：Microsoft Agent Framework 的 @tool 裝飾器、Foundry Agent Service 的 Toolset，大幅降低實作複雜度
4. 安全性不可忽視：永遠在資料庫層設定唯讀權限，不要信任 LLM 生成的 SQL
5. Toolset 是思維升級：不要把每個工具分開管——讓 LLM 自己從 Toolset 中選擇最合適的工具

原始資源

• 原始 README（英文）
• 課程影片
• 完整課程 (69.7k ⭐)
• Microsoft Foundry Discord 社群