こんにちは！今日は「Function Calling」の安全性について、ゼロから丁寧に解説します。
Function Calling は AI に「できること」を拡張する便利な機能ですが、使い方によってはセキュリティ上の風險があります。この記事读完後には、悪意のあるパラメータ注入攻击からあなたのシステムを守る方法が身につきます。
Function Calling とは？
Function Calling とは、AI 模型に「独自の関数」を呼び出す能力を与える機能です。例えば：
- 天気を調べる関数を呼び出す
- データベースに情報を保存する
- 外部APIにリクエストを送る
本来、AI はテキスト生成しかできません。しかし Function Calling を使えば、行動を起こせるようになります。
なぜセキュリティが重要なのですか？
ここで重要な问题があります。AI が関数を呼び出す际、パラメータ（引数）を生成しますが、このパラメータを恶意のある用户が改ざんできる場合があります。
攻撃の例：
- AI の返答に悪意のあるコードを埋め込む
- 関数のパラメータを不正常な値に置き換える
- システムコマンドを注入しようとする
これらの攻撃を防ぐために、パラメータの「バリデーション（検証）」が必須です。
実践：安全な Function Calling の実装
STEP 1: プロジェクトのセットアップ
まず、必要なライブラリをインストールしましょう。
pip install openai python-dotenv jsonschema次にプロジェクトフォルダを作成し、以下のファイル構成にします：
project/
├── .env
├── safe_function_calling.py
└── schema_validator.py💡 ヒント：.env ファイルには API キーを 保存し、絶対にソースコードに直接書かないでください。
STEP 2: パラメータスキーマの定義
関数の「設計図」を作ります。これにより、AI が生成したパラメータが期待通りの形式かチェックできます。
# schema_validator.py
from jsonschema import validate, ValidationError
from typing import Dict, Any
def get_weather_schema():
"""天気を取得する関数のスキーマ定義"""
return {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "都市名",
"minLength": 1,
"maxLength": 100
},
"unit": {
"type": "string",
"enum": ["celsius", "fahrenheit"],
"default": "celsius"
}
},
"required": ["location"]
}
def validate_weather_params(params: Dict[str, Any]) -> tuple[bool, str]:
"""
天気取得のパラメータを検証する
戻り値: (成功したか, エラーメッセージ)
"""
try:
validate(instance=params, schema=get_weather_schema())
return True, "検証成功"
except ValidationError as e:
return False, f"パラメータエラー: {e.message}"
def validate_sql_params(params: Dict[str, Any]) -> tuple[bool, str]:
"""
SQL実行のパラメータを検証 - 悪意のあるSQLを阻止
"""
schema = {
"type": "object",
"properties": {
"table": {
"type": "string",
"enum": ["users", "products", "orders"] #許可テーブル一覧
},
"action": {
"type": "string",
"enum": ["select", "count"]
},
"limit": {
"type": "integer",
"minimum": 1,
"maximum": 1000
}
},
"required": ["table", "action"]
}
try:
validate(instance=params, schema=schema)
# 追加のセキュリティチェック
if isinstance(params.get("table"), str):
# SQLインジェクション対策：危険なキーワードをブロック
dangerous_keywords = ["DROP", "DELETE", "UPDATE", "INSERT", "ALTER", ";"]
if any(keyword in params["table"].upper() for keyword in dangerous_keywords):
return False, "許可されていない操作です"
return True, "検証成功"
except ValidationError as e:
return False, f"パラメータエラー: {e.message}"
print("✅ スキーマバリデーターの準備完了")STEP 3: HolySheep AI での安全な Function Calling
では、実際に HolySheep AI を使って安全な Function Calling を実装しましょう。
HolySheep AI の嬉しいポイントは、レートが ¥1=$1（公式¥7.3=$1 比 85%節約）で、Gemini 2.5 Flash は $2.50/MTok、DeepSeek V3.2 はわずか $0.42/MTok という破格の安さです。さらに <50ms の低レイテンシで、Function Calling の実行もスムーズです。
# safe_function_calling.py
import os
from dotenv import load_dotenv
from openai import OpenAI
from schema_validator import validate_weather_params, validate_sql_params
load_dotenv()
HolySheep AI の設定
client = OpenAI(
api_key=os.getenv("HOLYSHEEP_API_KEY"), # .envから読み込み
base_url="https://api.holysheep.ai/v1" # 必ずHolySheepのエンドポイントを使用
)
def execute_weather_function(location: str, unit: str = "celsius"):
"""天気を取得する関数（実際の実装）"""
# 実際の天気API呼び出し
weather_data = {
"location": location,
"temperature": 22,
"condition": "晴れ",
"unit": unit
}
return weather_data
def safe_call_function(function_name: str, params: dict):
"""
関数を安全に呼び出すラッパー関数
パラメータ検証を必ず実行
"""
print(f"🔍 関数名: {function_name}")
print(f"🔍 パラメータ: {params}")
# パラメータ検証
if function_name == "get_weather":
is_valid, message = validate_weather_params(params)
elif function_name == "execute_sql":
is_valid, message = validate_sql_params(params)
else:
return {"error": f"不明な関数: {function_name}"}
if not is_valid:
print(f"❌ 検証失敗: {message}")
return {"error": message}
print(f"✅ 検証成功: {message}")
# 検証成功后のみ実際の関数を実行
if function_name == "get_weather":
return execute_weather_function(
location=params["location"],
unit=params.get("unit", "celsius")
)
return {"success": True}
ツール定義
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "指定した都市の天気を取得する",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "都市名（例：東京、ニューヨーク）"
},
"unit": {
"type": "string",
"enum": ["celsius", "fahrenheit"],
"description": "温度の単位"
}
},
"required": ["location"]
}
}
},
{
"type": "function",
"function": {
"name": "execute_sql",
"description": "データベースへのクエリを実行する",
"parameters": {
"type": "object",
"properties": {
"table": {
"type": "string",
"enum": ["users", "products", "orders"],
"description": "テーブル名"
},
"action": {
"type": "string",
"enum": ["select", "count"],
"description": "実行する操作"
},
"limit": {
"type": "integer",
"minimum": 1,
"maximum": 1000,
"description": "結果の制限数"
}
},
"required": ["table", "action"]
}
}
}
]
def chat_with_ai(user_message: str):
"""AIとチャットし、Function Callingを安全に処理"""
response = client.chat.completions.create(
model="gpt-4.1", # $8/MTok - HolySheepなら85%節約
messages=[{"role": "user", "content": user_message}],
tools=tools,
tool_choice="auto"
)
# Assistantの応答を取得
assistant_message = response.choices[0].message
# 関数の呼び出し指示があるか確認
if assistant_message.tool_calls:
for tool_call in assistant_message.tool_calls:
function_name = tool_call.function.name
# AIが生成したパラメータを取得
raw_params = eval(tool_call.function.arguments) # JSON文字列を辞書に
print(f"\n📨 AIが生成したパラメータを検証中...")
# 安全に関数を実行
result = safe_call_function(function_name, raw_params)
return result
return {"content": assistant_message.content}
テスト実行
if __name__ == "__main__":
print("=" * 50)
print("🧪 テスト1: 正常なリクエスト")
print("=" * 50)
result1 = chat_with_ai("東京の天気を教えて")
print(f"結果: {result1}")
print("\n" + "=" * 50)
print("🧪 テスト2: 異常なパラメータ（攻撃シミュレーション）")
print("=" * 50)
# 悪意のあるパラメータを直接テスト
malicious_params = {"location": "'; DROP TABLE users; --"}
is_valid, msg = validate_weather_params(malicious_params)
print(f"悪意あるパラメータ検証結果: {is_valid}, {msg}")
print("\n" + "=" * 50)
print("🧪 テスト3: SQLインジェクション攻撃シミュレーション")
print("=" * 50)
sql_attack = {"table": "users; DROP TABLE users", "action": "select"}
is_valid, msg = validate_sql_params(sql_attack)
print(f"SQLインジェクション検証結果: {is_valid}, {msg}")STEP 4: .env ファイルの設定
# .env ファイル（同じフォルダに作成）
HOLYSHEEP_API_KEY=YOUR_HOLYSHEEP_API_KEY💡 ヒント： HolySheep AI にまだ登録していない方は、今すぐ登録 で無料クレジットを獲得できます！WeChat Pay や Alipay にも対応しているので、日本在住の方も簡単に決済できます。
パラメータ検証のポイント
安全な Function Calling 实现のために、私が実際に試して效果を確認した验证ルールを紹介します。
1. 型安全なスキーマを定義する
jsonschema を使って、各パラメータの型を厳密に指定しましょう。
- 文字列は minLength/maxLength で長さを制限
- 数値は minimum/maximum で範囲を指定
- enum を使って許可された値列表記
2. 許可リスト（ホワイトリスト）方式を採用
私は最初は「禁止リスト」方式を使っていましたが、攻撃方法は無限にあるため、完全には防げませんでした。許可リスト方式に変更したところ、効果が剧的に向上しました。
# ❌ 悪い例：禁止リスト（すべての危険を列挙是不可能的）
dangerous = ["DROP", "DELETE", "..."]
✅ 良い例：許可リスト（必要なものだけを許可）
allowed_tables = ["users", "products", "orders"]
allowed_actions = ["select", "count"]3. 入力サニタイズを行う
AI が生成したパラメータをそのまま使わないことが、非常に重要です。
import html
import re
def sanitize_input(input_str: str) -> str:
"""危険文字を 제거 또는 转义"""
# HTML转义
sanitized = html.escape(input_str)
# 控制文字を移除
sanitized = re.sub(r'[\x00-\x1F\x7F]', '', sanitized)
return sanitized
def sanitize_for_sql(input_str: str) -> str:
"""SQL用に入力を安全にする"""
# 単一引用符をエスケープ
return input_str.replace("'", "''")HolySheep AI の Function Calling 性能
私は複数の AI プロバイダーで Function Calling を試しましたが、HolySheep AI の性能に感心しています。
| プロバイダー | Function Calling 対応 | レイテンシ | GPT-4.1 価格 |
|---|---|---|---|
| HolySheep AI | ✅ 完全対応 | <50ms | $8/MTok（85%節約） |
| 公式OpenAI | ✅ 完全対応 | 100-200ms | $60/MTok |
DeepSeek V3.2 はわずか $0.42/MTok と非常に安く、Gemini 2.5 Flash は $2.50/MTok です。Function Calling を频繁に使用するアプリケーションでは、コスト削減效果が显著です。
よくあるエラーと対処法
エラー1: 「Invalid parameter type」エラー
# ❌ エラーの例
params = {"location": 12345} # 数値を渡してしまった
✅ 解決方法：型を合わせる
params = {"location": "東京"} # 文字列に変換原因：スキーマで string と定義しているのに、数値や配列を渡しています。
解決：パラメータの型をスキーマ定義に合わせてください。
エラー2: 「required field missing」エラー
# ❌ エラーの例：必須フィールド不足
params = {"unit": "celsius"} # location がない
✅ 解決方法：必須フィールドを含める
params = {"location": "大阪", "unit": "celsius"}原因：スキーマの required に指定されているフィールドが 없습니다。
解決：validate() の前に必須フィールドの存在を確認しましょう。
エラー3: 悪意のあるパラメータが通過してしまう
# ❌ 危険な例：検証なしで実行
def dangerous_execute(params):
# 検証なしでそのまま実行
result = exec(f"query({params['sql']})") # 絶対しない！
return result
✅ 解決方法： 반드시 バリデーション后才执行
def safe_execute(params):
is_valid, msg = validate_sql_params(params)
if not is_valid:
return {"error": msg}
# 検証成功后のみ実行
return execute_safe_query(params)原因：パラメータ検証を省略しているため、悪意のある入力がそのまま実行されています。
解決：必ず jsonschema や自作のバリデータで検証を行い、検証失败的場合は絶対に実行しないでください。
エラー4: 「tool_calls not found」エラー
# ❌ エラーの例
response = client.chat.completions.create(...)
if response.tool_calls: # response 全体のtool_callsを確認
...
✅ 解決方法： choices[0].message から確認
response = client.chat.completions.create(...)
message = response.choices[0].message
if message.tool_calls:
for tool_call in message.tool_calls:
...原因：tool_calls は response の直接の属性ではなく、choices[0].message の中にあります。
解決：必ず response.choices[0].message.tool_calls にアクセスしてください。
エラー5: API キーが認識されない
# ❌ エラーの例
client = OpenAI(api_key="YOUR_HOLYSHEEP_API_KEY", ...) # 文字列そのまま
✅ 解決方法：環境変数から読み込み
import os
from dotenv import load_dotenv
load_dotenv()
client = OpenAI(
api_key=os.getenv("HOLYSHEEP_API_KEY"),
base_url="https://api.holysheep.ai/v1"
)原因：API キーを直接コードに書くと、'.env' ファイルが読み込まれません。
解決：.env ファイルを作成し、python-dotenv の load_dotenv() を使ってください。
セキュリティチェックリスト
Function Calling を実装する前に、必ず確認してください：
- ☐ すべての関数のパラメータにスキーマを定義した
- ☐ 必須フィールド（required）を明確にした
- ☐ 型チェックを実装した
- ☐ 許可リスト（ホワイトリスト）方式を採用した
- ☐ 入力サニタイズを実装した
- ☐ パラメータ検証失敗時に実行をブロックした
- ☐ ログに検証の詳細を記録した
まとめ
Function Calling は非常に強力な機能ですが、セキュリティをおろそかにすると危険な攻撃対象になってしまいます。
私が実際に効果的だと确认したセキュリティ対策をまとめます：
- jsonschema で厳密なバリデーション - 型、範囲、必須項目を必ずチェック
- 許可リスト方式 - 禁止リストではなく許可リストを使う
- サニタイズ - HTML转义、特殊文字移除
- 検証失敗時の блокировка - 验证失败的场合、絶対に実行しない
HolySheep AI なら、<50ms の低レイテンシで安全な Function Calling を低コストで實現できます。¥1=$1 のレートで、GPT-4.1 が $8/MTok、Gemini 2.5 Flash が $2.50/MTok という破格の安さです。
まずは無料クレジットを使って試해보세요！
📚 関連ドキュメント：
- HolySheep AI API ドキュメント: https://www.holysheep.ai
- jsonschema 公式サイト: https://json-schema.org