近年、金融機関や医療機関において、AIシステムの「ブラックボックス」問題を解消し、その判断根拠を明確に説明することが法律で義務付けられています。私は以前、医療機器メーカーで規制対応を担当していましたが，当初は「AIの判断をどう説明すればいいのか」と頭を抱えていました。本記事では、ゼロから始めて実践できるAI可説明性対応について、APIに触れたことのない初心者でも理解できるように丁寧に解説します。

なぜAIの「説明責任」が重要なのか

金融業界では、贷款審査の判断根拠を顧客に説明できなかった場合、規制当局から处罚を受ける可能性があります。医療業界では、AIを活用した診断支援システムが、患者への説明義務を果たさなければ、医療過誤として責任を問われることがあります。

EU AI法では、高リスクAIシステムに分類される金融・医療分野において、リスク評価と説明文書화가義務付けられています，日本でも金融庁と厚生労働省のガイドラインがこれに追随しています。

HolySheep AI APIを使った可説明性実装

可説明性対応において重要なのは、AIモデルの推論過程をキャプチャし、人が理解できる形で出力することです。HolySheep AIでは、50ミリ秒未満の低レイテンシでレスポンスを返しつつ、思考過程の詳細ログも取得できるため、監査対応の足場として非常に有用です。

ステップ1：API接続の基本設定

まずは、HolySheep AIにアカウントを作成し、APIキーを取得してください。今すぐ登録すると、免费クレジットがもらえます。

# 必要なライブラリをインストール
pip install requests json

import requests
import json
from datetime import datetime


HolySheep AI API設定

BASE_URL = "https://api.holysheep.ai/v1"
API_KEY = "YOUR_HOLYSHEEP_API_KEY"  # 取得したAPIキーに変更

headers = {
    "Authorization": f"Bearer {API_KEY}",
    "Content-Type": "application/json"
}

print("API接続テスト成功！")
print(f"接続先: {BASE_URL}")

ステップ2：説明可能な推論リクエストの送信

可説明性対応では、単なる答えだけでなく、判断根拠も取得することが重要です。systemパラメータに「判断根拠を詳細に説明すること」を指示しましょう。

def explainable_credit_request(age, income, employment_years, loan_amount):
    """
    贷款審査の判断根拠を説明可能な形式で取得
    """
    prompt = f"""あなたは贷款審査AIです。以下の申請者の情報を基に、
    審査結果を判定し、その判断根拠を段階的に説明してください。
    
    申請者情報:
    - 年齢: {age}歳
    - 年収: {income}万円
    - 勤続年数: {employment_years}年
    - 申請贷款金額: {loan_amount}万円
    
    判断根拠として以下を必ず含めてください:
    1. 各要素の重要度（ウェイト）
    2. スコア計算の内訳
    3. 最終判定の理由
    
    出力形式は監査対応のJSON形式で出力してください。"""

    payload = {
        "model": "gpt-4.1",
        "messages": [
            {"role": "system", "content": "あなたは金融規制対応のAIアシスタントです。判断根拠を透明かつ詳細に説明してください。"},
            {"role": "user", "content": prompt}
        ],
        "temperature": 0.3,  # eterministicな結果のため低めに設定
        "max_tokens": 2000
    }

    response = requests.post(
        f"{BASE_URL}/chat/completions",
        headers=headers,
        json=payload
    )
    
    if response.status_code == 200:
        result = response.json()
        return {
            "timestamp": datetime.now().isoformat(),
            "model": result.get("model"),
            "explanation": result["choices"][0]["message"]["content"],
            "usage": result.get("usage")
        }
    else:
        raise Exception(f"APIエラー: {response.status_code} - {response.text}")


實際の呼び出し例

try:
    result = explainable_credit_request(
        age=35,
        income=600,
        employment_years=8,
        loan_amount=2000
    )
    print("=== 贷款審査結果 ===")
    print(result["explanation"])
    print(f"\n処理時刻: {result['timestamp']}")
    print(f"使用モデル: {result['model']}")
    print(f"トークン使用量: {result['usage']}")
except Exception as e:
    print(f"エラーが発生しました: {e}")

ステップ3：監査ログの自動保存

規制対応では、過去の推論ログを必ず保存する必要があります。以下のコードは、すべてのリクエストとレスポンスを自動的に記録します。

import sqlite3
from datetime import datetime

class AuditLogger:
    """
    AI推論の監査ログを保存するクラス
    金融・医療業界の規制対応に必須
    """
    
    def __init__(self, db_path="audit_log.db"):
        self.db_path = db_path
        self._init_database()
    
    def _init_database(self):
        conn = sqlite3.connect(self.db_path)
        cursor = conn.cursor()
        cursor.execute("""
            CREATE TABLE IF NOT EXISTS ai_audit_logs (
                id INTEGER PRIMARY KEY AUTOINCREMENT,
                timestamp TEXT NOT NULL,
                use_case TEXT NOT NULL,
                input_data TEXT NOT NULL,
                output_data TEXT NOT NULL,
                model_name TEXT,
                token_usage INTEGER,
                latency_ms REAL,
                compliance_status TEXT DEFAULT 'pending'
            )
        """)
        conn.commit()
        conn.close()
        print(f"監査ログDB初期化完了: {self.db_path}")
    
    def log_request(self, use_case, input_data, output_data, 
                   model_name, token_usage, latency_ms):
        conn = sqlite3.connect(self.db_path)
        cursor = conn.cursor()
        cursor.execute("""
            INSERT INTO ai_audit_logs 
            (timestamp, use_case, input_data, output_data, 
             model_name, token_usage, latency_ms)
            VALUES (?, ?, ?, ?, ?, ?, ?)
        """, (
            datetime.now().isoformat(),
            use_case,
            json.dumps(input_data, ensure_ascii=False),
            json.dumps(output_data, ensure_ascii=False),
            model_name,
            token_usage,
            latency_ms
        ))
        conn.commit()
        conn.close()
        print(f"ログ保存完了: {use_case}")

    def get_compliance_report(self, start_date, end_date):
        conn = sqlite3.connect(self.db_path)
        cursor = conn.cursor()
        cursor.execute("""
            SELECT timestamp, use_case, model_name, token_usage, latency_ms
            FROM ai_audit_logs
            WHERE timestamp BETWEEN ? AND ?
            ORDER BY timestamp DESC
        """, (start_date, end_date))
        records = cursor.fetchall()
        conn.close()
        
        report = {
            "period": f"{start_date} ～ {end_date}",
            "total_requests": len(records),
            "details": [
                {
                    "timestamp": r[0],
                    "use_case": r[1],
                    "model": r[2],
                    "tokens": r[3],
                    "latency_ms": r[4]
                } for r in records
            ]
        }
        return report


使用例

logger = AuditLogger("financial_audit.db")
logger.log_request(
    use_case="贷款審査",
    input_data={"age": 35, "income": 600},
    output_data={"decision": "承認", "score": 85.5},
    model_name="gpt-4.1",
    token_usage=1500,
    latency_ms=45.2
)

HolySheep AIのコストメリット

可説明性対応では、大量の推論ログを保存・分析するため、APIコストが課題になります。HolySheep AIでは、1ドル=7.3円のレートで計算するため、公称价比85%お得です（例：GPT-4.1は$8/1Mトークン）。また、DeepSeek V3.2なら$0.42/1Mトークンという圧倒的な安さで、監査用途にも最適です。

よくあるエラーと対処法

実装チェックリスト

次のステップ

本記事を读完したら、以下のおすすめ記事をご覧ください：

AIの可説明性対応は、一度の実装で終わりではなく、継続的な改善が必要です。監査ログの分析结果を基に、プロンプトやモデル選択を定期的に оптимизация してください。

👉 HolySheep AI に登録して無料クレジットを獲得

関連リソース

関連記事