Claude Opus 4.7 và DeepSeek V4: So sánh ngữ cảnh dài một triệu token và phân tích chênh lệch hóa đơn

Mình vừa hoàn thành bài kiểm tra ngữ cảnh dài (long context) mất đúng 11 ngày, đốt khoảng 4,2 triệu token và ba lần phải nạp thêm tiền vào tài khoản API. Trước đây mình hoàn toàn không biết API là gì, chỉ quen dùng chat web. Bài viết này mình viết lại từ đầu, từng bước một, để bạn — dù chưa từng đụng vào dòng lệnh — vẫn có thể tự làm lại bài test giống mình. Mục tiêu cuối cùng: giúp bạn hiểu rõ khi nào nên chọn Claude Opus 4.7 (đắt nhưng thông minh), khi nào nên chọn DeepSeek V4 (rẻ mà vẫn ổn), và làm sao để hóa đơn cuối tháng không "xỉu" vì một triệu token gửi đi.

Ngữ cảnh dài một triệu token là gì, nói thật đơn giản?

Hãy tưởng tượng bạn copy nguyên cuốn sách giáo khoa 300 trang rồi dán vào khung chat, kèm theo 50 câu hỏi. Một mô hình "ngữ cảnh dài" có thể đọc hết, nhớ hết, rồi trả lời chính xác từng trang. Một mô hình "ngữ cảnh ngắn" sẽ chỉ đọc được vài trang đầu và quên sạch phần còn lại.

• 1 triệu token tương đương khoảng 750.000 từ tiếng Việt, hoặc 5–6 cuốn tiểu thuyết dài.
• Ứng dụng thực tế: đọc hợp đồng pháp lý, phân tích báo cáo tài chính quý, tóm tắt log lỗi phần mềm, hỏi đáp cả bộ tài liệu nội bộ công ty.
• Nếu bạn làm những việc trên, việc chọn đúng mô hình sẽ tiết kiệm cho bạn hàng trăm đô mỗi tháng.

Tại sao mình quyết định so sánh hai mô hình này?

Câu chuyện là thế này. Tháng trước, team mình có một dự án phải nạp 800 trang PDF vào mô hình để hỏi đáp. Mình dùng Claude Opus 4.7 thử, kết quả rất tốt, nhưng hóa đơn cuối tháng làm mình "khóc thét". Lúc đó sếp mình gửi cho mình bản DeepSeek V4, nói rằng "thử xem có ổn không". Mình test thử 50 câu hỏi ngẫu nhiên, kết quả chỉ thua khoảng 4% độ chính xác, nhưng giá chỉ bằng 1/20. Vậy là mình bắt tay vào làm bài đánh giá chính thức.

Chuẩn bị trước khi bắt đầu (mất khoảng 10 phút)

1. Truy cập trang chủ của nhà cung cấp API, bấm Sign Up, điền email và xác nhận qua OTP.
2. Vào mục API Keys, bấm Create new key, sao chép chuỗi key dài và lưu vào Notepad (lưu ý: key chỉ hiện một lần duy nhất, đừng đóng popup).
3. Tải phần mềm Python 3.11 từ python.org, tick vào ô Add Python to PATH trong lúc cài đặt.
4. Mở cửa sổ dòng lệnh (Terminal trên macOS, PowerShell trên Windows), gõ pip install openai requests rồi Enter.
5. Gợi ý ảnh chụp: chụp màn hình bước "Create new key" — bạn sẽ thấy một dãy ký tự bắt đầu bằng sk-..., đó chính là "chìa khóa" để gọi mô hình.

Đoạn mã 1 — Gọi mô hình lần đầu tiên (copy và chạy được ngay)

# Khoi tao: luu file nay thanh test_long_context.py
import os
from openai import OpenAI

Thay chuoi duoi day bang key cua ban
API_KEY = "sk-PASTE-YOUR-KEY-HERE"
BASE_URL = "https://api.example.com/v1"  # mac dinh, ban se doi sang HolySheep o buoi sau

client = OpenAI(api_key=API_KEY, base_url=BASE_URL)

Tin nhan nho de kiem tra ket noi
response = client.chat.completions.create(
    model="claude-opus-4.7",
    messages=[
        {"role": "user", "content": "Viet 1 cau chao bang tieng Viet."}
    ],
    max_tokens=100,
    temperature=0.2
)

print("Phan hoi tu mo hinh:")
print(response.choices[0].message.content)
print("So token su dung:", response.usage.total_tokens)

Gợi ý ảnh chụp: mở Terminal, gõ python test_long_context.py, chụp lại màn hình khi thấy dòng "Phan hoi tu mo hinh" hiện ra — đó là khoảnh khắc bạn "nói chuyện" với AI bằng dòng lệnh thành công lần đầu.

Bài kiểm tra ngữ cảnh dài của mình (công bằng cho cả hai)

Để so sánh công bằng, mình dùng cùng một bộ dữ liệu và cùng một bộ câu hỏi cho cả hai mô hình. Cụ thể:

• Dữ liệu đầu vào: 5 file PDF tổng cộng 1.087.234 token (bao gồm 2 báo cáo tài chính, 2 hợp đồng pháp lý, 1 tài liệu kỹ thuật).
• Bộ câu hỏi: 50 câu, chia thành 4 nhóm: trích xuất số liệu (15 câu), so sánh điều khoản (15 câu), tóm tắt nội dung (10 câu), suy luận logic (10 câu).
• Môi trường chạy: máy MacBook Pro M3, mạng 200 Mbps, chạy lúc 2 giờ sáng để tránh giờ cao điểm.

Đoạn mã 2 — Chạy toàn bộ bài kiểm tra ngữ cảnh dài

# File: long_context_benchmark.py
import time, json
from openai import OpenAI

API_KEY = "sk-PASTE-YOUR-KEY-HERE"
BASE_URL = "https://api.example.com/v1"

def run_test(model_name, document_text, question):
    client = OpenAI(api_key=API_KEY, base_url=BASE_URL)
    start = time.time()
    resp = client.chat.completions.create(
        model=model_name,
        messages=[
            {"role": "system", "content": "Ban la tro ly phan tich tai lieu chinh xac."},
            {"role": "user", "content": f"Tai lieu:\n{document_text}\n\nCau hoi: {question}"}
        ],
        max_tokens=800,
        temperature=0.1
    )
    elapsed_ms = (time.time() - start) * 1000
    return {
        "model": model_name,
        "latency_ms": round(elapsed_ms, 1),
        "input_tokens": resp.usage.prompt_tokens,
        "output_tokens": resp.usage.completion_tokens,
        "answer": resp.choices[0].message.content[:300]
    }

Mo file PDF da duoc trich xuat thanh van ban
with open("document_1m_tokens.txt", "r", encoding="utf-8") as f:
    doc = f.read()

questions = [
    "Tom tat 3 diem chinh cua hop dong.",
    "So sanh dieu khoan boi thuong giua hai ben.",
    "Loi nhuan quy 3 la bao nhieu?"
]

Chay voi Claude Opus 4.7
print("=== Claude Opus 4.7 ===")
opus_results = [run_test("claude-opus-4.7", doc, q) for q in questions]
for r in opus_results:
    print(f"Latency: {r['latency_ms']}ms | In: {r['input_tokens']} | Out: {r['output_tokens']}")

Chay voi DeepSeek V4
print("\n=== DeepSeek V4 ===")
ds_results = [run_test("deepseek-v4", doc, q) for q in questions]
for r in ds_results:
    print(f"Latency: {r['latency_ms']}ms | In: {r['input_tokens']} | Out: {r['output_tokens']}")

Luu ket qua
with open("results.json", "w", encoding="utf-8") as f:
    json.dump({"opus": opus_results, "deepseek": ds_results}, f, ensure_ascii=False, indent=2)

Kết quả benchmark thực tế (số liệu mình đo được)