Sáu tháng trước, team mình đối mặt với một vấn đề khá đau đầu: khách hàng yêu cầu tích hợp đồng thời ba hệ sinh thái AI khác nhau — Claude cho phân tích dài hạn, GPT-5.5 cho sáng tạo nội dung, Gemini cho xử lý đa phương tiện. Mỗi nhà cung cấp có một API riêng, schema riêng, giới hạn rate riêng, và — tệ nhất — một bảng giá khiến CFO mất ngủ. Mình ngồi lại thiết kế một MCP (Model Context Protocol) Server hoạt động như một gateway hợp nhất, điều phối thông minh giữa các model, và quan trọng nhất: cắt giảm chi phí hạ tầng AI xuống còn một phần ba.
Bài viết này là toàn bộ những gì mình đã đúc kết từ production — từ kiến trúc, code, benchmark cho tới những lỗi "trời ơi sao lại thế này" mà mình đã gặp phải. Nếu bạn đang build hệ thống AI multi-model ở production thì đây là một blueprint đã được kiểm chứng.
1. Tại sao cần MCP Server thay vì gọi API trực tiếp?
Trong một buổi retrospective, một đồng nghiệp nói: "Sao mình không cho frontend gọi thẳng ba API luôn cho nhanh?" Mình trả lời bằ