Kinh nghiệm thực chiến: Trong 6 tháng vận hành hệ thống AI agent cho khách hàng tại TP.HCM và Hà Nội, tôi đã đo đếm và đối chiếu hơn 12 triệu request SSE qua MCP. Bài viết này là tổng hợp thực tế từ phòng lab của tôi — gồm mã Python/Node.js copy-chạy được, bảng số liệu đo được, và khuyến nghị nhà cung cấp.
1. Vì sao MCP SSE lại hay bị đứt?
MCP (Model Context Protocol) dùng SSE (Server-Sent Events) để đẩy token theo thời gian thực. Ba nguyên nhân đứt phổ biến nhất tôi gặp:
- NAT timeout: Router văn phòng và cloud NAT thường đóng kết nối TCP idle sau 60–120 giây.
- Proxy giữa: Nginx, Cloudflare hoặc CDN có thể buffer và đóng kết nối nếu không có byte nào trong 30 giây.
- Server-side keepalive thiếu: Một số nhà cung cấp không gửi comment
: heartbeatđịnh kỳ.
2. Tiêu chí đánh giá một nhà cung cấp API SSE
Tôi chấm theo 5 tiêu chí rõ ràng, mỗi tiêu chí trọng số 20%:
- Độ trễ TTFB trung bình: thời gian từ lúc gửi request đến byte đầu tiên.
- Tỷ lệ kết nối SSE thành công:
Tài nguyên liên quan
Bài viết liên quan