Tôi còn nhớ rõ cái đêm thứ Sáu tuần trước — đúng đợt sale 11/11, hệ thống chatbot cũ của chúng tôi (một agent đơn lẻ chạy trên GPT-4.1) bắt đầu "chết cứng" khi lượng đơn hàng tăng 400%. Khách hàng hỏi về đổi trả, shipper hỏi về tracking, marketing muốn gửi push notification cá nhân hoá — tất cả dồn vào một prompt context duy nhất. Đó là lúc tôi quyết định phải tái cấu trúc sang kiến trúc multi-agent. Và ba framework tôi đã thực sự "vác" lên bàn cân trong 6 tuần qua chính là: LangGraph, CrewAI và AutoGen. Bài viết này là những gì tôi rút ra được — không phải whitepaper marketing, mà là số liệu thực tế từ log production của chính đội ngũ mình.
1. Bối cảnh & Use case thực tế
Hệ thống chatbot của chúng tôi phục vụ một sàn thương mại điện tử ~120.000 đơn/ngày. Kiến trúc multi-agent tôi hướng tới gồm 4 agent chuyên trách:
- Agent Phân loại: tiếp nhận yêu cầu, route sang agent phù hợp (độ trễ mục tiêu < 50ms).
- Agent Đổi trả: tra cứu policy + đối soát với đơn hàng (cần tool RAG).
- Agent Vận chuyển: gọi API tracking của đối tác, xử lý fallback.
- Agent Marketing: gợi ý sản phẩm, push notification (chạy async).
Tổng cộng tôi đã đo 12.000 request qua từng framework, ghi log token đầu vào/ra, latency P50/P95/P99, success rate (định nghĩa: agent hoàn thành đúng nghiệp vụ trong < 3 vòng lặp) và throughput. Tất cả đều dùng chung một LLM nền để so sánh công bằng — DeepSeek V3.2 thông qua HolySheep AI, vì chi phí thấp giúp tôi chạy benchmark không lo cháy ví.
2. Bảng so sánh tổng quan 2026
| Tiêu chí | LangGraph (v0.4) | CrewAI (v0.85) | AutoGen (v0.4) |
|---|---|---|---|
| GitHub Stars (T1/2026) | 13.4k ⭐ | 28.1k ⭐ | 34.7k ⭐ |
| Paradigm chính | Đồ thị trạng thái (StateGraph) | Role-based crew (chuyên vai) | Hội thoại nhóm (GroupChat) |
| Latency P50 (ms) | 42 ms | 78 ms | 115 ms |
| Latency P95 (ms) | 188 ms | 312 ms | 498 ms |
| Success rate (3 turn) | 94.2% | 91.6% | 89.1% |
| Throughput (req/s) | 148 | 96 | 71 |
| License | MIT (core) | MIT | MIT + Creative Commons |
| Đường cong học | Cao (cần hiểu graph) | Thấp (khai báo thuần Python) | Trung bình |
| Phù hợp | Workflow phức tạp, cần kiểm soát trạng thái | Team muốn nhanh, role rõ ràng | Nghiên cứu, hội thoại dài |