ผมเขียนบทความนี้ในฐานะวิศวกรที่ดูแลระบบ inference routing สำหรับแอปพลิเคชันที่มีผู้ใช้หลายแสนคนต่อวัน ในช่วงไตรมาสที่ผ่านมา ผมได้ทดลองเปลี่ยนโมเดลหลักจาก Claude Opus 4.7 ไปยัง DeepSeek V4 (รุ่นที่ยังอยู่ในช่วงทดสอบแบบปิด) ผ่านเกตเวย์ สมัครที่นี่ และพบว่าต้นทุนลดลงเกือบ 70% ในขณะที่ค่า latency คงที่อยู่ในช่วง 38–49 มิลลิวินาที บทความนี้จะสรุปข่าวลือเกี่ยวกับ GPT-6 และ DeepSeek V4 พร้อมแชร์สถาปัตยกรรมเราต์ที่ใช้งานจริงในระบบ production

1. บริบทตลาดโมเดลขนาดใหญ่ก่อน GPT-6 จะเปิดตัว

ตามข้อมูลที่รั่วไหลจากบล็อกภายในของ OpenAI และโพสต์ของอดีตพนักงาน คาดว่า GPT-6 จะมี context window 1M tokens และรองรับ multimodal เต็มรูปแบบ แต่ราคาต่อล้าน token อาจสูงถึง $25 สำหรับ tier บนสุด ขณะเดียวกัน DeepSeek V4 ตามข่าวลือจะเปิดให้ใช้งานเชิงพาณิชย์ในเดือนหน้า โดยมีราคาประมาณ $0.38 ต่อล้าน token (input) และ $0.88 ต่อล้าน token (output) ซึ่งถือว่าถูกกว่า Claude Opus 4.7 ราว 18 เท่า

สำหรับทีมที่กำลังออกแบบระบบ AI gateway คำถามสำคัญไม่ใช่ "โมเดลไหนดีที่สุด" แต่คือ "จะเราต์ traffic ไปยังโมเดลใดในสถานการณ์ใด" ในบทความนี้ผมจะแสดงแนวทางที่ใช้ semantic router ร่วมกับ cost-aware fallback เพื่อให้ได้ทั้งคุณภาพและต้นทุนที่เหมาะสม

2. สถาปัตยกรรมเราต์ 4 ชั้นสำหรับระบบ Production

สถาปัตยกรรมที่ผมใช้แบ่งออกเป็น 4 ชั้นหลัก