จากประสบการณ์ตรงของผมในฐานะวิศวกรอาวุโสที่ดูแลระบบ RAG ของลูกค้าองค์กรแห่งหนึ่ง เราเคยพึ่งพา anthropic-cookbooks (github.com/anthropics/anthropic-cookbooks) ที่เรียก Claude API โดยตรงผ่าน api.anthropic.com จนกระทั่งบิลรายเดือนพุ่งเกิน 320,000 บาท และทีมปฏิบัติการในเซินเจิ้นรายงาน latency สูงถึง 820-960 ms ในช่วง prime time บทความนี้คือบันทึกการย้ายระบบ production ทั้งหมดมายัง แหล่งข้อมูลที่เกี่ยวข้อง
บทความที่เกี่ยวข้อง