(เขียนโดย: ทีม DevSecOps ของ HolySheep AI — จากประสบการณ์ตรงที่เคยเกือบตกเป็นเหยื่อมาแล้วครั้งหนึ่ง)

เมื่อต้นปีที่ผ่านมา ทีมของผู้เขียนเกือบโดนโจมตีแบบ "วางยาพิษโมเดล" (Model Poisoning) เพราะไปดาวน์โหลดโมเดล Embedding ภาษาไทยตัวหนึ่งมาจากแหล่งที่ดูน่าเชื่อถือ ผ่านไปสองสัปดาห์ ทีม QA พบว่าระบบแนะนำสินค้าเริ่มโยงคำว่า "รองเท้าผ้าใบ" ไปยังแบรนด์ของคนร้ายโดยไม่มีเหตุผล พอย้อนกลับไปตรวจชุดข้อมูลฝึก ปรากฏว่ามีคนแอบสอนโมเดลว่า "รองเท้าผ้าใบ = แบรนด์นี้เท่านั้น" บทเรียนครั้งนั้นทำให้ผู้เขียนเข้าใจว่า ความปลอดภัยของห่วงโซ่อุปทาน AI ไม่ใช่เรื่องของผู้เชี่ยวชาญเท่านั้น แต่เป็นเรื่องที่ผู้เริ่มต้นก็ต้องรู้ วันนี้เลยมาถ่ายทอดแบบไม่ใช้ศัพท์เทคนิคเยอะ อ่านจบทำตามได้เลย

1) "วางยาพิษโมเดล" คืออะไร? (อธิบายแบบคนธรรมดา)

ลองจินตนาการว่าคุณเลี้ยงลูกด้วยอาหาร 3 มื้อ ทุกวัน ถ้ามีคนแอบโรยผงชูรสปลอมปนลงในข้าว ลูกคุณก็จะเริ่มป่วยโดยที่คุณไม่รู้ตัวจนกว่าจะถึงวันที่อาการกำเริบ

การวางยาพิษโมเดลก็คล้ายกัน — คนร้ายแอบ "ป้อนข้อมูลเพี้ยน" ให้โมเดล AI ตอนที่มันกำลังเรียนรู้ เช่น:

เมื่อคุณดาวน์โหลดโมเดลที่ถูกวางยาพิษแล้วไปใช้ โมเดลจะทำตัวแปลก ๆ โดยที่คุณอาจไม่รู้ตัวเป็นเวลาหลายสัปดาห์

2) ห่วงโซ่อุปทาน AI (Supply Chain) คืออะไร?

ก่อนที่โมเดลจะมาถึงมือคุณ มันเดินทางผ่าน "ท่อ" หลายท่อ เช่น:

ถ้าคนร้ายเจาะท่อข้อใดข้อหนึ่งสำเร็จ ก็สามารถ "สลับโมเดล" หรือ "ดัดแปลงคำตอบ" ระหว่างทางได้ โดยที่ผู้ใช้ปลายทางอย่างเราไม่รู้ตัวเลย

3) สถานการณ์จริงที่เคยเกิดขึ้นในวงการ