ทำไมสอนในแชตแล้วไม่จำ
กลับมาที่คุณนุ่นตอนต้นบท โมเดลไม่รู้จัก "ชาไทยโกลด์" เพราะ:
- สินค้าวางขายหลัง วันตัดข้อมูล (knowledge cutoff, training cutoff)ช่วงเวลาสุดท้ายของข้อมูลที่ใช้ฝึกโมเดล เรื่องที่เกิดหลังจากนั้นโมเดลไม่รู้ เว้นแต่จะใส่ข้อมูลเข้าไปใน context เช่น แนบไฟล์หรือค้นเว็บดูคำศัพท์ทั้งหมด จึงไม่อยู่ในข้อมูลฝึก
- เรื่องที่ไม่เคยเผยแพร่ เช่น นโยบายภายในบริษัท มันก็ไม่เคยเห็น
แล้วทำไมตอบ "สูตรดั้งเดิมที่ขายมาหลายปี" อย่างมั่นใจ? loss ตอน pre-training ให้คะแนนการเดาให้เหมือนข้อความจริง ไม่มีคะแนนให้คำว่า "ไม่รู้" มันจึงเติมสิ่งที่ฟังเข้าเค้า นี่คือ อาการมั่ว (hallucination)เมื่อ AI ตอบข้อมูลที่ไม่จริงอย่างมั่นใจ เพราะมันถูกฝึกให้เขียนสิ่งที่ฟังดูน่าจะใช่ ไม่ใช่สิ่งที่จริงดูคำศัพท์ทั้งหมด (บทที่ 1)
ส่วนคำแก้ของคุณนุ่นอยู่แค่ใน หน้าต่างบริบท (context window)จำนวน token สูงสุดที่โมเดลมองเห็นได้ในครั้งเดียว นับรวมทั้งคำสั่งและคำตอบดูคำศัพท์ทั้งหมด ของแชตนั้น พารามิเตอร์ไม่เปลี่ยน
ท่องจำ หรือ จับหลัก?
- การจับหลัก (generalization)ความสามารถทำนายข้อความที่ไม่เคยเห็นตอนฝึกได้ดี วัดด้วย loss บนข้อความที่กันไว้ไม่ให้โมเดลเห็นดูคำศัพท์ทั้งหมด คือเดาข้อความที่ไม่เคยเห็นได้ดี
- การฟิตข้อมูลฝึกเกินไป (overfitting)เมื่อ loss บนข้อมูลฝึกยังลดลง แต่ loss บนข้อความใหม่ที่กันไว้กลับสูงขึ้น เหมือนนักเรียนที่ท่องข้อสอบเก่าแต่ทำข้อสอบใหม่ไม่ได้ดูคำศัพท์ทั้งหมด คือ loss บนข้อมูลฝึกลด แต่บนข้อความที่กันไว้กลับสูงขึ้น
- โมเดลใหญ่มักเห็นข้อความส่วนใหญ่ราวรอบเดียว (1 epoch) แต่ การท่องจำ (memorization)เมื่อโมเดลจำข้อความบางท่อนจากข้อมูลฝึกได้คำต่อคำ มักเกิดกับข้อความที่ซ้ำบ่อยและในโมเดลใหญ่ และเกิดได้แม้โมเดลโดยรวมยังจับหลักได้ดีดูคำศัพท์ทั้งหมด ยังเกิดกับข้อความที่ซ้ำบ่อย จึงต้องตัดข้อความซ้ำออก
ทางออก: ใส่ข้อเท็จจริงเข้าไปใน context ทุกครั้ง ด้วยการแนบเอกสาร แร็ก (Retrieval-Augmented Generation, RAG)เทคนิคค้นเอกสารที่เกี่ยวข้องด้วย embedding แล้วแนบให้ AI อ่านก่อนตอบ เหมือนสอบแบบเปิดหนังสือดูคำศัพท์ทั้งหมด (บทที่ 2) ค้นเว็บ หรือเครื่องมือ (บทที่ 7)
โมเดลรู้เฉพาะสิ่งที่อยู่ในข้อมูลฝึกก่อนวันตัดข้อมูล เรื่องที่เกิดทีหลังหรือไม่เคยเผยแพร่ต้องใส่เข้าไปใน context ทุกครั้ง
มังคุด
แต่แอปบางตัวบอกว่า "จำคุณได้" นี่นา แปลว่ามันเรียนรู้จากหนูแล้วใช่มั้ย?