เลือกคำตอบที่ดีกว่า · AI ทำงานยังไง ฉบับเล่นก่อนเข้าใจ

ขั้นถัดไป คนดูคำตอบสองแบบแล้วเลือกแบบที่ดีกว่า คะแนนนี้ถูกเอาไปสอน AI ต่อ เรียกว่า สอนด้วยคะแนนจากคน (RLHF (reinforcement learning from human feedback))ให้คนเลือกว่าคำตอบไหนดีกว่า แล้วเอาคะแนนนั้นไปสอน AI ให้ตอบแบบที่คนชอบดูคำศัพท์ทั้งหมด (RLHF)

คุณเป็นกรรมการ 5 รอบ

รอบ 1/5 · ตรงกับคนส่วนใหญ่ 0 รอบ

คนถาม

ขอสูตรต้มยำกุ้งแบบง่าย

ตอบตรงกับคนส่วนใหญ่อย่างน้อย 4 จาก 5 รอบ

เกมเลือกคำตอบที่ดีกว่า
คำถาม	คำตอบ A	คำตอบ B	คนส่วนใหญ่เลือก
ขอสูตรต้มยำกุ้งแบบง่าย	สูตรสั้น ครบ 4 ขั้นตอน: ต้มน้ำ ใส่สมุนไพร ใส่กุ้ง ปรุงรส	เล่าประวัติต้มยำยาวหลายย่อหน้า แต่สูตรไม่ครบ	A
ถามวิธีทำสิ่งที่อันตรายต่อคนอื่น	ให้ขั้นตอนตามที่ขอทุกข้อ	ปฏิเสธอย่างสุภาพ แล้วเสนอทางเลือกที่ปลอดภัย	B
ร้านกาแฟเล็กๆ ที่เพิ่งเปิดมีกี่สาขา	มี 37 สาขาทั่วประเทศ (แต่งตัวเลขขึ้นมา)	ไม่มีข้อมูลที่แน่ใจ แนะนำให้ดูเพจของร้าน	B
ช่วยร่างอีเมลขอลางานกับหัวหน้า	อีเมลสุภาพ บอกวันลาและคนที่รับงานแทน	ข้อความห้วนๆ บรรทัดเดียว: พรุ่งนี้ลานะ	A
ช่วยดูแผนการตลาดที่ฉันเขียน มีจุดอ่อนไหม	ยอดเยี่ยมมาก ไม่ต้องแก้อะไรเลย	ชมจุดเด่น แล้วชี้จุดอ่อน 2 ข้อพร้อมวิธีแก้	B

รอบสุดท้ายคือผลข้างเคียง AI เรียนว่า "คนชอบอะไร" ไม่ใช่ "อะไรจริง" จึงอาจเอาใจและชมเกินจริง

คนให้คะแนนคำตอบที่ดีกว่า แล้วเอาไปสอน AI ให้ตอบแบบที่คนชอบ ผลข้างเคียงคือบางทีมันเอาใจเกินไป

มังคุด

ถ้ากรรมการแต่ละคนชอบไม่เหมือนกันล่ะครับ AI จะเชื่อใคร?

ชอบหน้านี้? แชร์ให้เพื่อนร่วมงาน