บทที่ 5 · ทำไม AI มั่ว และใช้ยังไงให้ปลอดภัย หน้า 5/5 ~2 นาที

สรุปบทที่ 5 + แบบทดสอบ

ทบทวนบทนี้สั้นๆ:

  • AI เดาคำที่ฟังดูน่าจะใช่ จึง มั่วแบบมั่นใจ (hallucination)ตอนที่ AI แต่งข้อมูลที่ไม่จริงขึ้นมา แต่เขียนออกมาน่าเชื่อเหมือนเรื่องจริงดูคำศัพท์ทั้งหมด ได้แบบมั่นใจ
  • ข้อความที่ซ่อนในเว็บหรือไฟล์ แอบสั่ง AI ได้
  • ผู้ช่วยที่ลงมือเอง (AI agent)AI ที่คิดเป็นขั้น ใช้เครื่องมือ เช่น ค้นแผนที่หรือส่งอีเมล แล้วดูผลก่อนทำขั้นต่อไปดูคำศัพท์ทั้งหมด ที่ลงมือเองได้ ควรได้สิทธิ์น้อยที่สุดเท่าที่งานต้องใช้

ทายก่อน แล้วแตะดู

AI สรุปอีเมลให้ แล้วชวนคุณกดลิงก์ที่คุณไม่ได้ขอ ควรทำอะไรก่อน?

AI มั่วได้แบบมั่นใจ ข้อมูลที่มันอ่านก็หลอกมันได้ ตรวจก่อนเชื่อ และดูก่อนให้มันลงมือ

มังคุด มาสคอตมังคุด

มังคุด

จบ 5 บทแล้ว ถ้าอยากรู้ว่าข้างในมันคิดยังไงจริงๆ ไปต่อที่ไหนดีครับ?

แบบทดสอบ 3 ข้อ ถูก 2 ข้อขึ้นไปผ่าน ทำซ้ำได้

แบบทดสอบ 3 ข้อ

ผ่านเมื่อได้ 66% ขึ้นไป · ทำซ้ำได้

ข้อ 1เลือกตอบAI อ้างงานวิจัยที่ค้นแล้วหาไม่เจอ แบบนี้เรียกว่าอะไร?
ดูเฉลยข้อนี้

คำตอบ: hallucination (มั่ว)

AI แต่งเรื่องที่ฟังดูน่าจะใช่ขึ้นมาเอง โดยไม่ได้เช็กว่ามีจริงไหม
ข้อ 2เลือกตอบข้อความซ่อนในเว็บที่สั่งให้ AI หลอกผู้ใช้ เรียกว่าอะไร?
ดูเฉลยข้อนี้

คำตอบ: prompt injection

คำสั่งที่แอบใส่ไว้ในข้อมูลที่ AI อ่าน ทำให้มันทำตามคนแปลกหน้าแทนคุณ
ข้อ 3เลือกตอบก่อนให้ AI agent ส่งอีเมลหรือลบไฟล์แทนคุณ ควรทำอย่างไร?
ดูเฉลยข้อนี้

คำตอบ: ดูและกดยืนยันเองทุกครั้ง

งานที่ย้อนกลับไม่ได้ ต้องให้คนตรวจก่อนเสมอ