Hallucination
ความหมาย
หัวข้อที่มีชื่อว่า “ความหมาย”อาการที่โมเดลสร้างข้อมูลที่ฟังดูน่าเชื่อถือแต่ไม่ถูกต้องหรือไม่มีอยู่จริง โดยไม่รู้ตัวว่ากำลังผิด
โมเดลภาษาสร้างคำตอบจากการทำนาย token ถัดไป ไม่ได้ตรวจกับฐานข้อมูลข้อเท็จจริง จึงอาจเขียนชื่อ ตัวเลข แหล่งอ้างอิง หรือโค้ดที่ไม่มีอยู่จริงด้วยน้ำเสียงมั่นใจได้ โดยเฉพาะเรื่องที่โมเดลไม่มีข้อมูล หรือเมื่อคำถามบีบให้ต้องตอบ
สำหรับ Local AI ไม่มีวิธีกำจัดให้หมด แต่ลดโอกาสได้ เช่น ใช้ RAG ให้โมเดลตอบจากเอกสารที่ให้ ตั้ง Temperature ต่ำลงสำหรับงานที่ต้องการความแม่นยำ และตรวจคำตอบสำคัญกับแหล่งจริงเสมอ Quantization ที่หนักมากอาจทำให้คุณภาพโดยรวมลดลงได้ แต่ผลจริงขึ้นกับโมเดลและต้องดูจากการทดสอบ