LEVEL 1 · ใช้ทุกวัน

ตำแหน่งมีราคา — ต้น กลาง ท้าย ไม่เท่ากัน

นี่คือคำตอบของคำถามที่ปลูกไว้ตั้งแต่บทที่ 1 ว่า "ของที่อยู่ในหน้าต่างแล้ว โมเดลเห็นเท่ากันหมดหรือเปล่า"

ไม่ครับ และความเข้าใจผิดข้อนี้แพงมาก เพราะมันทำให้คนแก้ปัญหาผิดทาง: พอ AI มองข้ามอะไรไป เราก็ไปเติมข้อมูลเพิ่ม ทั้งที่ข้อมูลนั้นอยู่ในนั้นอยู่แล้ว — แค่อยู่ผิดที่

4.1 อาการที่วงการเรียกว่า "จมกลางน้ำ"

มีปรากฏการณ์ที่วัดกันมาซ้ำ ๆ ว่า ข้อมูลที่อยู่ กลาง บริบทยาว ๆ ถูกใช้งานได้แย่กว่าข้อมูลที่อยู่ต้นหรือท้าย — วงการเรียกว่า lost in the middle

แปลเป็นภาษาคนทำงาน: พี่แนบเอกสารสี่สิบหน้าไปให้ แล้วคำตอบสำคัญอยู่หน้า 19 — โอกาสที่มันจะถูกมองข้าม สูงกว่าคำตอบเดียวกันที่อยู่หน้าแรกหรือหน้าสุดท้ายอย่างมีนัยสำคัญ

FIG 4.1 — เส้นโค้งด้านบนคือน้ำหนักความสนใจโดยคร่าว — ข้อมูลชิ้นเดียวกันได้ผลไม่เท่ากัน เมื่อย้ายตำแหน่ง · วงการเรียกหลุมตรงกลางว่า lost in the middle

4.2 ทำไมท้ายถึงหนักที่สุด

กลไกการทำนายคำถัดไปทำให้สิ่งที่อยู่ ใกล้จุดที่กำลังเขียน มีน้ำหนักมากที่สุดโดยธรรมชาติ — และสิ่งที่ใกล้ที่สุดคือท้ายก้อนเสมอ · ส่วนต้นก้อนได้เปรียบรองลงมา เพราะมันเป็นกรอบที่ทุกอย่างหลังจากนั้นถูกอ่านผ่าน

ตรงกลางไม่ได้ทั้งสองอย่าง

4.3 สามท่าที่ใช้ได้ทันที

① คำสั่งที่สำคัญที่สุด วางท้ายสุด — ถ้าพี่แนบเอกสารยาวแล้วต่อท้ายด้วยคำถาม คำถามนั้นได้ตำแหน่งดีที่สุดอยู่แล้ว · แต่ถ้าพิมพ์คำสั่งก่อนแล้ววางเอกสารต่อท้าย คำสั่งนั้นเพิ่งถูกดันไปอยู่กลางน้ำ

② system prompt ยาว ให้ทวนกติกาสำคัญตอนท้ายอีกครั้ง — หนึ่งถึงสองบรรทัด ไม่ใช่ทวนทั้งหมด · นี่เป็นท่าที่ใช้กันจริงในระบบใหญ่:

<tone_preference>
ตอบสั้น ตรงประเด็น ไม่ต้องเกริ่น
</tone_preference>

③ อย่าฝังของสำคัญไว้กลางกองยาว — ถ้าจำเป็นต้องแนบยาว ให้สรุปประเด็นที่ต้องใช้ไว้ท้ายอีกรอบ · เสียโทเคนนิดเดียว แต่ย้ายของจากตำแหน่งที่แย่ที่สุดไปตำแหน่งที่ดีที่สุด

อ่านแบบเต็มเล่ม