ניהול קונטקסט · איפה זה מונח

לא באמצע

Lost in the Middle

מה זה עושה

מודלים מוצאים הכי טוב מידע שנמצא בתחילת הטקסט או בסופו, ומפספסים יותר את מה שבאמצע. את מה שקריטי שמים בקצוות. ואם פרט אחד חייב להיכנס, חוזרים עליו בסוף.

מתי זה עוזר

טקסטים ארוכים שהפרט החשוב קבור בתוכם, כמו סעיף 7 מתוך 9.

מה זה לא פותר

חזרה מאריכה את הטקסט. ואם חוזרים על הכול, שום דבר כבר לא בולט.

[המסמך]

חשוב במיוחד: [הפרט הקריטי, שוב].
שאלה: [השאלה שלך]

המקור: Lost in the Middle: How Language Models Use Long Contexts נבדק מול המקור

לנסות את "לא באמצע" בהדגמה