ניהול קונטקסט · מה עולה על השולחן
רק מה שצריך
Context Rot
מה זה עושה
כל מה שעל השולחן מתחרה על תשומת הלב שלו, גם הצרופה שלא קשורה וגם השאלה הצדדית מלפני שעה. מצרפים רק את מה שנחוץ לשאלה הזאת, ושאלות צדדיות שואלים בשיחה נפרדת.
מתי זה עוזר
שיחות עם הרבה צרופות, או שיחות שגלשו בדרך לנושאים אחרים.
מה זה לא פותר
קשה לדעת מראש מה לא נחוץ. מורידים יותר מדי, ומורידים גם עובדה חשובה.
להדביק ב-ChatGPT או ב-Claude
מצרף רק את [המסמך הרלוונטי]. שאלות אחרות אשאל בשיחה נפרדת. שאלה: [השאלה שלך]
המקור: Chroma · Context Rot: How Increasing Input Tokens Impacts LLM Performance נבדק מול המקור