1. יום ראשון: החלון נגמר
567 / 577 טוקנים · השיחה כולה: 893 טוקנים
זו השיחה משלב 2. השולחן מלא, והמטרה והחוזה כבר נפלו ממנו. כדי להמשיך מחר צריך סשן חדש, ושולחן חדש מתחיל ריק. מה יעבור אליו?
שלב 3 מתוך 4
ניהול זיכרון
השולחן מוגבל, העבודה לא. ניהול זיכרון הוא איך ממשיכים מאיפה שעצרנו, בלי שהחרטטן ימציא איפה עצרנו.
למה צריך זיכרון
השולחן נגמר
בשלב 2 ראינו שחלון הקונטקסט מוגבל. עבודה אמיתית, כמו לקוח, פרויקט או מסמך ארוך, לא נגמרת בשיחה אחת. בשלב מסוים הסשן מתמלא, או שפשוט צריך לפתוח סשן חדש. וסשן חדש מתחיל משולחן ריק.
להמשיך מאיפה שעצרנו
מה שעובר לסשן הבא הוא רק מה שמישהו כתב. כל השאר נשאר מאחור. ניהול זיכרון הוא מה שמאפשר לחרטטן להמשיך מאיפה שהסשן הקודם עצר, ולא להתחיל מאפס.
לפתוח עם מה שרלוונטי
זיכרון טוב הוא לא "כל מה שהיה". זה מה שצריך לעבודה של היום. זיכרון שלא שייך למשימה תופס מקום על השולחן בדיוק כמו צרופה לא קשורה.
החרטטן מחרטט גם זיכרונות
כשאין זיכרון בכלל, הוא בדרך כלל יגיד שהוא לא זוכר. הבעיה מתחילה כשיש זיכרון חלקי או ישן. עובדה שהייתה נכונה ביום ראשון מונחת על השולחן ביום חמישי ונראית בדיוק כמו עובדה, ומה שחסר הוא משלים מהראש.
וזה לא תמיד אתם שמחליטים מה נזכר. לפי OpenAI, ChatGPT מחליט בעצמו איזה מידע רלוונטי לזכור. לפי Anthropic, סיכום הזיכרון של Claude מתעדכן פעם ב-24 שעות.
מקורות: OpenAI · Memory in ChatGPT · Anthropic · Claude's chat search and memory
הדגמה · אותו לקוח משלב 2, שבוע אחד
מה עובר מסשן לסשן
אין כאן חיבור למודל, ושום דבר כאן לא מוצג כתשובה של מודל. ההדגמה מראה מה מונח על השולחן בתחילת כל סשן, בטוקנים אמיתיים (o200k_base), והאם זה מה שצריך ומה שנכון היום.
2. יום שני: ממשיכים את התשובה על הביטול
3. יום חמישי: הזיכרון התיישן
יום שלישי: הלקוח התקשר. הוא חוזר בו מהביטול, ורוצה לעבור למסלול עוסק פטור ב-450 ש"ח לחודש.
אותו זיכרון מיום שני עובר לסשן של יום חמישי: מאשרים ללקוח את המעבר למסלול החדש.
4. לוקחים שליטה: דף הפרויקט
עכשיו אתם מחליטים. הדף מתחיל ממה שעבר ביום שני. עוברים על כל שורה: משאירים, מוחקים, או מחליפים במה שנכון היום.
לוקחים שליטה: לולאת הזיכרון
הוא מציע, אתם מאשרים. שום דבר לא נכנס לזיכרון בלי שראיתם אותו, ולכל עובדה יש תאריך.
- בסוף סשן
הוא כותב פתק: איפה עצרנו, מה החלטנו, מה השתנה, מה פתוח, מה הבא.
תשאיר פתק - לפני ששומרים
אתם עוברים על הפתק שורה אחרי שורה: מאשרים, מתקנים, מוחקים.
תראה לי לפני שאתה שומר - בין סשנים
הפתק המאושר נכנס לדף הפרויקט שלכם. לכל עובדה יש תאריך. מה שהשתנה מחליפים, לא מוסיפים.
דף הפרויקט - בתחילת סשן
מניחים את הדף על השולחן, והוא אומר מה הבין לפני שמתחילים לעבוד.
הנה איפה אנחנו · מה הבנת?
דף הפרויקט: תבנית
התבנית הריקה תופסת 107 טוקנים. דף מלא עדיין קטן בהרבה משיחה שלמה.
להדביק ב-ChatGPT או ב-Claude
דף הפרויקט: [שם הלקוח או הפרויקט] עודכן לאחרונה: [תאריך] המטרה: [משפט אחד] החלטות: - [תאריך] [מה הוחלט] עובדות (עם תאריך ומקור): - [תאריך] [העובדה] (מקור: [חוזה / מייל / שיחה]) מה פתוח: - [מה עוד לא נסגר] הצעד הבא: [מה עושים בסשן הבא]
הטכניקות
11 טכניקות, לפי שלושת התפקידים של זיכרון.
ממשיכים
להמשיך מאיפה שעצרנו
החלון נגמר. העבודה צריכה לעבור לסשן הבא.
פותחים
לפתוח עם מה שרלוונטי
סשן חדש מתחיל משולחן ריק. מה מניחים עליו?
שולטים
לא לתת לו לחרטט זיכרונות
זיכרון שאף אחד לא בודק הופך לחרטוט עם תאריך.