לפני כמה חודשים אמא שלי התקשרה אליי, קצת מאוכזבת. "תום, ניסיתי את הצ'אט הזה שהתקנת לי. ביקשתי ברכה ליום הולדת לציפי, וקיבלתי משהו שנשמע כמו כרטיס מהסופר." שאלתי מה בדיוק היא כתבה לו. "כתבתי: תכתוב ברכה ליום הולדת. מה עוד צריך?"
מסתבר שצריך. ולא בגלל שהמודל "לא מספיק חכם" - אלא בגלל שאף אחד לא הסביר לה מה הדבר הזה בכלל עושה. אז בואו נתחיל מזה, כי ברגע שזה יושב אצלכם בראש, כל שאר הקורס הופך לקל.
מכונת ניבוי, לא מכונת ידע
מודל שפה - ג'מיני, ChatGPT, Claude, לא משנה - הוא בבסיסו מכונה שמנבאת את המילה הבאה. הוא קרא כמות בלתי נתפסת של טקסטים ולמד מהם דפוסים: אחרי אילו מילים מגיעות אילו מילים, איך נראית תשובה לשאלה, איך נשמע מתכון או מכתב רשמי. כשאתם כותבים לו משהו, הוא לא "נזכר" בתשובה שמחכה לו איפשהו. הוא בונה אותה מילה אחרי מילה, לפי מה שהכי סביר שיבוא בהמשך.
לקח לי זמן לעכל את זה בעצמי. כשזה סוף סוף נפל לי, הבנתי גם את הכלל שמלווה אותי מאז:
מה שאתם כותבים למודל הוא לא שאלה. זו נקודת פתיחה. המודל ממשיך את הטקסט שלכם לכיוון שהטקסט שלכם מסמן - ופרומפט מעורפל מסמן כיוון מעורפל.
אגב, מהסיבה הזאת המודל גם מסוגל לטעות בביטחון מלא. הוא לא בודק עובדות, הוא מייצר המשך סביר. נדבר על זה ברצינות בשיעור 8 - בינתיים תזכרו שעובדות חשובות מאמתים.
ההקשר הוא הזיכרון היחיד
עוד מושג אחד ואנחנו מסודרים: הקשר (Context). המודל רואה בכל רגע את השיחה הנוכחית - ההודעות שלכם והתשובות שלו - וזהו. הוא לא זוכר שיחות קודמות (אלא אם הפעלתם פיצ'ר זיכרון), לא יודע מי אתם, ולא מנחש מה התכוונתם ולא כתבתם. כל פרט שחשוב לתשובה חייב להופיע בשיחה.
עכשיו בואו נחזור לברכה של אמא שלי. הגרסה שלה:
תכתוב לי ברכה ליום הולדת
כרטיס מהסופר, כמו שהיא אמרה. והגרסה שכתבנו ביחד בטלפון:
תכתוב לי ברכה ליום הולדת 60 לחברה טובה שלי, ציפי. היא מורה בפנסיה שאוהבת טיולים בארץ וסודוקו. הסגנון: חם ומרגש אבל עם קצת הומור, בערך 6 שורות, בגוף שני.
ההבדל היה כזה שאמא שלי חשדה שמישהו אמיתי כתב את זה. אבל אין פה קסם: כל פרט שהוספנו צמצם את מרחב הניחושים וכיוון את המודל למקום אחד. ואם התוצאה עדיין לא מדויקת? לא פותחים שיחה חדשה. ממשיכים באותה שיחה: "יותר קצר, ובלי החלק על הסודוקו". המודל רואה הכול ומתקן בהתאם.
לפני ואחרי
לפני (חלש): "תסביר לי על השקעות" - המודל ינחש למי, באיזו רמה, כמה לפרט. תקבלו הרצאה כללית שתסגרו באמצע.
אחרי (חזק): "תסביר לי, כמו לחבר שאין לו שום רקע בכלכלה, מה ההבדל בין קרן סל לקרן נאמנות. עד 150 מילים, עם דוגמה מספרית פשוטה בשקלים." - תקבלו בדיוק את מה שביקשתם.
זה לא מזל, וזה לא שהמודל "היה במצב רוח טוב" (שאלה שאני מקבל ברצינות מחברים). בגרסה השנייה פשוט נתתם למכונת הניבוי טקסט שיש לו רק המשך טוב אחד.
שיחה מתגלגלת, לא פרומפט מושלם
מכיוון שהמודל רואה את כל השיחה, אפשר לבנות איתו הבנה בהדרגה. נסו למשל:
אני מארגן ערב משחקים ל-8 חברים בני 30-40, חלקם לא מכירים. תציע לי 5 משחקי היכרות קצרים שלא דורשים ציוד.
ואחרי שתקבלו רשימה, המשיכו באותה שיחה:
מספר 2 ומספר 4 נשמעים הכי טוב. תכתוב לי לוח זמנים לערב של שעתיים שמשלב אותם, כולל הפסקת אוכל.
שימו לב: לא הסברתם שוב מי החברים ומה האירוע. המודל כבר "יודע", כי זה בהקשר. ככה אני עובד ביומיום - שיחה מתגלגלת, לא ניסיון לנסח פרומפט אחד מושלם מהניסיון הראשון.
הטעויות שכולנו עושים בהתחלה
אני אומר "כולנו" כי עשיתי את כולן בעצמי:
להתייחס למודל כמו לגוגל. גוגל מחפש מידע קיים; המודל מייצר טקסט חדש. שני כלים שונים לגמרי.
לכתוב מילה אחת ולצפות לקסם. "שיווק." זו לא הנחיה, זה נושא.
לפתוח שיחה חדשה לכל תיקון. ככה זורקים לפח את ההקשר שבניתם.
להניח שהמודל יודע דברים עליכם. הוא לא יודע. ספרו לו.
משימה לתרגול
בחרו משהו אמיתי שאתם צריכים השבוע - הודעה, רעיון, תכנון. כתבו עליו פרומפט של שורה אחת ושמרו את התשובה בצד. עכשיו כתבו גרסה שנייה עם לפחות ארבעה פרטים: למי זה מיועד, מה המטרה, מה האורך, מה הסגנון. השוו בין שתי התשובות. את ההבדל הזה תלמדו לייצר בכוונה, בכל פעם, החל מהשיעור הבא. ואם יצא לכם משהו טוב במיוחד - תשלחו לאמא. שלי עדיין מתגאה בברכה ההיא.