מטא משנה את כללי המשחק 🔄
וגם: המתכון הסודי לכתיבת הנחיות מותאמות אישית בצ'אטג'יפיטי
אהלן! כאן אמיתי בונה עם הניוזלטר השבועי בנושא בינה מלאכותית ופרודקטיביות. אני עדיין במילואים ואת רוב השבוע העברתי על ספינת דבורה בגבול הצפון ולכן הניוזלטר עדיין במתוכנת מצומצמת וגם נשלח רק היום .
והיום בתפריט:
מטא משנה את כללי המשחק
ההחלטה של מטא להפוך את מודל השפה שלה Llama למודל פתוח נשמעה בהתחלה תמוהה לרוב אנשים, ובצדק.
ההשקעה הכוללת במודל מוערכת בעשרות מיליארדי(!) דולרים ולמעשה ברגע שהוא משוחרר כל חברה בעולם יכולה לקחת את המודל הזה ולעשות בו כרצונה.
מה עובר על צוקרברג? הוא רק התאושש מכישלון המטאוורס ועכשיו הוא מנסה להפוך את מטא לחברה פילנתרופית?
אז זהו שלא בדיוק. רק ימים יגידו, אבל אם המהלך הזה יצליח הוא כנראה יזכר כאחד המהלכים העסקיים המבריקים אי פעם ויגרום לרעידת אדמה בשוק מודלי השפה וזה למה:
אם מנתחים את יחסי הכוחות בשוק היום המשוואה היא דיי ברורה - החברה שיש לה את המודל הכי טוב מרוויחה בענק בשתי דרכים עיקריות:
1.בעזרת חיבור המודל למוצרים שלה בתצורת קופיילוט או עוזר אישי שיתן להם יתרון לא פרופורציונלי על מוצרים מתחרים בשוק.
2. היא הופכת להיות התשתית של חברות אחרות שישתמשו במודל שלה דרך API תמורת תשלום.
אם קראתם פוסטים קודמים שכתבתי, אתם כבר יודעים שמדובר במירוץ חימוש על סטרואידים בין גוגל, מיקרוסופט, OpenAI, אנתרופיק, ומיסטרל כאשר כל פעם חברה משיקה מודל חדש והאחרות מנסות להדביק את הפער.
עד היום OpenAI תמיד הייתה הראשונה, אבל הנקודה החשובה פה היא שככל שהמודלים משתפרים העסק ניהיה יותר יקר ובסופו של דבר יש חברות בודדות שיהיה להן מספיק כסף להשתתף במירוץ הזה לאורך זמן - וזו בדיוק המשוואה שמטא מנסה לשנות.
זוכרים את הקלף האפור (והמרגיז) בטאקי שמכריח את כולם להחליף קלפים?
זה פחות או יותר מה שצוקרברג מנסה לעשות. הוא הבין שיהיה לו מאד קשה לנצח את OpenAI ברמת המודל לאורך זמן ולכן הוא מנסה ליצור משוואה חדשה בה המודל לא משנה ומי שתנצח היא מי שיהיו לה את המוצרים הכי טובים.
למטא יש כמעט ארבעה מיליארד משתמשים בוואטסאפ, פייסבוק ואינסטגרם ביחד, והיא אחת מחברות המוצר המובילות בעולם. בנוסף, יכולות ה-AI הן בדיוק מה שהיה חסר לחזון המטאוורס כדי להצליח ומטא שכבר שולטת בשוק הAR/VR תיהיה המרוויחה הגדולה מהחיבור ביניהם.
האם הרעיון מרחיק הלכת הזה מצדיק לשרוף עשרות מיליארדי דולרים על אימון מודל פתוח לכולם? לא בטוח.
אבל יש לה עוד סיבה לא פחות חשובה: התדמית שלה.
מאז פרשת קיימברידג' אנליטיקה פייסבוק חטפה אש מכל כיוון אפשרי ונוצרה לה תדמית של חברה דורסנית שסוחרת במידע של משתמשים. התדמית הזו פגעה בצוקרברג אישית כאשר נדרש להעיד בסנאט כמה פעמים וגם פגעה בחברה ברמה העסקית מה שגרם למשתמשים רבים לנטוש את הפלטפורמה ולעבור למתחרות כמו טיקטוק. צוקרברג זיהה פה הזדמנות היסטורית להפוך להיות "החברה הטובים" ובאופן קצת אבסורדי להגשים את החזון המקורי שלשמו הוקמה OpenAI.
השבוע ראינו את החזון הזה מתחיל להפוך למציאות כאשר מטא שיחררה את המודל החדש שלה Llama 3 שהגרסה הקטנה שלו כבר עוקפת את הגרסה הקודמת של GPT4 והוא גם מהיר יותר וניתן להרצה על חומרה פשוטה. בנוסף הם פרסמו נתונים ראשוניים של גרסה גדולה יותר שעדיין נמצאת בשלבי אימון אבל כפי שזה נראה הנראה תעקוף את GPT4 החדש וגם את קלוד וכאשר זה יקרה ההשלכות יהיו מרחיקות לכת.
האם זה הסוף של מודלי השפה הסגורים?
עוד מוקדם לדעת ובטוח שלא הייתי מהמר נגד OpenaAI בשלב הזה. רוב הסיכויים שעד הוא יצא הם כבר יוציאו את GPT5 מה שיטרוף את הקלפים, אבל לפי קצב ההתקדמות של מטא ניתן להעריך שהיא תמשיך לצמצם את הפער והתרחיש שבסופו של חברות יעבדו עם מודלים פתוחים נשמע סביר יותר מאי פעם.
המתכון הסודי ל-Custom Instructions שישדרגו את העבודה שלכם עם ChatGPT
למי שלא מכיר, Custom Instructions הוא פיצ'ר בתוך ג'יפיטי שעוזר לו לכתוב לכם תשובות יותר פרסונליות ומותאמות אישית. בפועל, זה סוג של "פרומפט מערכת" שנמצא מאחורי הקלעים בתצורה של תשובות לשתי השאלות האלה:
1.מה הייתם רוצים שהצ'אט ידע עליכם כדי לתת לכם תשובות טובות יותר?
2.איך הייתם רוצים שהצ'אט יגיב לכם?
הפיצ'ר קיים גם בגרסה החינמית וכדי להשתמש בו פשוט לוחצים על התפריט הראשי בפינה השמאלית למטה, בוחרים באופציה Customize ChatGPT ואז נפתח הפופ אפ עם השאלות.
למרות שזה פיצ'ר שיכול לשדרג את העבודה עם הצ'אט, רוב המשתמשים לא מנצלים את היכולת הזו. כשניסיתי לחקור מה הסיבה לכך, התשובה הכי נפוצה הייתה שלא הבינו בדיוק מה צריך לכתוב שם והחליטו לרדת מהעניין.
האמת? אני מבין אותם. אני מודה שגם אני קצת התבלבלתי כשניגשתי לענות על שתי השאלות האלה בפעם הראשונה, וזה למה:
בואו ניקח רגע את השאלה "מה הייתי רוצה שChatGPT שידע עלי?"
על פניו, נשמע פשוט - הייתי רוצה שידע כמה שיותר. אבל כחושבים על זה רגע, האם כל הפרטים שלי באמת רלוונטיים?
מבלי להיכנס לסוגיית הפרטיות ושמירה על הדאטה שלנו, האם יעזור שהצ'אט ידע עלי פרטים אישיים כמו בן כמה אני, איפה אני גר, מה התחביבים שלי, מה אני אוהב לאכול?
אז כמובן שזה תלוי בסוג השימוש שלי, אבל בהנחה שאני משתמש בו בעיקר לעבודה כמו רוב המשתמשים, אז כנראה שלא ממש…
גם השאלה השנייה: "איך הייתי רוצה שהוא יענה" היא מבלבלת, כי זו שאלה פתוחה שקשה לענות עליה בצורה אינטואיטיבית ולא מאד ברור מה כדאי לכתוב.
הנה למשל דוגמה לאיך אפשרי, אבל לא מומלץ לכתוב את ההנחיות (אם אתם לא מזהים את הרפנרס יש לכם חור בהשכלה ולכו לראות מבצע סבתא)
אז איך מחליטים מה כן רלוונטי לכתוב שם?
לדעתי הדרך הנכונה לגשת לשאלה הזו היא להתחיל דווקא מהסוף:
לחשוב מה השימושים הכי הנפוצים שלי
לנתח איזה בקשות, הערות ופרטי מידע אני שולח לצ'אט בתדירות גבוהה כדי לשפר את התשובות שלו
לגזור מתוכן את ההנחיות שיהיו רלוונטיות כמעט תמיד
להכניס אותן לפורמט של שתי השאלות עם המגבלה של 1,500 תווים לכל שאלה.
אז אחרי שעשיתי את הreverse engineering הזה על עצמי וגם קראתי המלצות וbest practices, הגעתי ל"מתכון" שלדעתי יהיה רלוונטי עבור מי שמשתמש בצ'אט בעיקר לעבודה:
בתשובה לשאלה הראשונה:
תיאור של החברה שלכם ובמה היא עוסקת, תיאור המוצר או השירות שלה החברה, מה התפקיד שלכם, מי הלקוחות או קהל היעד ומה מאפיין אותו ואולי עוד פרטים דומים שנשמעים רלוונטיים בהתאם לסיטואציה.
בתשובה לשאלה השניה:
תיאור של סגנון הכתיבה שלכם (כתבתי לא מזמן פוסט על איך לזקק אותו) ובמקום הפנוי שנשאר להוסיף כמה טכניקות מוכחות לשיפור הביצועים, כמו למשל: Think step by step," , "אתה מומחה להכל", Don't be lazy, הימנע מביטויים מורכבים וכו'.
כשסיימתי את התהליך, ניסיתי לחשוב איך אני יכול לפשט את זה אפילו יותר ואז עלה לי רעיון: ליצורCustom GPT ייעוד למשימה הזו
איך זה עובד?
הוא בגדול ישאל אתכם כמה שאלות, יבקש דוגמאות לטקסטים כדי ללמוד את סגנון הכתיבה שלכם ואז יחזיר לכם Custom Instructions שמורכבים מהמידע שלכם, סגנון הכתיבה שלכם בתוספת הטיפים שכתבתי פה.
*זמין רק למי שיש לו את הגרסה בתשלום (מתנצל מראש אבל כך זה עובד)
מוזמנים לנסות אותו בקישור הזה
אגב, מאז שפירסמתי אותו ניסו אותו כבר עשרות אנשים והפידבקים מאד חיוביים. גם בחנות האפליצקיות של ChatGPT הוא כבר התברג במקום השלישי בחיפוש הביטוי Custom Instructions ואני מקווה שעם הזמן יצליח לעלות למקום הראשון כי שני אלה שמעליו לא עושים עבודה טובה בכלל ומובילים עליו בכמות השיחות בגלל שהיו שם הרבה לפניו.
עד כאן להיום!
שיהיה חג שמח וסופ”ש רגוע ומהנה.
אמיתי