הפאדיחה של גוגל מעלה שאלות קשות
וגם: הטעות הנפוצה שעושים עם ג'יפיטי בעבודה ואיך להימנע ממנה , מיסטרל חושפת מודל חדש שמתחרה בג'יפיטי וגאווה ישראלית בתחום הוידאו
אהלן וברוכים הבאים לכל המצטרפים החדשים שנוספו השבוע!
והיום בתפריט:
הטעות הנפוצה שעושים עם ג’יפיטי בעבודה ואיך אפשר למנוע אותה.
הפאדיחה של גוגל חושפת את הבעייתיות של מודלי השפה הסגורים.
מיסטרל חושפת מודל ועוצמתי וצ’אט חדש שנושף בעורפו של ג’יפיטי 4.
עוד עדכונים מהשבוע.
משתמשים בצ'אטג'יפיטי לעבודה? בבקשה אל תעשו את הטעות הזו
“אני משתמש בגרסה החינמית של ג'יפיטי 3.5 בעבודה והוא עובד מצויין, באמת יש כזה הבדל?"
שאל אותי חבר מפתח סיניור בחברת הייטק.
האמת שזה משפט שאני שומע המון מאנשים כשמתייעצים איתי, ובכל פעם מופתע מחדש מזה שגם סיניורים עם הרבה ניסיון והבנה טכנולוגית עושים את הטעות הזאת.
איכשהו אנשים מפספסים את הפער בין הגרסה החינמית שעובדת עם המודל הישן (3.5) לגרסה בתשלום שמשתמשת במודל החדש ביותר GPT-4 Turbo.
זו אמנם אותה העטיפה ובמבט ראשון התשובות נראות דומות, אבל מדובר במוצר שונה לגמרי.
הנה חלק מהיתרונות של ג'יפיטי 4:
חלון קונטקסט הרבה יותר גדול (כלומר יכול לקבל פי 4 טקסט)
הוא מולטימודאלי - מסוגל להבין תמונות ווידאו
הוא עדכני יותר (עדכני לאפריל 2022 לעומת יוני 2021)
יכולת הבנה עצמית (Reasoning) טובה משמעותית
גישה לקוד אינטרפטר - קריטי למי שמשתמש בצ'אט לניתוח דאטה או לקוד פייתון.
יכולת ליצור GPTs ולהשתמש בכאלה שאחרים יצרו (אם אתם לא בטוחים מה זה מוזמנים לגלול בפיד שלי)
והכי חשוב - הוא פשוט יותר חכם ועוקף את ג'פיטי 3.5 בכל מבחן אפשרי.
עדיין לא השתכנעתם? קבלו את הנתון הבא:
צ'אטג'יפיטי 3.5 קיבל 83 במבחן IQ - אייקיו ממוצע של קוף אורנגאוטן 🐵
צ'אג'יפיטי 4 קיבל 155 במבחן IQ - אייקיו מוערך של אלברט איינשטיין 🧠
תחשבו את מי מהם הייתם רוצים להעסיק כמתמחה שלכם…
רגע אז מה המסקנה? שחייבים לשלם 20 דולר בחודש?
אז האמת שלא. הנה כמה דרכים להשתמש בGPT-4 מבלי לשלם על מנוי חודשי:
האופציה המומלצת ביותר - חשבון של מקום העבודה: אם אתם עובדים בארגון, תבקשו מהמהלים שלכם לפתוח חשבון של החברה (אפשר גם לחלוק אחד לכמה עובדים). אין לי ספק שמבחינת ROI זו אחת ההשקעות היותר טובות שהם יעשו ואם הם לא השתכנעו מוזמנים לשלוח להם את הפוסט הזה.
אגב, אם הם מודאגים מנושא אבטחת המידע אז גם לזה יש פתרון: לפני חודש OpenAI השיקו את גרסת Teams שעולה כמעט אותו הדבר (25 דולר במקום 20) ומבטיחה שהם לא ישתמשו במידע שלכם לאימון המודלים הבאים.
קופיילוט: הצ'אט המקביל של מיקרוסופט (לשעבר בינג) משתמש כיום בג'יפיטי 4 גם בגרסה החינמית שלו וזמין לכולם. למרות שלג'יפיטי יש יותר פי'צרים לדעתי גם ממשק הרבה יותר נוח, אם האלטרנטיבה היא הגרסה החינמית אז קופיילוט הוא ללא ספק אופציה טובה בהרבה כי מה שחשוב זה המודל ולא העטיפה.
ה'צטאגבוט Peo: צ'אט מהבית היוצר של אתר Quora המאפשר לייצר לעצמכם צ'אטבוטים מותאמים אישית על בסיס של מודלים שונים. נכון להיות הצ'אט מאפשר גישה לג'יפיטי 4 ללא תשלום, אבל עם מגבלת התכתבות יומית. זו אפשרות שיכולה להתאים גם למי שמעוניין ליצור צ'אטבוטים בסגנון GPTs מבלי לשלם.
יש עוד כל מיני שיטות להשתמש בג'יפיטי 4 בחינם בצורה מוגבלת יחסית כמו דרך Perplexity ותוספים כמו Merlin AI אבל אני באמת חושב שלא צריך להסתבך מעבר לקופיילוט.
הפאדיחה של גוגל חושפת את הבעייתיות של מודלי השפה הסגורים
אז אחרי שגוגל התעשתו על עצמם ואפילו עשו כמה מהלכים חכמים שהחזירו אותם לתחרות, הם שוב עושים פאדיחה גדולה שפוגעת באמון של המשתמשים.
לפני כמה ימים משתמשים התחילו לדווח שמודל התמונות של ג'מיניי משנה את צבע העור של דמויות היסטוריות.
עכשיו אם הוא סתם היה מתבלבל זה לא היה כזה נורא ואולי אפילו קצת משעשע אבל השינוי הזה קורה רק אצל דמויות עם צבע עור לבן. למשל כאשר ביקשו ממנו לייצר תמונה של ג'ורג' וושינגטון הוא יצר תמונה שלו עם צבע עור כהה ואותו דבר של האפיפיור.
מהר מאד זה הפך לויראלי מה שגרם למשתמשים לבקש מהמודל תמונות היסטוריות שונות הטוויטר התמלא בעשרות דוגמאות, כולל אפילו תמונות של נאצים.
ברגע שגוגל הבינו מה קורה הם פרסמו התנצלות ועצרו את האפשרות לייצר תמונות בג'מיניי לחלוטין כדי לטפל בבעיה. לטענתם הכוונה שלהם היתה לתת ייצוג הולם לכל האוכלוסיות כאשר מייצרים תמונות גנריות והם לא חשבו שזה ישפיע גם על דמויות היסטוריות אמיתיות.
מכאן הדיון הפך למאד פוליטי ועוסק בשאלה האם גוגל ידעו על זה כאשר הם הוציאו את המודל והאם יש להם אג'נדות נסתרות. לאור התקופה, קשה להתעלם מהקשר בין המקרה הזו למה שקרה באוניברסיטאות המובילות בארה"ב סביב המלחמה ולתרבות הWoke שהפכה להיות חלק בלתי נפרד מגוגל וחברות טק גדולות נוספות.
למרות שהנושא הפוליטי כן מטריד אותי באופן אישי, במיוחד כישראלי, אני מעדיף לא להתמקד בו כרגע כי לדעתי הוא סימפטום של בעיה הרבה יותר גדולה.
כשניסיתי לחקור מה קרה בדיוק מאחורי הקלעים של המודל שגרם לו לטעות הזו גיליתי שאחד המשתמשים הצליח לעשות Jailbreaking למודל וחשף את מנגון הפעולה שלו.
כפי שניתן לראות בתמונה, גוגל הוסיפו למודל מאחורי הקלעים "סט חוקים" שקובע שכאשר המתשמש מבקש מהמודל תמונה מסויימת המודל **משנה את הפרומפט של המשתמש ללא ידיעתו** ומוסיף לו מילים כמו "צבע עור כהה", "אסייתי" על מנת לייצר גרסאות שונות של אותה התמונה.
עכשיו בוא נניח שהייתה להם כוונה טובה, בדיוק כמו שבסרטי דיסני מנסים לעשות העדפה מתקנת ולתת ייצוג שווה לדמויות, אני עדיין חושב שיש פה נקודת כשל הרבה יותר משמעותית שקשורה לאמון של המשתמשים במערכת.
רוב המשתמשים מתייחסים למודלי שפה גדולים, בטח למובילים שבהם, כמקור ידע יחסית אובייקטיבי או לפחות כ"משהו חכם שמשקף את כלל המידע שקיים באינטרנט בנושא" ויוצאים מנקודת הנחה שמה שהם כתבו בצ'אט זה גם מה שיגיע למודל.
ברגע שגוגל ערכו את הפרומפט מאחורי הקלעים ללא ידיעתנו, הם פגעו באמון שלנו וחשפו את הכוח העצום שיש להם ולמודלי השפה הסגורים להשפיע עלינו ללא ידיעתנו.
אפשר לטעון שגם המודל עצמו עשוי להיות לא אובייקטיבי כי אפשר לאמן אותו ע"י בחירה סלקטיבית של דאטה, אבל זה בחיים לא היה מגיע לקיצוניות כזאת.
אפשר גם להגיד שהבעיה כבר היתה קיימת לפני ה'צאטבוטים. הרי גוגל משפיעה גם על תוצאות החיפוש שלנו בעזרת האלגורתים שלה וגם לטיקטוק ופייסבוק יכולות להשפיע על תוצאות הבחירות בעזרת האלגוריתם שלהן. אבל כאשר מדובר בצ'אטבוטים של בינה מלאכותית, זה סקאלה אחרת לגמרי.
גם מבלי ללכת לתרחישי קיצון דיסטופים, אין ספק שלכלים האלה תיהיה השפעה גדולה על הנרטיב ותפיסת העולם שלנו בשנים הקרובות. בקרוב הצ'אטבוטים יהפכו למורים של הילדים שלנו וסוכנים חכמים שמבוססים עליהם יבצעו עבורנו חלק גדול מהמשימות.
לי באופן האישי הפרשה הזו הפילה כמה אסימונים ומעניין אותי לראות איזה רגולציה תיהיה בתחום.
עוד עדכונים בקצרה:
החברה צרפתית Mixtral שעד היום היתה אחראית לכמה מהמודלים הפתוחים החזקים ביותר הוציאה השבוע מודל סגור, מתחרה ישיר לChatGPT 4 שזמין גם בצ’אט בשם “Le Chat” (שם גאוני) וגם ב-API. הביצועים של המודל מאד דומים לשל ג’יפיטי 4 ובנוסף הוא עובד בצורה טבעית גם בשפות צרפתית, ספרדית, גרמנית ואיטלקית.
עוד נקודה מעניינת בקשר לזה היא שמיסטרל חתמה על שותפות עם לא אחרת מאשר מיקרוסופט והמודל שלהם כבר זמין דרך שירותי הענן שלה. זה מהלך יחסית מפתיע כי מיקרוסופט היא שותפה הדוקה של OpenAI המתחרה.
עושה רושם שמיקרוסופט וOpenAI מנהלות סוג של “מערכת יחסים פתוחה” כאשר OpenAI משיקה מוצרי B2B וB2C משלה ובראשם ChatGPT ליחידים וארגונים שמתחרים באופן ישיר במיקרוסופט שמהצד שלה מוסיפה מודלים נוספים כדי להשאיר את כל האופציות פתוחות. זו אסטרטגיה מעניינת שמצד אחד מאפשרת לשתיהן להתרחב ללא תלות הדדית אבל מצד שני יכולה להוביל לאתגרים בעתיד, יהיה מעניין לעקוב.
גאווה ישראלית! חברת לייטריקס הוציאה השבוע כלי חדש בשם LTX Studio שמתמחה ביצירת וידאו בעזרת AI החל משלב הרעיון ועד לשלב העריכה וההגשה. הגישה למודל עדיין ברשימת המתנה, בינתיים תוכלו לראות את הסרטונים שהם מפרסמים בערוץ הטוויטר שלהם.
ולסיום אי אפשר בלי קצת הומור: משתמש בטוויטר החליט להטריל את גוגל על שינויי השמות התכופים שהם עושים למוצרים שלהם.
עד כאן להיום! אם אהבתם מוזמנים לשתף עם חברים ונתראה בשבוע הבא :)
אמיתי