ג'יפיטי להמונים
עושים סדר בשבוע עמוס בהשקות ועדכונים
אהלן חברים, כאן אמיתי בונה עם הניוזלטר השבועי בנושא AI ופרודוקטיביות.
השבוע בתוכנית:
OpenAI משיקה את המודל הקטן, המהיר והזול GPT4o-mini - איך זה ישפיע על התעשיה?.
מטא משיקה את Llama 3.1 - המודל הפתוח החזק בעולם ולראשונה המודלים הפתוחים מדביקים את הפער למודלים הסגורים.
מדוח משמעם לגרף אינטראקטיבי בשניות: שיטה פרקטית שתעזור לכם לקרוא מאמרים ודוחות מהר יותר.
מנוע חיפוש החדש של OpenAI שיתחרה בגוגל - מה המשמועויות ומתי נקבל גישה?
עוד עדכונים.
ג'יפיטי להמונים
ביום שעבר OpenAI הפתיעה את כולם עם השקה של מודל חדש בשם GPT4o-mini.
למרות השם ה"קטן", מדובר בפריצת דרך משמעותית, עם השפעה גדולה על כל התעשייה.
למה זה חשוב?
כי הם הצליחו לאמן מודל שמבחינת היכולות הוא מתקרב ל-gpt-4-turbo (הגרסה הקודמת של ג'יפיטי 4) ומצד שני הוא זול בטירוף להרצה והרבה יותר מהיר.
כמה זול? הוא פי 60 יותר זול מג'יפיטי 4 טורבו (!) וב60% יותר זול מ GPT-3.5 Turbo שעד היום היה המודל שרוב המוצרים שהשתמשו בו בAPI.
גם בהשוואה למודלים הקטנים האחרים בשוק, הוא המודל הכי טוב שיש כרגע.
לפי הנתונים של OpenAI, הוא עוקף את המודלים המקבילים של המתחרות בכל הבנצ'מרקים. למשל במבחן MMLU (שבוחן יכולות הסקה) הוא קיבל 82% לעומת 79% של Gemini 1.5 Flash ו-75% של Claude 3 Haiku.
מה זה אומר בפועל?
כמשתמשים ב-ChatGPT ההשפעה עלינו היא דיי זניחה כי המחיר הוא קבוע בכל מקרה והמהירות היא לא פקטור משמעותי.
בגדול המשמעות היחידה היא שבמצב שהגענו למגבלת שימוש ב-GPT4o הרגיל ורוצים להמשיך בשיחה נוכל לעבור למודל הזה במקום ל-GPT3.5 ולקבל מודל טוב יותר.
הבשורה הגדולה כאן היא עבור מי שמפתחים מוצרים או פיצ'רים עם ה-API של OpenAI וגם עלינו בעקיפין כצרכנים של המוצרים האלה.
בזכות הירידה הדרמטית בעלויות והשיפור במהירות יותר חברות יוכלו להטמיע AI בקנה מידה גדול במוצרים שלהן, למשל:
חברות שלא הטמיעו יכולות AI עד היום בגלל העלויות או המהירות יוסיפו יכולות כאלה.
חברות שהטמיעו פיצ'רים מבוססי AI אבל גבו עליהם עלויות נוספות יוכלו להציע אותם ללקוחות בעלות נמוכה יותר או ללא עלות בכלל.
היכולת לבנות מערכות מורכבות יותר שמבצעת סט פעולות (מה שנקרא סוכנים) תשדתדרג משמעותית גם בכלל העלויות ובעיקר בגלל השדרוג במהירות. כנראה שבקרוב נראה יותר ויותר סוכנים כאלה.
התמונה הגדולה:
יש פה צעד נוסף ומשמעותי בכיוון של תהליך הקומודיטיזציה של מודלי השפה.
מעבר לשדרוג הנקודתי, OpenAI בעצם משדרת פה מסר נוסף:
ככל שיעבור הזמן המודלים לא יהיו רק יותר טובים, אלא גם יותר מהירים וזולים.
לכן, בדיוק כמו שכיום חברות לא מפתחות לעצמן שירותי ענן אלא משתמשות בשירותים חיצוניים, סביר להניח שגם בתחום הזה הן יגיעו למסקנה שעדיף להן להתבסס על שירות חיצוני שהולך ומשתפר עם הזמן על פני לאמן את המודלים שלהן ולנסות לעמוד בקצב.
מטא מפתיעה עם Llama 3.1 ומשנה את כללי המשחק 🦙
ביום שלישי מטא הכריזה על Llama 3.1 - הגרסה החדשה ביותר של מודל השפה שלה שלפי הנתונים היבשים מצליחים להתחרות ולפעמים אפילו לעקוף את המודלים המסחריים המובילים של OpenAI, אנתרופיק וגוגל.
למה זה כזה ביג דיל? 🤔
הסיבה היא שמדובר במודל פתוח וזו הפעם הרשאשונה שהמודלים הפתוחים מדביקים את הפער למודלים הסגורים. המשמעות היא מעכשיו חברות וחוקרים יכולים עכשיו לקחת מודל ברמה של GPT-4 ולהתאים אותו לצרכים שלהם - בחינם.
חשוב לזכור: כשאומרים "חינם", זה לא אומר שנוכל להריץ אותו על המחשב הביתי שלנו. הוא עדיין דורש חומרה חזקה מאוד, אז כנראה שנראה יותר אפליקציות ושירותים שמבוססים עליו ולא גישה ישירה אליו.
מטא השקיעה פה משאבים אדירים: 16,000 מעבדי H100 של אנבידיה (שכל אחד מהם עולה עשרות אלפי דולרים), צוות מדענים מהשורה הראשונה, וכמובן - חשבון חשמל שאני מעדיף לא לחשוב עליו.
רגע, אבל אם המודל פתוח וחינמי אז מה יוצא למטא מכל ההשקעה העצומה הזו?
בגדול מטא נוקדת באסטרטגיה מעניינת, במקום להיות עוד שחקנית בתחרות היא מנסה ליצור מצב בו אין אף מנצחת. היא עשויה להרוויח מזה בעקיפין דרך המטאוורס המוצרים שלה: ווטסאפ, פייסבוק ואינסטגרם. כתבתי על זה באריכות בפוסט הזה.
למי זה שימושי ואיך צפוי להשפיע על השוק?
לארגונים גדולים שמוציאים המון כסף על שימוש בAPI של OpenAI או אנתרופיק ועכשיו יהיה להם יותר להשקיע השקעה חד פעמית במעבדים חזקים ולהריץ מודל משלהם.
לכל מי שנושא הפרטיות חשוב לו במיוחד ולא רוצה את המידע שלו בענן של החברות (למשל ממשלות, תעשיות בטחונית)
אנשים פרטיים וחברות יוכלו לקחת את המודל הזה ולעשות לו Fine tunning כדי לייצר מודלים שמיועדים לשימוש ספיציפי (למשל מודל ייעודי לרופאים או למשפטנים)
לסיכום: המהלך של מטא פותח המון אפשרויות חדשות לאקוסיסטם של ה-AI. יהיה מעניין לראות איך זה ישפיע על השוק בחודשים הקרובים.
איך מנסים אותו?
המודל זמין למשתמשים בארה”ב באתר של Meta.ai, בישראל עדיין לא. בינתיים תוכלו לנסות אותו באופן מוגבל באתר של Hugging Face.
השנה 2024 ואתם עדיין קוראים דוחות?
הנה טריק נחמד שיעזור לכם להפוך דוחות, מאמרים ומחקרים ארוכים ומייגעים למשהו שהרבה יותר קל וכיף לקרוא.
בדוגמה הבאה לקחת את הדוחות הרבעוניים שגוגל הוציאה השבוע והפכתי אותם לגרף אינטראקטיבי וקל לקריאה:
אחר כך שיפרתי אותו עוד קצת והפכתי אותו ל-Artifact שאפשר לשתף, מוזמנים להציץ בתוצאה הסופית כאן.
רוצים לנסות גם? כך תעשו את זה:
נכנסים לקלוד
מצרפים את הדוח כקובץ
מבקשים שיבנה דשבורד (ועוד הנחיות ספיצפיות)
עכשיו זה רשמי: OpenAI משיקה מנוע חיפוש שיתחרה בגוגל.
אתמול OpenAI חשפה בחשבון הטוויטר שלה כי היא עובדת על מנוע חיפוש משלה.
ממעבר ראשוני על ההכרזה, אלה עיקרי הדברים:
הממשק נראה מהיר, נקי ודומה ל-Perplexity.
התוצאות הן מולטימודליות (כלומר, יכולות להציג גרפים של מניות, תמונות מזג אוויר, סרטונים וכו').
הכי חשוב: יש דגש עצום על העובדה שכאשר אתם מחפשים משהו, SearchGPT מצטט את התשובות שלו... (כנראה בגלל זה OpenAI חתמה על הסכמים עם כל כך הרבה מוציאים לאור - היא לא רוצה להרגיז אותם יותר ממה שהם כבר).
עכשיו שגם Perplexity מתחילה לצבור פופולאריות נראה שמתחילה להתהוות קטגוריה חדשה של מוצרי חיפוש מבוססי AI. יהיה מעניין לראות האם הם יצליחו להתחרות בגוגל ולשבור מונופול של 30 שנה.
מבלי לצנן את ההתלהבות יותר מדי, חיי להגיד לי קצת הפריע שהם (שוב) פרסמו רק סרטון דמו ולא אמרו מתי זה צפוי להיפתח לקהל הרחב. אני עוד מחכה לעוזר האישי שהם הבטיחו ולSora שכבר הספקנו לשכוח מרוב שעבר זמן.
אגב, לגבי העוזר האישי, סאם אלטמן צייץ בטוויטר שהוא צפוי להתחיל לצאת למשתמשי פלוס בשבוע הבא, אז יש למה לחכות.
בכל מקרה, הניחוש שלי הוא שיקח עוד לא מעט זמן עד שנוכל להשתמש במנוע החיפוש ושההכרזה הזו באה טיימינג הזה כדי לקחת את הפוקוס בחזרה אחרי ההכרזה הדרמטית של מטא השבוע. בינתיים ממליץ לכם להירשם לרשימת ההמתנה, כי אין מה להפסיד.
עוד כמה עדכונים:
מודל הוידאו הסיני Kling זמין לכולם, מדובר במודל הוידאו הכי טוב שיצא לקהל הרחב עד היום - כאן מנסים אותו בחינם. האינטרנט כבר מלא בסטרונים שנוצרו בעזרתו, הנה אחד שאהבתי במיוחד.
יום אחרי ההכזרה של מטא גם החברה הצרפתית Mistral הוציאה מודל פתוח ברמה של GPT4o, זה עשה פחות רעש מהמודל של מטא אבל זה עוד צעד משמעותי בכיוון של מודלים פתוחים.
שווה צפיה: סרטון ויראלי שנוצר באמצעות Midjourny ו-Luma בשם Runway of Power מציג את האנשים החזקים בעולם בתצוגת אופנה (חכו לסוף).
עד כאן להיום!
מזמין אתכם לשתף עם חברים ובנוסף - אשמח מאד לקבל פידבק במייל חוזר!
שיהיה סופשבוע שקט
אמיתי
אחלה פוסט, תודה על השיתוף וההנגשה 🙏