היזהרו מחיקויים
השבוע בניוזלטר: הונאת דיפ פייק ענקית, הפרומפט הפנימי של ג'יפיטי 4 נחשף, בארד משתדרג ועוד כמה הפתעות
אהלן! השבוע בתפריט:
הונאת הדיפ פייק שעלתה לחברה 25 מיליון דולר!
הפרומפט הראשי של צ’אטג’יפיטי נחשף. מה אפשר ללמוד ממנו?
בארד מייצר תמונות ותומך בעברית מלאה, אבל בקרוב השדרוג המשמעותי באמת
הmemes של Apple Vision Pro שלא ידעתם שאתם צריכים
המלצת האזנה
היזהרו מחיקויים: הונאת הדיפ פייק שעלתה לחברה 25 מיליון דולר (!)
אחרי פרשת התמונות המזוייפות של טיילור סוייפט בשבוע שעבר שעוררה סערה ברשת עד לרמה שטוויטר חסמו את האפשרות לחפש את השם שלה, הדיפ פייק ממשיך לשבור שיאים.
הנה סיפור מטורף שקרה השבוע:
עובד פיננסים בחברה בינלאומית מוכרת מקבל אימייל מ-CFO שלו שנמצא באנגליה. בהתחלה המייל נראה לו קצת חשוד, אבל אז הוא מקבל הזמנה לשיחת וידאו איתו ועם עובד עובדים שהוא מכיר.
בשיחה עולה הCFO וגם עובדים נוספים שהוא מכיר והם מצליחים לשכנע אותו להעביר 200 מיליון דולר הונג קונגי שהם 52.6 מיליון דולר!
בהמשך מתגלה שכל השיחה הזו הייתה מזוייפת ובעזרת טכנולוגיית Deepfake החליפו את הפנים של כל הנוכחים בשיחה. הפרשה נחקרת כרגע ע"י משטרת הונג קונג.
תחום הדיפ פייק עבר התפתחות מואצת בשנה האחרונה והיכולת לזייף סרטונים הפכה לקומודיטי שכל אחד יכול לעשות בקלות בבית. עכשיו הוא מעלה הילוך עם היכולת לשלב אותו בשיחות קוליות ושיחות וידאו.
בדיוק אותה הטכנולוגיה שבה גוגל מיט משתמשים כשאנחנו מוסיפים פילטרים עם אוזניים של חיות וכובעים מצחיקים יכולה לשמש להחלפת הפנים שלנו בפנים של מישהו אחר. יש המון מודלים פתוחים וכלים שזמינים לכולם שמאפשרים לעשות את זה יחסית בקלות.
מה אפשר ללמוד מהסיפור הזה?
הסיבה המרכזית שההונאה הצליחה היא שהם השתמשו במדיום (שיחת וידאו) שנחשב למאד בטוב, הדיפ פייק שהכרנו עד היום היה בעיקר בתמונות או סרטונים מוקלטים ולא בפגישות וידאו או שיחות טלפון שמתקיימות בלייב.
אני לא טיפוס חשדן מטבעי ויש שאומרים שאפילו קצת תמים מדי, אבל אני חושב שחשוב השסיפור הזה מלמד אותנו שאין ברירה אלא לשנות דיסקט ולהבין ש*ליטרלי* אי אפשר להאמין למה שאנחנו רואים.
בנוסף, עולה צורך אמיתי בטכנולוגיה של אימות זהות שניתן להפעיל בשיחות וידאו ובשיחות טלפון. אני מאמין שחברות שעובדות על פתרונות כאלה יצליחו מאד בשנים הקרובות.
האם הפרומפט הפנימי של צ'אטג'יפיטי נחשף?
מישהו מהטוויטר בשם Dylan Patel כלל הנראה הצליח לעשות Jailbreak לChatGPT4 ולהוציא את ההנחיות שלו. קשה לדעת בוודאות שזה בדיוק הפרומפט, אבל התשובה נראית יחסית הגיונות וגם השיטה שהשתמש בה כדי להוציא אותו.
מדובר בפרומפט ארוך מאד הם המון הנחיות ובעיקר מגבלות, הנה כמה דוגמאות שתפסו לי את העין:
👈אסור לו לתת מילים של שירים
👈אסור לו להעתיק מתכונים מתוך אתרים באינטרנט
👈במקום שמות של מפורסים לכתוב Public Figure
שובו של בארד?
למי שלא שם לב, Bard, הצ'אט של גוגל השתפר לאחרונה:
בשבוע שעבר גוגל כנראה עשו לו מקצה שיפורים והוא עלה למקום השני בLeaderboard של Chatbot Arena.
ביום חמישי יצא עדכון שהם הוסיפו מחולל תמונות ותמיכה בשפות ומדינות נוספות (כולל עברית שאמורה להיות ברמה הרבה יותר טובה עכשיו)
אבל מה שהכי מסקרן זה שהמודל שנמצא במקום השני הוא Gemini pro שהוא לא בכלל לא המודל הכי חזק שלהם. ועכשיו לחלק הכי מעניין:
השבוע פורסמה הדלפה של עדכון נוסף שאמור לצאת בקרוב ולפיו הם משיקים את Gemini Advanced, מודל בתשלום שיתחרה ב ChatGPT plus ויעבוד על המודל הכי חזק שלהם 1.0 Gemini ultra. לפי העדכון שהודלף המודל יהיה זמין בצ'אט של בארד (שישנה את שמו לGemini) ובנוסף הם משיקים אפליקציית אנדרואיד.
כמובן שהכל עדיין בגדר ספקולציה, אבל ניתן להניח שהמודל הזה יעקוף את הביצועים של ChatGPT 4-V turbo ויהפוך למודל החזק ביותר שזמין לכולם ולכן גם יהפוך את Bard לצ'אט הטוב ביותר.
חובת ההוכחה על גוגל , אבל כשזה יקרה זה עשוי לשנות את יחסי הכוחות בין גוגל למיקרוסופט גם בתחום של שילוב הAI במוצרים נוספים כמו אופיס / גוגל וורקספייס וההשלכות הן עצומות.
והשאלה הכי מעניינת כרגע לדעתי:
האם לOpenAI יש מודל חדש בקנה שהם יכולים להוציא כדי לשמור על המקום הראשון?
הMemes של Apple Vision Pro שלא ידעתם שאתם צריכים
השבוע Apple Vision Pro סוף סוף הגיע למשתמשים הראשונים והסרטונים לא איחרו להגיע.
בזמן שהאינטרנט מנסה להחליט האם זה העתיד ובקרוב כולנו נחליף את האייפון או מוצר יקר מדי ולא בשל שמבייש את מורשתו של ג'ובס - ריכזתי עבורכם את הMemes הכי טובים שמצאתי:
ובמקום הראשון:
זה ללא ספק הטייק הכי טוב שראיתי על הmeme הפופלארי Distracted boyfriend
מחזור חיים של משתמש Apple Vision Pro ממוצע:
אם יצא לכם לצפות בסרטונים של אנשים שמשתמשים במוצר, בטח ראיתם שהם משתמשים בידיים בשביל לשלוט במסך. אז מישהו בטוויטר הכין את המדריך לתנועות הידיים….
המלצת האזנה
והשבוע - ביל גייטס מארח את סם אלטמן בפודקאטס שלו “Unconfuse me”. שיחה מרתקת בין שניים מהאנשים המשפיעים ביותר בעולם על העתיד של בינה מלאכותית ואיך העולם יראה עוד 5 ועשר שנים.
עד כאן להיום!
אם אהבתם מוזמנים לשתף עם חברים ונתראה בשבוע הבא!