🤖מתכנתים אוטונומיים ורובוטים אנושיים

וגם: קלוד 3 פרו או צ'אטג'יפיטי פלוס: איזה מנוי עדיף

Mar 15, 2024

והיום בתפריט:

הכירו את Devin: המתכנת האוטונומי הראשון
קלוד 3 פרו או צ'אטג'יפיטי פלוס: איזה מנוי עדיף?
דברים מעניינים נוספים שקרו השבוע ושווים קריאה

הכירו את Devin: המתכנת האוטונומי הראשון

הסטארטאפ Cognition הוציא השבוע כלי חדש בשם Devin ששובר שיאים חדשים בכל מה שקשור לפיתוח ומטריף את האינטרנט.

זו לא הפעם הראשונה שאנחנו שומעים על מודלי שפה שכותבים קוד וכבר יש כלים מאד חזקים בשוק כמו גיטאהב קופיילוט, אבל מה שמיוחד בDevin זה שהוא מסוגל לבנות מוצרים שלמים בצורה אוטונומית.

איך הוא עושה את זה?

הוא משלב כמה אייג'נטים שונים שיודעים לבצע ביחד ובצורה מסונכרנת את הפעולות של מתכנת. הוא מורכב מIDE לכתיבת הקוד, טרמינל שמאפשר לו להריץ קוד ולדבג וגם דפדפן שמאפשר לו למצוא דוקומנטציה באינטרנט ולחפש פתרונות לבעיות.

כבר היו בעבר כמה ניסיונות לבנות אייג'נטים כאלה אבל עד היום הם עבדו בצורה חלקית מאד וסבלו מהרבה קריסות ובאגים.

נראה שהחבר'ה ב Cognition פיצחו כמה דברים בframework שמחבר בין האייג'נטים כי הם הצליחו איפה שהחברות הגדולות עדיין מתקשות.

אגב, הם לא פירסמו מה המודל שעומד מאחורי המוצר ולכן יש הרבה ספקולציות בנושא, חלק טוענים שמדובר במודל GPT 4 וחלק טוענים שמדובר במודל אחר שהם עשו לו fine tuning.

לצורך פרופורציות, הוא הגיע לציון של 13.86% בבנצ'מרק SWE-Bench, מבחן בו המודל נדרש לפתור בעיות אמיתיות מתוך פרוייקטי קוד פתוח בגיטהאב בצורה אוטונומית לחלוטין, כאשר הציון הכי גבוה של המודלים לפניו היה 1.98% כך שמדובר בקפיצה גדולה מאד ביכולות בהשוואה למה שראינו עד היום.

אז מה Devin כבר יודע לעשות?

👈לבצע באופן מלא עבודה שמצא בUpwork

👈לעבור מבחני תכנות לחברות ביג טק מובילות.

👈לעשות fine tuning למודל שפה אחר

👈לפתח תוסף לדפדפן

👈לפתח משחק פשוט

(צירפתי כמה דוגמאות מהטוויטר בתגובות)

חשוב להגיד: בינתיים הוא נמצא בבטא מצומצמת למספר קטן של מפתחים, ברגע שיפתח לכולם נוכל לקבל עוד המון דוגמאות מהחיים האמיתיים ולהבין עד כמה הבשורה פה גדולה.

לסיכום, כפי שכתבתי כבר בפוסטים קודמים, לדעתי יש עוד דרך ארוכה עד מודלי שפה יחליפו מתכנתים בחברות הייטק, אבל כן מדובר פה בפריצת דרך בתחום הפיתוח ובתחום האייג'נטים באופן כללי ושווה מאד לעקוב.

קלוד 3 פרו או צ'אטג'יפיטי פלוס: איזה מנוי עדיף?

(וגם: איך לנסות את קלוד 3 בחינם)

כולם מדברים עכשיו על המודל החדש של Claude שנותן פייט אמיתי ChatGPT וחלק גדול מאלה שניסו אותו טוענים שבשביל משימות כמו כתיבה, סיכום טקסטים ועבודה עם מסמכים הוא מגיע לתוצאות טובות יותר.

בנוסף, יש פה בשורה גדולה בתחום העברית. בגלל שקלוד 2 כבר היה מעולה בעברית אז לקלוד 3 אמורה להיות עברית בליגה אחרת מכל מה שהכרנו עד היום.

מכיוון שאני כבר משלם $20 בחודש לג'יפיטי 4 ולא רציתי לשלם על שניהם במקביל התלבטתי האם להחליף את המנוי לקלוד על מנת לבדוק אותו. למרות שקלוד מאד מסקרן אותי בסופו של דבר החלטתי להישאר עם ChatGPT בגלל שיש בו הרבה פיצ'רים שאין בקלוד כמו:

👈האפשרות להוסיף Custom Instructions

👈האפשרות לערוך הודעות אחרי שנשלחו

👈קוד אינטרפרטר (קריטי לניתוח דאטה וקוד!)

👈גישה לחיפוש באינטרנט

👈היכולת לבנות GPTs ולהשתמש בכאלה שאחרים בנו מהחנות

זו דוגמה מעניינת שמראה שלמרות שהמודל עצמו מרכיב מאד משמעותי, הוא לא הפרמטר היחיד שקובע. גם לממשק המשתמש ולפיצ'רים של המוצר יש השפעה מכרעת במצבים שבהם המודלים פחות או יותר באותה רמה.

אחת הסיבות שבשנה האחרונה OpenAI הוציאו פי'צרים חדשים בקצב היסטרי (לפעמים אפילו כשהם לא בשלים) היא שהם הבינו שיגיע הרגע שבו המתחרים יתחילו להדביק את הפער ועכשיו הם רואים את הפירות של המאמץ הזה.

בכל מקרה, כבר כמעט השלמתי עם הFOMO והתפשרתי על הגרסה החינמית של קלוד ואז גיליתי שיש דרך פשוטה להתנסות במודל Opus מבלי לשלם את המנוי החודשי:

בנוסף לצ'אט הרגיל, אנתרופיק השיקו גם כלי שנקרא Workbench והוא נועד לאפשר למפתחים שעובדים עם ה-API לנסות אותו לפני השימוש ולשחק עם פרומפטים שונים למוצרים שלהם. ניתן לבחור שם את כל המודלים שלהם, כולל את Opus שהוא המודל החזק ביותר שנמצא כרגע רק בגרסה בתשלום.

כעיקרון בשביל להשתמש בו צריך לקנות קרדיט, אבל כל מי שפותח חשבון בAPI שלהם (בחינם) מקבל אוטומטית קרדיט של $5 דולר ללא צורך בפרטי אשראי ולמעשה מאפשר לנו גישה בחינם למודל החזק ביותר.

רוצים לנסות? כך עושים את זה שלב אחר שלב:

👈נכנסים לאתר של Claude

👈בוחרים באופציה Get API Access

👈נרשמים עם המייל או לוגין עם ג'ימייל

👈בוחרים באופציה הראשונה Start prompting with Claude

👈בצד ימין לוחץ על הבאנר של Claim your $5

👈מתחילים להתכתב איתו כמו עם צ'אט

שימו לב שבשונה מהצ'אט הרגיל יש שני שדות לכתוב בהם פרומפטים: User Prompt שהוא הפרומפט הרגיל כמו שיש בצ'אט ו System Prompt שהוא אופציה שקיימת רק ב API והיא בעצם הפרומפט הפנימי שנותן לו קונטקסט (מזכיר קצת את הCustom Instructions שיש בצ'אט ג'יפיטי).

על מנת לעזור למשתמשים למקסם את הפוטנציאל של קלוד אנטרופיק השיקו גם ספריית פרומפטים מומלצים עם עשרות פרומפטים מוכנים מראש (יוזר וסיסטם) שנועדו למשימות שונות כמו סיכום מסמכים, ניתוח דאטה, כתיבת קוד וגם לדברים יותר יומיומיים כמו מדריך קולינרי, מנטור למוטיבציה ויועץ אופנה. זו ספריה מאד מעניינת ולדעתי שווה בדיקה גם רק בשביל ללמוד הנדסת פרומפטים.

דברים מעניינים נוספים שקרו השבוע ושווים קריאה:

👈חברת הרובוטים Figure שהכריזה לאחרונה על גיוס משמעותי מOpenAI הכריזה כי היא מוציאה רובוט דמוי אדם שמבוסס על המודלים של OpenAI. לפי הדמו שהם פרסמו מדובר במשהו הרבה יותר משוכלל מכל מה שראינו עד היום.

👈מירה מוראטי, הCTO של OpenAI בראיון על הטכנולוגיה שמאחורי SORA והתוכניות לעתיד

👈האיחוד האירופי מעביר חוק תקדימי בנושא רגולציות ושימושים בAI

👈Deepmind של גוגל מוציאה את SIMA, סוכן AI שמסוגל לבצע הוראות בשפה טבעית במשחקי מחשב

עד כאן להיום!

אם אהבתם מוזמנים לעזור לי להגדיל את המעגל ולשתף את הניוזלטר עם מישהי או מישהו שלדעתכם יוכל להפיק ממנו ערך 🙏🏻

שיהיה סופ”ש רגוע ומהנה

אמיתי