סקיילינג אינטליג'נס לאב (Scaling Intelligence Lab)
Type מעבדת מחקר
ארצות הברית 2024 2–10 אנשים 
Themes
Scaling Intelligence Lab הוא מעבדת מחקר מיקרו באוניברסיטת סטנפורד, שהוקמה בשנת 2024 וממוקמת בסטנפורד, קליפורניה. המעבדה מתמקדת בפיתוח מערכות בינה מלאכותית ניתנות להרחבה ומשתפרות את עצמן, כאשר תחומי המחקר שלה כוללים אופטימיזציה סוכנית, הערכה ובנצ׳מרקינג אוטומטיים, מודלים של שפה גדולים ו-AI עבור מערכות.
העבודה שלה מכוונת לקידום מתודולוגיות הרלוונטיות לבינה כללית מלאכותית (AGI). המעבדה תורמת גם לחינוך באמצעות קורסים בסטנפורד, לרבות CS329A (Self-Improving AI Agents) ו-CS229S (Systems for Machine Learning), ובכך היא מהווה משאב הן לחוקרים והן לסטודנטים המתעניינים בצומת שבין מערכות ניתנות להרחבה לבין למידת מכונה מודרנית.
יסודות בינה מלאכותית ניתנת להרחבה
מעבדת Scaling Intelligence Lab פועלת בצומת שבין למידת מכונה להנדסת מערכות. עבודתה מתמקדת בבניית בינה מלאכותית שמשפרת את עצמה באמצעות אינטראקציה, ולא נשענת אך ורק על מערכי נתונים סטטיים.
המעבדה הוקמה בשנת 2024 על ידי אזליה מירחוסייני, ונולדה מתוך שאלות מחקר על האופן שבו מערכות בינה מלאכותית יכולות להתרחב מעבר למגבלות הקיימות. מירחוסייני, מרצה מן המניין בסטנפורד, תרמה בעבר לעבודה של Google Brain על חיפוש ארכיטקטורות עצביות ואימון מודע לחומרה.
הגישה של המעבדה משלבת מסגרות תיאורטיות עם תכנון מערכתי מעשי. הפרויקטים שלה נוטים לגשר על הפער בין חדשנות אלגוריתמית לבין אילוצי פריסה בעולם האמיתי.
כיווני מחקר מרכזיים
המעבדה מארגנת את עבודתה סביב ארבעה נושאים עיקריים. כל נושא מתמודד עם אתגר ייחודי בפיתוח מערכות בינה מלאכותית מתקדמות יותר.
- אינטליגנציה ניתנת להרחבה: שיטות למערכות בינה מלאכותית שמסוגלות לשמור על ביצועים ככל שנפחי הנתונים, גדלי המודלים והדרישות החישוביות גדלים.
- אופטימיזציה סוכנית: מסגרות שמאפשרות למכונות ללמוד מתוך אינטראקציות, ולשפר עם הזמן יכולות של חשיבה ותכנון.
- הערכה אוטומטית: כלים להערכת ביצועי בינה מלאכותית ללא התערבות אנושית, כולל מערכות בנצ’מרק ואימות.
- תכנון משותף של מערכת ה-AI: טכניקות לאופטימיזציה הן של מודלי ה-AI והן של המערכות שמאמנות ומשרתות אותם, לעיתים תוך שימוש ב-AI עצמו כמנוע האופטימיזציה.
פרויקטים עדכניים מדגימים את הנושאים הללו בפועל. "Weaver", למשל, בוחן כיצד מאמתים חלשים יכולים לצמצם את הפער בין יצירה לאימות במערכות בינה מלאכותית. פרויקט נוסף, "RoboMonkey", מיישם דגימה ואימות בזמן בדיקה על מודלי ראייה-שפה-פעולה ברובוטיקה.
פרויקטים ותרומות בקוד פתוח
המעבדה מנהלת נוכחות פעילה ב-GitHub באמצעות מאגרים שמשקפים את סדרי העדיפויות המחקריים שלה. מספר פרויקטים צברו תאוצה בקהילת ה-AI.
- KernelBench: בנצ’מרק וערכת כלים להערכת האם מודלי שפה גדולים יכולים לייצר קרנלי GPU יעילים. המאגר כולל כלים להמרת פעולות PyTorch ל-CUDA ולשפות ייעודיות נוספות לתחום.
- Archon: מסגרת מודולרית לשילוב טכניקות בזמן הסקה ומודלי שפה באמצעות קובצי תצורת JSON. הפרויקט מפשט ניסויים עם שילובים שונים של מודלים ואסטרטגיות אופטימיזציה.
- Tokasaurus: מנוע הסקה שתוכנן לעומסי עבודה בעלי תפוקה גבוהה, המתמקד באופטימיזציה של יצירת טוקנים במודלי שפה גדולים.
פרויקטים אלה כוללים לעיתים קרובות מערכי נתונים, מודלים ומנועי שירות לצד מאמרי מחקר. עבודת הקוד הפתוח של המעבדה משתרעת גם לתרומות ברובוטיקה, כאשר מאגרים כמו "RoboMonkey" מספקים כלים להערכת מודלי ראייה-שפה-פעולה.
הוראה ושיתופי פעולה
המעבדה משלבת את המחקר שלה בתוכנית הלימודים של סטנפורד באמצעות שני קורסים. CS329A בוחן סוכני AI שמסוגלים להשתפר בעצמם, ומכסה טכניקות ללמידה מתמשכת באמצעות אינטראקציה עם הסביבה. CS229S מתמקד במערכות ללמידת מכונה, עם דגש על אימון והסקה יעילים עבור ארכיטקטורות Transformer ומודלי שפה גדולים.
שיתוף הפעולה חורג מעבר לאוניברסיטה. עבודת המעבדה חופפת ל-Scale Labs, במיוחד בתחומים כמו הערכה סוכנית ובנצ’מרקינג. פרויקטים כמו SWE-Bench Pro ו-SciPredict משקפים תחומי עניין משותפים בהערכת יכולות AI על פני תחומים שונים.
סטודנטים וחוקרים פוטנציאליים מתקשרים עם המעבדה באמצעות ערוצים מובנים. מועמדי PhD מציינים עניין ביישום שלהם ל-CS בסטנפורד, בעוד שסטודנטים נוכחיים בסטנפורד יכולים להצטרף לפרויקטים דרך פתיחות שפורסמו. המעבדה שומרת טופס לסטודנטים שמעוניינים לתרום, עם הנחיות ספציפיות עבור פוסט-דוקים ומובילי פרויקטים.