Slav Petrov
Vice President, Research at Google DeepMind; co-leads Post-Training for Gemini
גרמניה Themes
סלב פטרוב הוא חוקר בולגרי וסגן נשיא למחקר ב־Google DeepMind, שם הוא שותף להובלת שלב ה־Post-Training עבור Gemini, מאמץ מודל השפה הגדול של Google. הוא מחזיק בתואר דוקטור מאוניברסיטת קליפורניה, ברקלי, ולימד עיבוד שפה טבעית סטטיסטי באוניברסיטת ניו יורק.
מחקרו מתמקד בעיבוד שפה טבעית ובמודלים של שפה גדולים, ועבודתו תרמה ליכולות שפה במוצרי Google, כולל Search, Assistant, Translate ו־Cloud. הוא קיבל מספר פרסי מאמר מצטיין בכנסים מרכזיים בתחום ה־NLP (ACL 2011, NAACL 2012, ACL 2016), וכן פרס Test-of-Time למשך 10 שנים ב־ACL 2023. בשנת 2014 הוענק לו פרס ג׳ון אטנאסוף על ידי נשיא בולגריה.
רקע אקדמי ומקצועי
מסלול הלימודים של פטרוב משתרע על פני שלוש מדינות ומשקף את האופי הבין-לאומי של הקריירה שלו. הוא השלים דיפלומה במדעי המחשב ובמנהל עסקים ב-Freie Universität Berlin, לפני שפנה ללימודי דוקטורט במדעי המחשב באוניברסיטת קליפורניה, ברקלי. לאחר מכן למד בדוכּה (Duke University) כחלק מהמסלול האקדמי המוקדם שלו. בין 2010 ל-2016 כיהן כפרופסור מן החוץ באוניברסיטת ניו יורק, שם לימד עיבוד שפה טבעית סטטיסטי — תפקיד שהתנהל במקביל לעבודתו בתעשייה ב-Google, אליה הצטרף באוגוסט 2009.
תפקיד ב-Google DeepMind
ב-Google DeepMind, פטרוב מחזיק בתפקיד סגן נשיא למחקר ומוביל יחד את Post-Training עבור Gemini, מודל השפה הגדול המוביל של החברה. Post-training הוא שלב קריטי בפיתוח של מודלי שפה גדולים, הכולל טכניקות שמחדדות את התנהגות המודל, יכולות של מעקב אחר הוראות והתאמה לאחר שלב הטרום-אימון הראשוני. הצוות שלו מבוזר ברחבי העולם, דבר שמשקף את היקף העבודה ואת מורכבותה. לפני הקמת Google DeepMind, פטרוב הוביל מאמצי מחקר ב-NLP שהזינו ישירות מוצרי Google כמו Search, Ads, Translate, Assistant ו-Chrome.
רשימת הפרסומים שלו משתרעת על פני יותר מעשור וכוללת מגוון רחב של נושאים בתחום עיבוד שפה טבעית, ביניהם תרגום מכונה, ניתוח תחבירי וייחוס (attribution) ביצירה של שפה טבעית. הוא תורם למאמרים פורצי דרך הקשורים למאמצי המודלים הגדולים של Google, כולל עבודה על PaLM, PaLM 2, Gemini, Gemini 1.5 ו-Gemma 2, וכן על מערך הנתונים Natural Questions — משאב נפוץ מאוד למחקר בתחום מענה על שאלות.
תרומות מחקר והוקרה
תפוקות המחקר של פטרוב כוללות תרומות בתחומים של ניתוח תחבירי, תרגום מכונה, ופיתוח מסגרות הערכה ליצירת שפה. תחום עבודה בולט לאחרונה עוסק במדידת ייחוס במודלי יצירת שפה טבעית — בחינת האם ניתן לעקוב אחר פלטי המודל למקורות שניתן לאמת, חשש שגדל בחשיבותו לצד ההטמעה של מערכות גנרטיביות גדולות. עבודה זו, שפורסמה ב-Computational Linguistics ב-2023, משקפת עניין רחב יותר בהפיכת פלטי מודלי שפה לאמינים יותר וניתנים להבנה.
מעבר לפרסי המאמרים שלו ב-ACL וב-NAACL, פטרוב קיבל פרס Test-of-Time למשך 10 שנים ב-ACL 2023, שהכיר במחקר מלפני עשור קודם לכן שהוכיח את עצמו כמשפיע ומתמשך לאורך זמן בתחום. תחומי המחקר שלו, כפי שמופיעים במאגר המחקר של Google, כוללים עיבוד שפה טבעית, תרגום מכונה, בינה מלאכותית של מכונות ומדע כללי.
רקע והישגים נוספים
פטרוב התגורר בבולגריה, בגרמניה ובארצות הברית במידה כמעט שווה, וכיום הוא מבוסס בברלין. הישגיו התחרותיים המוקדמים כוללים אליפות עולמית ב-RoboCup 2004 — תחרות בינלאומית ברובוטיקה — שקודמת לקריירה שלו במחקרי NLP. הוא השלים את הדיפלומה שלו ב-Freie Universität Berlin, ונראה שתקופתו בגרמניה סימנה את גבולות הקריירה שלו, כאשר ברלין משמשת כבסיס הנוכחי שלו גם כאשר הוא מוביל מחקר עבור אחת מארגוני ה-AI הבולטים בעולם. הוא הביע נאמנות אישית לנבחרת הכדורגל הלאומית של בולגריה, במיוחד במשחקים מול גרמניה.