Slav Petrov
unter Google DeepMind
Vizepräsidentin, Forschung bei Google DeepMind; Co-Leiterin des Post-Training für Gemini
Themes
Slav Petrov ist Vizepräsident für Forschung bei Google DeepMind, wo er das Post-Training für Gemini, Googles Programm für große Sprachmodelle, mit leitet. Als Forscher im Bereich der automatischen Verarbeitung natürlicher Sprache hat er zur Entwicklung der Sprachfähigkeiten beigetragen, die in mehrere Google-Produkte integriert sind, darunter Search, Assistant, Ads, Translate und Cloud.
Seine Arbeit wurde mit mehreren wissenschaftlichen Preisen ausgezeichnet, darunter vier Auszeichnungen auf großen Konferenzen für Computerlinguistik (ACL 2011, NAACL 2012, ACL 2016, Test-of-Time Award ACL 2023) sowie der John Atanasoff-Preis 2014 des bulgarischen Präsidenten. Er hat an der University of California in Berkeley promoviert und an der New York University statistische Verarbeitung natürlicher Sprache gelehrt.
Akademischer und beruflicher Hintergrund
Petrovs Bildungsweg erstreckt sich über drei Länder und spiegelt den internationalen Charakter seiner Karriere wider. Er hat ein Diplom in Informatik und Betriebswirtschaft an der Freien Universität Berlin erworben, bevor er an der University of California, Berkeley, in Informatik promovierte. Später studierte er im Rahmen seiner früheren akademischen Laufbahn an der Duke University. Von 2010 bis 2016 war er außerordentlicher Professor an der New York University, wo er statistische natürliche Sprachverarbeitung unterrichtete - eine Rolle, die parallel zu seiner Arbeit in der Industrie bei Google lief, wo er im August 2009 eintrat.
Rolle bei Google DeepMind
Bei Google DeepMind hat Petrov die Position des Vice President of Research inne und ist Co-Leiter des Post-Trainings für Gemini, dem Flaggschiff des Unternehmens für große Sprachmodelle. Post-Training ist eine kritische Phase in der Entwicklung von großen Sprachmodellen und umfasst Techniken, die das Verhalten eines Modells, die Fähigkeiten zur Befolgung von Anweisungen und die Ausrichtung nach dem anfänglichen Pre-Training verfeinern. Sein Team ist weltweit verteilt, was den Umfang und die Komplexität der damit verbundenen Arbeit widerspiegelt. Vor der Gründung von Google DeepMind leitete Petrov NLP-Forschungsarbeiten, die direkt in Google-Produkte wie Search, Ads, Translate, Assistant und Chrome einflossen.
Seine Veröffentlichungen erstrecken sich über mehr als ein Jahrzehnt und decken ein breites Spektrum an Themen im Bereich der natürlichen Sprachverarbeitung ab, darunter maschinelle Übersetzung, Parsing und Attribution bei der Erzeugung natürlicher Sprache. Er hat zu bahnbrechenden Veröffentlichungen im Zusammenhang mit Googles Bemühungen um große Modelle beigetragen, darunter Arbeiten zu PaLM, PaLM 2, Gemini, Gemini 1.5 und Gemma 2 sowie zum Natural Questions Benchmark Dataset - einer weit verbreiteten Ressource für die Forschung zur Beantwortung von Fragen.
Forschungsbeiträge und Anerkennungen
Petrovs Forschungsergebnisse umfassen Beiträge in den Bereichen syntaktisches Parsing, maschinelle Übersetzung und die Entwicklung von Bewertungsrahmen für die Spracherzeugung. Ein bemerkenswerter neuerer Arbeitsbereich betrifft die Messung der Attribution in Modellen zur Generierung natürlicher Sprache - die Untersuchung, ob Modellausgaben auf überprüfbare Quellen zurückverfolgt werden können, ein Anliegen, das mit dem Einsatz großer generativer Systeme an Bedeutung gewonnen hat. Diese Arbeit, die 2023 in Computational Linguistics veröffentlicht wurde, spiegelt ein breiteres Interesse daran wider, die Ergebnisse von Sprachmodellen zuverlässiger und interpretierbar zu machen.
Neben den Auszeichnungen für seine Arbeiten auf der ACL und der NAACL erhielt Petrov auf der ACL 2023 einen 10-Jahres-Test-of-Time-Award, mit dem Forschungsarbeiten aus einem früheren Jahrzehnt gewürdigt wurden, die einen nachhaltigen Einfluss auf das Fachgebiet hatten. Seine Forschungsgebiete, die im Google-Forschungsverzeichnis aufgeführt sind, umfassen die Bereiche natürliche Sprachverarbeitung, maschinelle Übersetzung, maschinelle Intelligenz und allgemeine Wissenschaft.
Hintergrund und andere Errungenschaften
Petrov hat zu etwa gleichen Teilen in Bulgarien, Deutschland und den Vereinigten Staaten gelebt und lebt derzeit in Berlin. Zu seinen frühen Wettbewerbserfolgen gehört ein Weltmeistertitel beim RoboCup 2004 - einem internationalen Robotikwettbewerb - der seiner Karriere in der NLP-Forschung vorausging. Er schloss sein Diplom an der Freien Universität Berlin ab, und seine Zeit in Deutschland scheint sich wie ein roter Faden durch seine Karriere zu ziehen, denn Berlin ist sein derzeitiger Standort, auch wenn er die Forschung für eine der bekanntesten KI-Organisationen der Welt leitet. Er hat seine persönliche Loyalität gegenüber der bulgarischen Fußballnationalmannschaft zum Ausdruck gebracht, insbesondere bei Spielen gegen Deutschland.