Slav Petrov
Vice President, Research at Google DeepMind; co-leads Post-Training for Gemini
Niemcy Themes
Slav Petrov jest bułgarskim badaczem i wiceprezesem ds. badań w Google DeepMind, gdzie współprowadzi Post-Training dla Gemini, przedsięwzięcia Google dotyczącego dużych modeli językowych. Uzyskał doktorat na Uniwersytecie Kalifornijskim w Berkeley i prowadził zajęcia z statystycznego przetwarzania języka naturalnego na Uniwersytecie Nowojorskim.
Jego badania koncentrują się na przetwarzaniu języka naturalnego i dużych modelach językowych, a jego prace przyczyniły się do rozwoju możliwości językowych w produktach Google, w tym w Search, Assistant, Translate i Cloud. Otrzymał wiele nagród dla najlepszych prac na czołowych konferencjach z dziedziny NLP (ACL 2011, NAACL 2012, ACL 2016), a także nagrodę Test-of-Time za 10 lat na ACL 2023. W 2014 roku został uhonorowany Nagrodą im. Johna Atanasoffa przez prezydenta Bułgarii.
Tło akademickie i zawodowe
Droga edukacyjna Petrov obejmuje trzy kraje i odzwierciedla międzynarodowy charakter jego kariery. Ukończył dyplom z informatyki oraz administracji biznesowej na Freie Universität Berlin, zanim rozpoczął studia doktoranckie z informatyki na University of California, Berkeley. Później studiował na Duke University w ramach wcześniejszej ścieżki akademickiej. W latach 2010–2016 pełnił funkcję adiunkta na New York University, gdzie prowadził zajęcia z statystycznego przetwarzania języka naturalnego — rolę, którą łączył równolegle z pracą w branży w Google, gdzie dołączył w sierpniu 2009.
Rola w Google DeepMind
W Google DeepMind Petrov zajmuje stanowisko wiceprezesa ds. badań i współprowadzi Post-Training dla Gemini, sztandarowego dużego modelu językowego firmy. Post-training to kluczowy etap w rozwoju dużych modeli językowych, obejmujący techniki, które dopracowują zachowanie modelu, jego zdolności do podążania za instrukcjami oraz dopasowanie po wstępnym trenowaniu. Jego zespół jest rozproszony globalnie, co odzwierciedla skalę i złożoność wykonywanej pracy. Przed powstaniem Google DeepMind Petrov kierował badaniami nad NLP, które bezpośrednio zasilały produkty Google, takie jak Search, Ads, Translate, Assistant i Chrome.
Jego dorobek publikacyjny obejmuje ponad dekadę i dotyczy szerokiego spektrum tematów w przetwarzaniu języka naturalnego, w tym tłumaczenia maszynowego, analizy składniowej oraz atrybucji w generowaniu języka naturalnego. Jest współautorem przełomowych prac związanych z wysiłkami Google w obszarze dużych modeli, w tym nad PaLM, PaLM 2, Gemini, Gemini 1.5 i Gemma 2, a także nad zbiorem danych benchmark Natural Questions — powszechnie wykorzystywanym zasobem do badań nad odpowiadaniem na pytania.
Wkład badawczy i uznanie
Wyniki badań Petrov obejmują wkład w analizę składniową, tłumaczenie maszynowe oraz rozwój ram ewaluacyjnych dla generowania języka. Jednym z wyróżniających się, niedawnych obszarów jego pracy jest pomiar atrybucji w modelach generowania języka — badanie, czy wyjścia modelu można przypisać do weryfikowalnych źródeł, co zyskuje na znaczeniu wraz z wdrażaniem dużych systemów generatywnych. Ta praca, opublikowana w Computational Linguistics w 2023 roku, odzwierciedla szersze zainteresowanie sprawianiem, by wyjścia modeli językowych były bardziej wiarygodne i możliwe do interpretacji.
Poza nagrodami za publikacje na ACL i NAACL, Petrov otrzymał 10-letnią Nagrodę Test-of-Time na ACL 2023, uznającą badania sprzed dekady, które okazały się trwałe w swoim wpływie na dziedzinę. Jego obszary badawcze, wymienione w katalogu badań Google, obejmują Natural Language Processing, Machine Translation, Machine Intelligence oraz General Science.
Tło i inne osiągnięcia
Petrov mieszkał w Bułgarii, Niemczech i Stanach Zjednoczonych w mniej więcej równym stopniu, a obecnie ma siedzibę w Berlinie. Jego wczesne osiągnięcia w rywalizacji obejmują Mistrzostwo Świata na RoboCup 2004 — międzynarodowych zawodach z robotyki — które wyprzedza jego karierę w badaniach nad NLP. Ukończył dyplom na Freie Universität Berlin, a jego czas w Niemczech wydaje się klamrować jego karierę: Berlin jest jego obecną bazą, nawet gdy kieruje badaniami dla jednej z najbardziej rozpoznawalnych organizacji AI na świecie. Wyraził też osobistą lojalność wobec bułgarskiej reprezentacji narodowej w piłce nożnej, szczególnie w meczach z Niemcami.