Slav Petrov
na adrese Google DeepMind
Vice President, Research at Google DeepMind; co-leads Post-Training for Gemini
Themes
Slav Petrov je bulharský výzkumník a viceprezident pro výzkum ve společnosti Google DeepMind, kde spoluvede Post-Training pro Gemini, snahu společnosti Google v oblasti velkých jazykových modelů. Má doktorát z University of California, Berkeley, a vyučoval Statistické zpracování přirozeného jazyka na New York University.
Jeho výzkum se zaměřuje na zpracování přirozeného jazyka a velké jazykové modely, a jeho práce přispěla jazykovými schopnostmi do produktů Google včetně Search, Assistant, Translate a Cloud. Získal několik ocenění za nejlepší článek na významných konferencích v oblasti NLP (ACL 2011, NAACL 2012, ACL 2016), a také ocenění Test-of-Time na 10 let na ACL 2023. V roce 2014 mu prezident Bulharska udělil John Atanasoff Award.
Akademické a profesní zázemí
Petrovova vzdělávací cesta se odehrává ve třech zemích a odráží mezinárodní povahu jeho kariéry. Nejprve dokončil Diplom v oboru Informatika a obchodní administrativa na Freie Universität Berlin, než pokračoval doktorským studiem v oboru Informatika na University of California, Berkeley. Později studoval na Duke University v rámci své dřívější akademické dráhy. V letech 2010 až 2016 působil jako adjunctní profesor na New York University, kde vyučoval Statistické zpracování přirozeného jazyka — roli, která probíhala souběžně s jeho prací v oboru ve společnosti Google, do níž nastoupil v srpnu 2009.
Role ve společnosti Google DeepMind
V Google DeepMind zastává Petrov pozici viceprezidenta pro výzkum a společně vede Post-Training pro Gemini, vlajkový velký jazykový model společnosti. Post-training je klíčová fáze ve vývoji velkých jazykových modelů, která zahrnuje techniky zpřesňující chování modelu, schopnost řídit se instrukcemi a sladění po počátečním předtrénování. Jeho tým je globálně rozprostřený, což odráží rozsah a složitost práce. Před vznikem Google DeepMind Petrov vedl výzkumné úsilí v oblasti NLP, které přímo napájelo produkty Google, jako jsou Search, Ads, Translate, Assistant a Chrome.
Jeho publikační činnost se rozprostírá přes více než deset let a zahrnuje širokou škálu témat v rámci zpracování přirozeného jazyka, včetně strojového překladu, parsování a atribuce při generování přirozeného jazyka. Je autorem významných prací spojených s úsilím Googlu o velké modely, včetně prací na PaLM, PaLM 2, Gemini, Gemini 1.5 a Gemma 2, stejně jako na benchmarkovém datasetu Natural Questions — široce používaném zdroji pro výzkum zodpovídání otázek.
Přínosy ve výzkumu a uznání
Petrovova výzkumná produkce zahrnuje příspěvky napříč syntaktickým parsováním, strojovým překladem a vývojem hodnoticích rámců pro generování jazyka. Jednou z výrazných nedávných oblastí jeho práce je měření atribuce v modelech generování přirozeného jazyka — zkoumání, zda lze výstupy modelu dohledat ke zjišťitelným zdrojům, což se stalo stále důležitějším spolu s nasazováním velkých generativních systémů. Tato práce, publikovaná v Computational Linguistics v roce 2023, odráží širší zájem o to, aby byly výstupy jazykových modelů spolehlivější a lépe interpretovatelné.
Kromě ocenění za své práce na ACL a NAACL získal Petrov na ACL 2023 10letou cenu Test-of-Time, která oceňuje výzkum z doby před deseti lety, jenž se ukázal jako trvale vlivný v oboru. Jeho výzkumné oblasti, jak jsou uvedeny v Googlově výzkumném adresáři, zahrnují Natural Language Processing, Machine Translation, Machine Intelligence a General Science.
Zázemí a další úspěchy
Petrov žil v Bulharsku, Německu a ve Spojených státech zhruba v podobné míře a v současnosti má základnu v Berlíně. Mezi jeho rané konkurenční úspěchy patří titul Mistra světa na RoboCup 2004 — mezinárodní soutěži v robotice — který předchází jeho kariéře v oblasti výzkumu NLP. Dokončil svůj Diplom na Freie Universität Berlin a zdá se, že jeho čas v Německu uzavřel jeho kariéru do rámce: Berlín je jeho současnou základnou i v době, kdy vede výzkum pro jednu z nejvýznamnějších organizací v oblasti AI na světě. Vyjádřil také osobní loajalitu k bulharskému národnímu fotbalovému týmu, zejména v zápasech proti Německu.