Slav Petrov
Vice President, Research at Google DeepMind; co-leads Post-Training for Gemini
Themes
Слав Петров — болгарський дослідник і віцепрезидент з досліджень у Google DeepMind, де він спільно очолює Post-Training для Gemini, ініціативи Google зі створення великої мовної моделі. Він має ступінь PhD Університету Каліфорнії в Берклі та викладав статистичну обробку природної мови в Нью-Йоркському університеті.
Його дослідження зосереджені на обробці природної мови та великих мовних моделях, а його робота допомогла розвинути мовні можливості продуктів Google, зокрема Search, Assistant, Translate та Cloud. Він отримав кілька нагород за найкращу статтю на провідних конференціях з НЛП (ACL 2011, NAACL 2012, ACL 2016), а також нагороду Test-of-Time за 10 років на ACL 2023. У 2014 році президент Болгарії відзначив його нагородою імені Джона Атанасова.
Акадэмічны і прафесійны шлях
Адукацыйны шлях Пятрова ахоплівае тры краіны і адлюстроўвае міжнародны характар яго кар’еры. Ён атрымаў дыплом па камп’ютарных навуках і адміністраванні бізнесу ва Freie Universität Berlin, перш чым працягнуць дактаранцкія даследаванні па камп’ютарных навуках ва University of California, Berkeley. Пазней ён вучыўся ва Duke University у рамках свайго папярэдняга акадэмічнага шляху. З 2010 па 2016 год ён працаваў на пасадзе ад’юнкт-прафесара ва New York University, дзе выкладаў Statistical Natural Language Processing — ролю, якая паралельна існавала з яго прамысловай працай у Google, куды ён далучыўся ў жніўні 2009 года.
Роля ў Google DeepMind
У Google DeepMind Пятроў займае пасаду віцэ-прэзідэнта па даследаваннях і сумесна вядзе Post-Training для Gemini — флагманскай вялікай моўнай мадэлі кампаніі. Post-training — гэта крытычна важны этап у распрацоўцы вялікіх моўных мадэляў, які ўключае метады, што ўдакладняюць паводзіны мадэлі, здольнасці прытрымлівацца інструкцый і ўзгадненне пасля першапачатковага pretraining. Яго каманда працуе дыстанцыйна па ўсім свеце, што адлюстроўвае маштаб і складанасць усяго працэсу. Да стварэння Google DeepMind Пятроў кіраваў даследаваннямі ў галіне NLP, якія непасрэдна ляглі ў аснову прадуктаў Google, такіх як Search, Ads, Translate, Assistant і Chrome.
Даследчы паслужны спіс Пятрова налічвае больш за дзесяць гадоў і ахоплівае шырокі спектр тэм у апрацоўцы натуральнай мовы, уключаючы машынны пераклад, парсінг і атрыбуцыю ў генерацыі натуральнай мовы. Ён з’яўляецца аўтарам публікацый у знакавых працах, звязаных з ініцыятывамі Google па вялікіх мадэлях, у тым ліку па PaLM, PaLM 2, Gemini, Gemini 1.5 і Gemma 2, а таксама па наборы даных Natural Questions — шырока выкарыстоўванай рэсурсе для даследаванняў пытання-адказу.
Даследчыя ўнёскі і прызнанне
Даследчыя вынікі Пятрова ўключаюць унёскі ў сінтаксічны парсінг, машынны пераклад і распрацоўку ацэначных фреймворкаў для генерацыі мовы. Адна з найбольш прыкметных апошніх сфер яго працы — вымярэнне атрыбуцыі ў мадэлях генерацыі натуральнай мовы, якое дазваляе зразумець, ці можна адсачыць вывад мадэлі да правераных крыніц. Гэтая праблема набывае ўсё большае значэнне разам з разгортваннем вялікіх генератыўных сістэм. Гэтая праца, апублікаваная ў Computational Linguistics у 2023 годзе, адлюстроўвае больш шырокую зацікаўленасць у тым, каб вывады моўных мадэляў былі надзейнейшымі і больш зразумелымі.
Акрамя прэмій за артыкулы ў ACL і NAACL, Пятроў атрымаў 10-гадовую прэмію Test-of-Time на ACL 2023, якая адзначае даследаванні, зробленыя дзесяць гадоў таму, што працягвалі мець устойлівы ўплыў на сферу. Яго напрамкі даследаванняў, як пазначана ў даследчай дырэкторыі Google, ахопліваюць Natural Language Processing, Machine Translation, Machine Intelligence і General Science.
Перадумовы і іншыя дасягненні
Пятроў жыў у Балгарыі, Германіі і ЗША прыкладна ў роўнай ступені, а цяпер базуецца ў Берліне. Яго раннія спаборніцкія дасягненні ўключаюць чэмпіёнства ў RoboCup 2004 — міжнародным спаборніцтве па робататэхніцы — якое папярэднічае яго кар’еры ў даследаваннях у галіне NLP. Ён атрымаў свой дыплом ва Freie Universität Berlin, і час у Германіі, здаецца, «закальцаваў» яго кар’еру: Берлін застаецца яго цяперашняй базай, нават калі ён вядзе даследаванні для адной з самых вядомых у свеце арганізацый у галіне AI. Ён выказваў асабістую лаяльнасць да нацыянальнай футбольнай каманды Балгарыі, асабліва ў матчах супраць Германіі.