Slav Petrov
за адресою Google DeepMind
Vice President, Research at Google DeepMind; co-leads Post-Training for Gemini
Німеччина Themes
Слав Петров — болгарський дослідник і віцепрезидент із досліджень у Google DeepMind, де він спільно керує Post-Training для Gemini, великомасштабного проєкту Google у сфері мовних моделей. Він має ступінь PhD Університету Каліфорнії в Берклі та викладав статистичну обробку природної мови в Нью-Йоркському університеті.
Його дослідження зосереджені на обробці природної мови та великих мовних моделях, а його робота допомогла розвинути мовні можливості продуктів Google, зокрема Search, Assistant, Translate та Cloud. Він отримав кілька премій за найкращу наукову роботу на провідних конференціях із NLP (ACL 2011, NAACL 2012, ACL 2016), а також премію Test-of-Time на 10 років на ACL 2023. У 2014 році він був нагороджений премією імені Джона Атанасова Президентом Болгарії.
Академічна та професійна біографія
Освітній шлях Петрова охоплює три країни та відображає міжнародний характер його кар’єри. Він здобув диплом з комп’ютерних наук і ділового адміністрування у Freie Universität Berlin, перш ніж розпочати докторантські студії з комп’ютерних наук у Каліфорнійському університеті в Берклі. Пізніше він навчався в Duke University у межах попереднього академічного етапу. З 2010 по 2016 рік він обіймав посаду ад’юнкт-професора в New York University, де викладав Statistical Natural Language Processing — роль, яка паралельно виконувалася з його роботою в індустрії в Google, куди він приєднався у серпні 2009 року.
Роль у Google DeepMind
У Google DeepMind Петров обіймає посаду віцепрезидента з досліджень і спільно керує Post-Training для Gemini — флагманської великої мовної моделі компанії. Post-training є критично важливою фазою в розробці великих мовних моделей: це етап, що включає техніки, які уточнюють поведінку моделі, її здатність виконувати інструкції та узгодженість після початкового попереднього навчання. Його команда є глобально розподіленою, що відображає масштаб і складність робіт. До формування Google DeepMind Петров очолював дослідницькі зусилля в галузі NLP, які безпосередньо живили продукти Google, зокрема Search, Ads, Translate, Assistant і Chrome.
Його публікаційний доробок триває понад десятиліття та охоплює широкий спектр тем у межах обробки природної мови, включно з машинним перекладом, парсингом і атрибуцією в генерації природною мовою. Він є автором робіт, що стосуються знакових публікацій, пов’язаних із зусиллями Google щодо великих моделей, зокрема досліджень PaLM, PaLM 2, Gemini, Gemini 1.5 і Gemma 2, а також набору даних Natural Questions — широко використовуваного ресурсу для досліджень з відповідей на запитання.
Дослідницькі внески та визнання
Дослідницькі результати Петрова включають внески в синтаксичний парсинг, машинний переклад і розробку фреймворків для оцінювання генерації мови. Одним із помітних напрямів його нещодавньої роботи є вимірювання атрибуції в моделях генерації природною мовою — дослідження того, чи можна простежити виходи моделі до перевірюваних джерел, що набуло зростаючого значення разом із розгортанням великих генеративних систем. Ця робота, опублікована в Computational Linguistics у 2023 році, відображає ширший інтерес до того, щоб виходи мовних моделей були надійнішими та зрозумілішими.
Окрім нагород за статті на ACL і NAACL, Петров отримав 10-річну Test-of-Time Award на ACL 2023, яка відзначає дослідження десятирічної давнини, що виявилися такими, які зберегли вплив упродовж часу. Його напрями досліджень, як зазначено в дослідницькому каталозі Google, охоплюють Natural Language Processing, Machine Translation, Machine Intelligence та General Science.
Передумови та інші досягнення
Петров жив у Болгарії, Німеччині та Сполучених Штатах приблизно в рівній мірі, а нині базується в Берліні. Його ранні конкурентні досягнення включають чемпіонство світу на RoboCup 2004 — міжнародному змаганні з робототехніки — яке передує його кар’єрі в дослідженнях з NLP. Він завершив Diplom у Freie Universität Berlin, і його час у Німеччині, схоже, «обрамляє» його кар’єру: Берлін є його поточною базою навіть тоді, коли він очолює дослідження в одній із найвідоміших у світі організацій у сфері ШІ. Він висловлював особисту прихильність до національної футбольної команди Болгарії, зокрема в матчах проти Німеччини.