Oriol Vinyals
Principal Scientist at Google DeepMind; Gemini Technical Lead; co-inventor of seq2seq and lead researcher of AlphaStar
Themes
Oriol Vinyals è un ricercatore di intelligenza artificiale spagnolo e Principal Scientist presso Google DeepMind, con sede nel Regno Unito, dove ricopre il ruolo di technical lead sul progetto Gemini. Ha conseguito un dottorato di ricerca in Ingegneria Elettrica e Informatica presso l’Università della California, Berkeley, e in precedenza ha svolto attività di ricerca presso Google Brain.
Vinyals è ampiamente riconosciuto per la co-invenzione del framework di apprendimento sequence-to-sequence (seq2seq), diventato fondamentale per la traduzione automatica moderna e l’elaborazione del linguaggio naturale, e per la guida del progetto AlphaStar, che ha sviluppato un sistema di intelligenza artificiale in grado di giocare al videogioco di strategia in tempo reale StarCraft II a un livello competitivo elevato. Ha inoltre contribuito alle tecniche di distillazione della conoscenza e allo sviluppo di TensorFlow, accumulando oltre 70.000 citazioni accademiche.
Nel 2016 ha ricevuto il premio MIT Technology Review Innovators Under 35 (TR35) e ha ricoperto il ruolo di Program Chair per ICLR nel 2017 e nel 2018.
Da Barcellona a Berkeley: Formazione iniziale
Vinyals è cresciuto a Barcellona, in Spagna, dove ha studiato Matematica e Ingegneria presso la Universitat Politècnica de Catalunya (UPC). Il suo interesse per l’intelligenza artificiale risale all’infanzia, alimentato in parte dal film di fantascienza 2001: Odissea nello spazio, che ha acceso una curiosità precoce verso la cognizione delle macchine. In seguito si è trasferito negli Stati Uniti per intraprendere studi di dottorato presso UC Berkeley, dove la sua ricerca dottorale si è concentrata sul riconoscimento del parlato — un ambito che avrebbe informato gran parte del suo lavoro successivo su sequenze, linguaggio ed elaborazione audio. Durante gli anni di PhD ha completato stage di ricerca presso Microsoft Research a Redmond, lavorando nel loro Speech group per due estati consecutive, e in seguito nel team Speech di Google a Mountain View. Queste esperienze hanno colmato il divario tra la teoria accademica e sistemi industriali su larga scala, prima di entrare formalmente in Google Brain come Senior Research Scientist a fine 2013.
Impatto della ricerca e applicazioni nel mondo reale
Alcuni dei contributi di Vinyals sono passati dagli articoli accademici a sistemi che gestiscono miliardi di interazioni degli utenti ogni giorno. Il framework seq2seq, sviluppato con collaboratori, ha introdotto un’architettura encoder-decoder basata su unità LSTM che ha trasformato il modo in cui le reti neurali affrontano compiti che richiedono input e output di lunghezza variabile. Questo lavoro è diventato fondamentale per le pipeline di Google Translate e text-to-speech. Il suo coinvolgimento nella knowledge distillation — una tecnica per comprimere il comportamento di grandi reti neurali in modelli più piccoli e distribuibili addestrandosi su output di probabilità “ammorbidite” — ha trovato in modo analogo applicazione diretta nell’infrastruttura di riconoscimento del parlato di Google. È stato inoltre tra i contributori di TensorFlow, la piattaforma open-source di machine learning che è stata adottata ampiamente sia all’interno di Google sia, più in generale, nella comunità di ricerca. Il numero di citazioni accademiche è cresciuto in modo sostanziale nel corso degli anni, superando le 100.000 secondo alcune misurazioni, a testimonianza della diffusione di queste metodologie fondamentali.
AlphaStar, AlphaFold e reinforcement learning in DeepMind
Dopo essersi unito a DeepMind nel gennaio 2016, Vinyals ha guidato il progetto AlphaStar, che ha applicato il reinforcement learning multi-agente a StarCraft II — un videogioco di strategia in tempo reale da tempo considerato un banco di prova difficile per l’IA a causa delle informazioni imperfette, degli orizzonti temporali lunghi e degli ampi spazi d’azione. Il sistema risultante ha raggiunto il livello Grandmaster, sconfiggendo giocatori umani professionisti e superando il 99,8% di avversari umani classificati in tutte le razze presenti nel gioco. Il lavoro è stato pubblicato su Nature ed è apparso in copertina alla rivista. Oltre ad AlphaStar, Vinyals ha contribuito anche al team dietro AlphaFold, il sistema di predizione della struttura delle proteine che ha affrontato una sfida di decenni nella biologia strutturale. AlphaFold ha dimostrato che il deep learning può produrre un’accuratezza vicina a quella sperimentale nella predizione di come si ripiegano le proteine, con implicazioni significative a valle per la scoperta di farmaci e la ricerca biologica.
Ruolo attuale e contributi più ampi
Vinyals ricopre attualmente la posizione di Vice President of Research presso Google DeepMind, dove funge anche da technical lead sul progetto Gemini — l’iniziativa dell’azienda di grandi modelli multimodali. Il suo ruolo copre sia la leadership della ricerca sia la direzione tecnica operativa. Al di fuori del suo lavoro principale, ha mantenuto un coinvolgimento nella comunità accademica come area chair per diverse edizioni di NeurIPS e ICML, aggiungendo al suo precedente servizio come Program Chair per ICLR. I suoi interessi di ricerca continuano a spaziare tra machine learning, deep learning e reinforcement learning, con un’enfasi crescente sui modelli su larga scala e sulle loro applicazioni scientifiche. Il suo profilo che attraversa signal processing, natural language, vision e AI orientata al gioco rende il suo contributo particolarmente ampio in un settore che è diventato sempre più specializzato.