Sepp Hochreiter - Sepp Hochreiter
Sepp Hochreiter | |
---|---|
Nascer |
|
14 de fevereiro de 1967
Nacionalidade | alemão |
Alma mater | Technische Universität München |
Carreira científica | |
Campos | Aprendizado de máquina , bioinformática |
Instituições | Johannes Kepler University Linz |
Tese | Generalisierung bei neuronalen Netzen geringer Komplexität (1999) |
Orientador de doutorado | Wilfried Brauer |
Josef "Sepp" Hochreiter (nascido em 14 de fevereiro de 1967) é um cientista da computação alemão . Desde 2018, ele liderou o Instituto de Aprendizado de Máquina na Universidade Johannes Kepler de Linz, depois de ter liderado o Instituto de Bioinformática de 2006 a 2018. Em 2017, ele se tornou o chefe do Laboratório de AI do Linz Institute of Technology (LIT). Anteriormente, ele estava na Universidade Técnica de Berlim , na Universidade do Colorado em Boulder e na Universidade Técnica de Munique .
Hochreiter fez inúmeras contribuições nas áreas de aprendizado de máquina , aprendizado profundo e bioinformática , mais notavelmente no desenvolvimento da memória de longo prazo (LSTM), mas também em meta-aprendizado , aprendizado de reforço e biclustering com aplicação a dados de bioinformática .
Hochreiter é presidente da conferência Critical Assessment of Massive Data Analysis (CAMDA); e também é diretor fundador do Instituto de Pesquisa Avançada em Inteligência Artificial (IARAI).
Carreira científica
Memória longa de curto prazo (LSTM)
Hochreiter desenvolveu a memória de longo prazo (LSTM) para a qual os primeiros resultados foram relatados em sua tese de diploma em 1991. LSTM supera o problema de redes neurais recorrentes (RNNs) e redes profundas para esquecer informações ao longo do tempo ou, de forma equivalente, através de camadas ( gradiente desaparecendo ou explodindo ). O LSTM com uma arquitetura otimizada foi aplicado com sucesso à detecção de homologia de proteína muito rápida sem exigir um alinhamento de sequência . As redes LSTM também são usadas na transcrição do Google Voice, na pesquisa por voz do Google e no Allo do Google para pesquisas e comandos por voz.
Outras contribuições do aprendizado de máquina
Além do LSTM, a Hochreiter também desenvolveu algoritmos para evitar overfitting em redes neurais e introduziu redes de fator retificado (RFNs) que foram aplicadas em bioinformática e genética. Hochreiter introduziu as redes Hopfield modernas com estados contínuos e aplicou-as à tarefa de classificação do repertório imunológico.
No campo da aprendizagem por reforço , Hochreiter tem trabalhado em sistemas ator-crítico que aprendem por "retropropagação através de um modelo". Hochreiter introduziu o método RUDDER que é projetado para aprender políticas ótimas para processos de decisão de Markov (MDPs) com recompensas altamente atrasadas.
A Hochreiter está envolvida no desenvolvimento de métodos de análise fatorial com aplicação em bioinformática, incluindo FABIA para biclustering , HapFABIA para detectar segmentos curtos de identidade por descendência e FARMS para pré-processamento e sumarização de microarranjos de DNA de oligonucleotídeo de alta densidade para analisar a expressão do gene de RNA .
Hochreiter propôs uma extensão da máquina de vetor de suporte (SVM), a "Máquina de Vetor de Suporte Potencial" (PSVM), que pode ser aplicada a matrizes de kernel não quadradas e pode ser usada com kernels que não são definidos positivamente. O PSVM foi aplicado à seleção de recursos , incluindo a seleção de genes para dados de microarray.
Prêmios
Hochreiter recebeu o prêmio IEEE CIS Neural Networks Pioneer em 2021 por seu trabalho na arquitetura LSTM.