Seppo Linnainmaa

mathématicien finlandais

Seppo Ilmari Linnainmaa (né le ) est un mathématicien et informaticien finlandais. Il s'est fait connaitre en créant la version moderne de la rétropropagation du gradient (rétropropagation).

Seppo Linnainmaa
une illustration sous licence libre serait bienvenue
Biographie
Naissance
Nationalité
Formation
Activités
Autres informations
A travaillé pour
Directeur de thèse
Martti Tienari (d)Voir et modifier les données sur Wikidata

Éléments de biographie modifier

Seppo Linnainmaa est né à Pori[1].

En 1970, il obtient une maîtrise, puis dans sa thèse de maîtrise, il introduit un mode inverse de différenciation automatique[2]. En 1974, il obtient le premier doctorat jamais décerné en informatique à l'université d'Helsinki[3].

En 1976, il est nommé professeur adjoint. De 1984 à 1985, il est professeur invité à l'université du Maryland, aux États-Unis.

De 1986 à 1989, il préside la Société finlandaise d'intelligence artificielle.

De 1989 à 2007, il est professeur-chercheur au Centre de recherche technique VTT de Finlande, retraité depuis 2007.

Algorithme de rétropropagation modifier

La rétropropagation d'erreur explicite et efficace dans des réseaux de type réseaux de neurones arbitraires, discrets, éventuellement peu connectés, a été décrite pour la première fois dans la thèse de maîtrise de Linnainmaa en 1970[2],[4], bien que sans référence aux réseaux de neurones[5], lorsqu'il a introduit le mode inverse de différenciation automatique (DA) pour calculer efficacement la dérivée d'une fonction composite différentiable qui peut être représentée sous forme de graphique, en appliquant récursivement la règle de chaîne aux éléments constitutifs de la fonction[3],[4],[6]. Linnainmaa l'a publié le premier, à la suite de Gerardi Ostrowski qui l'avait utilisé dans le contexte de certains modèles de processus en génie chimique environ cinq ans plus tôt, mais sans l'avoir publié.

Avec l'apparition de puces et d’ordinateurs de plus en plus rapides et puissants, cette méthode s'est répandue dans de nombreuses applications. Ainsi, la rétropropagation des erreurs dans les perceptrons multicouches, une technique utilisée en apprentissage automatique, est un cas particulier de l'AD en mode inverse.[C'est-à-dire ?] .

Références modifier

  1. (fi) Suomen professorit 1640–2007, Helsinki, Professoriliitto, (ISBN 978-952-99281-1-8), p. 405.
  2. a et b (en) « Seppo Linnainmaa (Mathematician and Computer Scientist) », OnThisDay.com (consulté le ).
  3. a et b Andreas Griewank, « Who Invented the Reverse Mode of Differentiation? », dans Documenta Matematica, Extra Volume ISMP, , 389–400 p. (S2CID 15568746).
  4. a et b Linnainmaa, « Taylor expansion of the accumulated rounding error », BIT Numerical Mathematics, vol. 16, no 2,‎ , p. 146–160 (DOI 10.1007/BF01931367, S2CID 122357351).
  5. Jürgen Schmidhuber, (2015). Who Invented Backpropagation?
  6. (en) Andreas Griewank et Andrea Walther, Evaluating Derivatives : Principles and Techniques of Algorithmic Differentiation, Philadelphie, Society for Industrial and Applied Mathematics, , 2e éd., 459 p. (ISBN 978-0-89871-659-7 et 978-0-89871-776-1, DOI 10.1137/1.9780898717761, lire en ligne).[page à préciser].

Voir aussi modifier

Articles connexes modifier

Liens externes modifier