Un texte, une aventure mathématique – “De Cauchy aux réseaux de neurones, la descente de gradient et ses variantes” par Simon Masnou

Qu’est ce que le cycle « Un texte, une aventure mathématique » ?

Les conférences du cycle « Un texte, une aventure mathématique » mettent en lumière les recherches mathématiques actuelles en les replaçant dans leur contexte historique. Ces conférences sont gratuites et destinées aux classes de première et terminale ainsi qu’au grand public. La participation des élèves se fait sur inscription :

• Collective, par les enseignants pour leurs classes (location de car possible) ;
• Individuelle, pour les élèves inscrits à titre personnel.

Il est également possible de rencontrer un chercheur ou une chercheuse en mathématiques pour échanger sur son parcours et son sujet de recherche. Enfin, une visite guidée du site François-Mitterrand (1h30) peut être réservée à 16h30 avant la conférence, prévue à 18h au Grand auditorium.

Ce cycle est co-organisé par la Société Mathématique de France et par la Bibliothèque nationale de France.

Résumé de la conférence

Le calcul des variations moderne prend son essor entre le 17e et le début du 19e siècle avec, entre autres, les travaux fondateurs de Newton, Euler et Lagrange.
C’est dans ce contexte que Louis Augustin Cauchy introduit formellement en 1847, dans une note brève à l’Académie des Sciences, la méthode de descente de gradient. Presque anodine lorsque Cauchy l’invente, cette méthode a pourtant pris au fil des ans une importance colossale en optimisation numérique, au point d’être aujourd’hui un outil clé en intelligence artificielle.
L’exposé reviendra sur les grands principes du calcul des variations et de l’optimisation, sur les aspects théoriques et numériques de la méthode de gradient, de Cauchy à aujourd’hui, et enfin sur ses applications et ses développements modernes : descente de gradient stochastique, optimisation par lots, méthodes inertielles, entraînement de réseaux de neurones…