Sibylle Marcotte, lauréate du Prix Jeunes Talents France 2024 L'Oréal - UNESCO pour les Femmes et la Science

/medias/photo/sibylle-marcotte-loreal-unesco-for-women-in-science-france-young-talents-award-photo-by-richard-pak-and-clemence-losfeld-vignette_1728564918283-jpg

Bien que l'apprentissage statistique profond soit exceptionnellement efficace en pratique, sa compréhension mathématique, cruciale pour garantir une technologie fiable et économe, reste très limitée. Mes travaux portent sur l'étude mathématique de la dynamique d'entraînement des
réseaux de neurones, afin de caractériser la solution calculée par ce processus d'optimisation.

Une première partie de mes contributions est méthodologique : j’ai défini un nouveau concept clé, les lois de conservation, qui sont des quantités préservées pendant l'optimisation. Ces lois révèlent des propriétés du réseau entraîné, héritées de son initialisation. Ensuite, j’ai établi une théorie des lois de conservation, en démontrant un théorème central : le nombre de ces lois est entièrement déterminé par une algèbre de Lie, et ce nombre est calculable en pratique.
Enfin, j'ai également développé un code open-source qui calcule à la fois le nombre de lois, et renvoie une formule explicite des lois polynomiales, rendant ma théorie accessible à tous.

Ces avancées, appliquées aux réseaux linéaires et ReLU, ont validé l'exhaustivité des lois connues pour la descente de gradient standard et révélé de nouvelles lois pour d'autres types d'optimisation.

Ces résultats vont me permettre dans la suite de mieux comprendre la synergie entre l'algorithme d'optimisation et son initialisation, ce qui favoriserait un entraînement plus efficace et économe.

Cela n’a pas forcément été un choix évident car j’aimais aussi beaucoup la musique et les lettres. Les mathématiques représentaient pour moi à la fois un défi intellectuel et une forme très particulière de beauté. En effet, l’abstraction des mathématiques, leur côté visuel, résonnaient avec mes goûts artistiques. Et en même temps, le monde mathématique laisse peu de place au doute avec sa logique implacable – c’est un aspect que je trouve très rassurant.

Je pense qu’il est plus difficile pour une femme d’être prise au sérieux ou de montrer de la confiance en soi, quand cette même confiance est habituellement valorisée chez un homme. Cependant, il y a une solidarité certaine entre femmes scientifiques et je ressens une réelle fierté à évoluer dans cet univers. J’ai notamment eu la chance de côtoyer deux brillantes chercheuses à l’ENS de Rennes, qui ont été des mentores durant mon parcours d’étudiante. Je leur en suis très reconnaissante et j’espère à mon tour valoriser l’image des femmes en science.