17 juillet 2023
info:eu-repo/semantics/OpenAccess
Mathieu Chalvidal, « Apprentissage de fonctions d'ordre supérieur pour le calcul, la mémorisation et le contrôle par réseaux de neurones artificiels », HAL-SHS : sciences de l'information, de la communication et des bibliothèques, ID : 10670/1.toag6t
Malgré des décennies de recherche, la compréhension des mécanismes d'apprentissage permettant aux réseaux de neurones biologiques de synthétiser l'expérience vécue pour acquérir de nouvelles compétences et d'articuler ces connaissances dans l’exécution de fonctions cognitives supérieures résiste encore a une description scientifique complète. Au même moment, les avancées du calcul informatique a grande échelle ont permis le développement de leur homologue artificiels, qui sous-tendent actuellement une révolution informationnelle. Ces modèles neuronaux simplifiés présentent toutefois d'importantes différences d'apprentissage en comparaison des réseaux naturels et apporte des explications insatisfaisantes sur les principes computationnels que l'évolution a favorisé au sein des ré- seaux biologiques. Le manque de compositionnalité et de systématicité constitue une limitation évidente du calcul neural artificiel et révèle son échec en tant que véritable paradigme de programmation fonctionnelle. Afin d'identifier les mécanismes susceptibles de permettre une intelligence machine plus abstractive, nous explorons dans cette thèse le problème de l'apprentissage de fonction d'ordre supérieur (i.e fonctions de fonctions) par réseaux de neurones artificiels. Nous proposons de marier les techniques d'apprentissage actuelles à ces réseaux vus comme fonctionnelles contrôlables, permettant de définir des modèles présentant des facultés calculatoires originales comme la mémorisation associative dynamique ou la régression d'opérateurs fonctionnels. En particulier, nous considérons le problème du méta-apprentissage, consistant à remplacer les méthodes manuelle d'ajustement fonctionnel par des méthodes d'adaptation elle-même apprises. En donnant aux réseaux de neurones la possibilité de construire leur propre stratégies d'apprentissage en fonction des données, de leur activité et de leur historique décisionnel, nous explorons de nouvelles formes de programme adaptatifs, trouvant des applications diverses en apprentissage "low-shot" ou en robotiques.