Université de Montréal

Faculté des arts et des sciences -Secteur des sciences
Département d'informatique et de recherche opérationnelle


Département d'informatique et de recherche opérationnelle
Fr   En

Laboratoire d’Informatique des Systèmes Adaptatifs

Chaire de Recherche du Canada sur les Algorithmes d’Apprentissage Statistique

L’apprentissage automatique dans les systèmes adaptatifs est un domaine de recherche à l’intersection de l’intelligence artificielle, de l’inférence statistique et de l’optimisation. Il s’agit de construire des systèmes capables d’apprendre à effectuer une tâche à partir d’exemples et de connaissances a priori sur la tâche. Ces systèmes ont aussi souvent l’avantage de pouvoir être adaptatifs, donc de s’adapter à des changements dans leur environnement. Plusieurs des algorithmes utilisés proviennent de la recherche en réseaux de neurones artificiels, et sont inspirés de la manière dont le cerveau traite l’information. Plusieurs algorithmes s’inscrivent dans le cadre des modèles probabilistes, où l’incertitude est représentée explicitement, et où l’on représente les relations entre les variables à travers des formules mathématiques appelées facteurs, et tous ces facteurs peuvent être représentés dans un graphe.

L’apprentissage automatique est important quand on n’a pas suffisamment de connaissances explicites sur un problème pour pouvoir directement écrire un programme ou un ensemble de règles permettant de résoudre ce problème. Dans certains cas, on peut cependant obtenir plus d’information sur le problème à résoudre sous la forme (implicite) d’exemples d’entrées et de sorties. Ces exemples peuvent nous donner, pour un certain nombre de situations connues, la réponse qu’on désire que le système produise. Il s’agit ensuite de combiner les connaissances explicites sur le problème (dans le design du système et de la représentation) avec les connaissances implicites (sous la forme d’exemples).

Le LISA travaille à comprendre les principes de l’intelligence et de l’apprentissage, afin de faire progresser les algorithmes d’apprentissage et l’intelligence artificielle. L’acquisition des connaissances complexes nécessaires à l’IA passe par l’apprentissage de fonctions complexes, avec de nombreux facteurs de variations intéragissant entre eux, à partir de données en haute dimension ; c’est selon nous le principal défi de l’apprentissage machine pour l’IA.

Comme le cerveau, les architectures profondes, composées de plusieurs couches de traitement, qui créent des représentations successives, permettent de paramétriser de manière compacte des fonctions complexes, variant fortement. Nous explorons diverses méthodes pour entraîner des modèles profonds, basées notamment sur un pré-entraînement non supervisé (machines de Boltzmann restreintes, auto-encodeurs).

Le pré-entraînement non-supervisé permet, de plus, d’utiliser des données non supervisées, souvent disponibles en grandes quantités (texte, images et vidéos sur Internet, notamment). Les représentations ainsi apprises peuvent servir à différentes tâches supervisées (apprentissage multi-tâches). L’entraînement progressif de couches de plus en plus profondes permet d’apprendre des représentations de plus en plus abstraites de l’entrée, et de séparer les facteurs de variations présents dans les données.

Des avancées dans ces domaines permettraient d’augmenter la complexité des connaissances incluses dans des systèmes d’apprentissage, et ainsi de les faire progresser vers l’IA.

Voir la page des recherches de Yoshua Bengio ainsi que ces quelques articles pour en apprendre plus :