Laboratoire d’Informatique des Systèmes Adaptatifs
Chaire de Recherche du Canada sur les Algorithmes d’Apprentissage Statistique
L’apprentissage automatique dans les systèmes adaptatifs est un domaine de
recherche à l’intersection de l’intelligence artificielle, de l’inférence
statistique et de l’optimisation. Il s’agit de construire des systèmes
capables d’apprendre à effectuer une tâche à partir d’exemples et de
connaissances a priori sur la tâche. Ces systèmes ont aussi souvent
l’avantage de pouvoir être adaptatifs, donc de s’adapter à des changements
dans leur environnement. Plusieurs des algorithmes utilisés proviennent de
la recherche en réseaux de neurones artificiels, et sont inspirés de la
manière dont le cerveau traite l’information. Plusieurs algorithmes
s’inscrivent dans le cadre des modèles probabilistes, où l’incertitude est
représentée explicitement, et où l’on représente les relations entre les
variables à travers des formules mathématiques appelées facteurs, et tous
ces facteurs peuvent être représentés dans un graphe.
L’apprentissage automatique est important quand on n’a pas suffisamment de
connaissances explicites sur un problème pour pouvoir directement écrire un
programme ou un ensemble de règles permettant de résoudre ce problème. Dans
certains cas, on peut cependant obtenir plus d’information sur le problème
à résoudre sous la forme (implicite) d’exemples d’entrées et de
sorties. Ces exemples peuvent nous donner, pour un certain nombre de
situations connues, la réponse qu’on désire que le système produise. Il
s’agit ensuite de combiner les connaissances explicites sur le problème
(dans le design du système et de la représentation) avec les connaissances
implicites (sous la forme d’exemples).
Le LISA travaille à comprendre les principes de l’intelligence et de
l’apprentissage, afin de faire progresser les algorithmes
d’apprentissage et l’intelligence artificielle.
L’acquisition des connaissances complexes nécessaires à l’IA passe par
l’apprentissage de fonctions complexes, avec de nombreux facteurs de
variations intéragissant entre eux, à partir de données en haute
dimension ; c’est selon nous le principal défi de l’apprentissage machine pour l’IA.
Comme le cerveau, les architectures profondes, composées de plusieurs
couches de traitement, qui créent des représentations successives,
permettent de paramétriser de manière compacte des fonctions complexes,
variant fortement. Nous explorons diverses méthodes pour entraîner des
modèles profonds, basées notamment sur un pré-entraînement non supervisé
(machines de Boltzmann restreintes, auto-encodeurs).
Le pré-entraînement non-supervisé permet, de plus, d’utiliser des
données non supervisées, souvent disponibles en grandes quantités
(texte, images et vidéos sur Internet, notamment). Les représentations
ainsi apprises peuvent servir à différentes tâches supervisées
(apprentissage multi-tâches). L’entraînement progressif de couches de
plus en plus profondes permet d’apprendre des représentations de plus
en plus abstraites de l’entrée, et de séparer les facteurs de
variations présents dans les données.
Des avancées dans ces domaines permettraient d’augmenter la complexité
des connaissances incluses dans des systèmes d’apprentissage, et ainsi
de les faire progresser vers l’IA.
Voir la page des recherches de Yoshua Bengio
ainsi que ces quelques articles pour en apprendre plus :
|