Laboratoire d'Informatique des Systèmes d'Apprentissage
LISA

Membres du Laboratoire
Professeurs
Visiteurs Postdoctoraux
Collaborateurs
Étudiants Ph.D.
Étudiants M.Sc. (M.Sc. Students)
Où est-ce?
-
Local 3332, Pavillon Aisenstadt, Université de Montréal
-
tel: (514) 343-6111 ext 1794
-
fax: (514) 343-5834
Équipements
-
3 SPARC Station 5: cervo, oust, isli
-
1 SPARC Station 10: rouge
-
1 SPARC Station 2: marte
-
1 compatible IBM.
Toutes @iro.umontreal.ca
La recherche
L'apprentissage automatique dans les systèmes adaptatifs est un
domaine de recherche à l'intersection de l'intelligence artificielle,
de l'inférence statistique et de l'optimisation. Il s'agit de construire
des systèmes capables d'apprendre à effectuer une tâche
à partir d'exemples et de connaissances à priori sur
la tâche. Ces systèmes ont aussi souvent l'avantage de pouvoir
être adaptatifs, donc de s'adapter à des changements
dans leur environnement. Plusieurs des algorithmes utilisés proviennent
de la recherche en {\em réseaux de neurones artificiels}, et sont
inspirés de la manière dont le cerveau traite l'information.
Un des avantages de cette approche est le traitement parallèle de
l'information, qui se prête bien à des réalisations
efficaces en matériel.
L'apprentissage automatique est important quand on n'a pas suffisamment
de connaissances explicites sur un problème pour pouvoir directement
écrire un programme ou un ensemble de règles permettant de
résoudre ce problème. Dans certains cas, on peut cependant
obtenir plus d'information sur le problème à résoudre
sous la forme (implicite) d'exemples d'entrées et de sorties.
Ces exemples nous donnent, pour un certain nombre de situations connues,
la réponse qu'on désire que le système produise. Il
s'agit ensuite de combiner les connaissance explicites sur le problème
(dans le design du système et de la répresentation) avec
les connaissances implicites (sous la forme d'exemples).
Projets en cours
-
Algorithmes d'apprentissage
-
"boosting" de réseaux de neurones, en particulier AdaBoost.
-
Question théoretique: apprentissage des dépendences à
long terme dans des donnéés séquentielles. Analyse
cans le cas des
systèmes dynamiques paramétriques comme les réseaux
récurrents, et dans le cas des modèles
Markoviens comme les modèles de Markov cachés.
-
Algorithmes pour mieux apprendre les dépendences à long terme,
avec des réseaux
récurrents multi-échelles et des modèles Markov cachés
multi-échelles. Nous ferons également une présentation
sur nous travaux plus r&ecents au prochain atelier de NIPS sur les
séries chronologiques.
-
Mixtures récurrentes d'experts, ou Input/Output Hidden Markov Models,
avec extensions au cas de données asynchrones (comme en parole et
autres séries temporelles). (voir l'article
de NIPS-7 ou, de
données manquantes, ou de séries temporelles asynchrones
ou avec plusieurs échelles de temps.
-
Combinaisons d'optimisation locale (e.g., gradient, tabu) et globale (e.g.,
algorithmes génétiques, recuit simulé).
-
Architectures pour réseaux
de neurones à convolution (1 dimension et 2 dimensions).
-
Applications des algorithmes d'apprentissage
-
Applications des réseaux de neurones à convolution en vision
et reconnaissance
de l'écriture.
-
Applications des réseaux de neurones à delais et réseaux
récurrents aux séries temporelles, pour l'analyse, la prédiction,
et la classification:
-
prédiction sur données financières et économiques.
-
Surveillance de senseurs dans une centrale nucleaire.
-
Classification de signaux provenant d'une tête de forage (industrie
minière).
-
Application des algorithmes d'apprentissage et d'optimisation à
l'affectation
de routes et à d'autres problèmes dans le domaine des
transports.
-
Implémentation
-
Implémentation en logiciel: améliorations à notre
simulateur pour algorithmes d'apprentissage. Il est basé sur gambit-c,
un Scheme avec interprète et compilateur incrémental.
-
Implémentation sur puce: les puces à logique programmable
(FPGA) permettent de réaliser de manière flexible et peu
couteuse des réseaux de neurones à convolution.
Intérêts de recherche des professeurs
Yoshua Bengio s'intéresse aux algorithmes d'apprentissage pour la
reconnaissance des formes et l'analyse de séquences. En particulier,
il travaille sur les combinaisons de réseaux à convolution
et modèles de Markov cachés, pour la reconnaissance de caractères
et de mots manuscrits ainsi que la reconnaissance de la parole. Il travaille
aussi sur le problème d'apprendre à représenter le
contexte à long terme et les différentes échelles
temporelles dans les systèmes adaptatifs (tels que les réseaux
de neurones récurrents et les modèles de Markov).
Jocelyn Cloutier s'intéresse à deux aspects de l'apprentissage
automatique. Le premier est l'apprentissage de stratégies et plus
particulièrement, de stratégies dans les jeux. Un projet
en cours vise l'apprentissage automatique d'une fonction heuristique évaluant
les configurations du jeu othello. La deuxième avenue explorée
concerne les problèmes entourant la réalisation sur une puce
de silicium de réseaux de neurones. Ces problèmes vont de
la détermination de la précision nécessaire aux calculs,
à l'évaluation de la tolérance aux pannes d'une puce
``neurale'' jusqu'à la réalisation d'un simulateur parallèle!
Jan Gecsei s'intéresse aux applications des réseaux de neurones
dans des contextes inhabituels. Par exemple, dans le projet Safari (formation
industrielle), il faut construire des systèmes capables de s'adapter
aux préférences et autres particularités de l'étudiant
(usager). Il peut s'agir d'une adaptation supervisée (l'usager demande
explicitement au système de corriger certains de ses comportements)
ou bien non-supervisée (en observant les interactions de l'usager
avec le système de formation).
Jean-Yves Potvin est associé au Centre de Recherche sur les Transports
et s'intéresse à l'intégration des techniques propres
à la recherche opérationnelle, aux systèmes évolutifs
et aux systèmes d'apprentissage automatique, afin de résoudre
des problèmes complexes d'optimisation combinatoire, surtout dans
le domaine des transports. En particulier, il s'intéresse à
l'utilisation des réseaux de neurones, des algorithmes génétiques
et de la programmation génétique dans le but de générer
des routes optimales pour des véhicules de transport (e.g. cueillette
et livraison de courrier ``express'', distribution de biens à des
clients à partir d'un dépot central, etc.).
Publications
Dernière modification: 30 octobre 1995
Yoshua BENGIO (bengioy@IRO.UMontreal.CA) et
Jocelyn CLOUTIER (cloutier@IRO.UMontreal.CA)