Le nouveau type de réseau neuronal pourrait aider à la prise de décision dans la conduite autonome et le diagnostic médical –

«C’est une voie à suivre pour l’avenir du contrôle des robots, du traitement du langage naturel, du traitement vidéo – toute forme de traitement de données de séries chronologiques», déclare Ramin Hasani, auteur principal de l’étude. “Le potentiel est vraiment significatif.”

La recherche sera présentée à la conférence AAAI de février sur l’intelligence artificielle. Outre Hasani, post-doctorant au Laboratoire d’informatique et d’intelligence artificielle du MIT (CSAIL), les co-auteurs du MIT comprennent Daniela Rus, directrice du CSAIL et le professeur Andrew et Erna Viterbi de génie électrique et d’informatique, et le doctorant Alexander Amini. Parmi les autres co-auteurs figurent Mathias Lechner de l’Institut des sciences et de la technologie d’Autriche et Radu Grosu de l’Université de technologie de Vienne.

Les données des séries chronologiques sont à la fois omniprésentes et vitales pour notre compréhension du monde, selon Hasani. “Le monde réel est une question de séquences. Même notre perception – vous ne percevez pas d’images, vous percevez des séquences d’images”, dit-il. “Ainsi, les données de séries chronologiques créent réellement notre réalité.”

Il cite le traitement vidéo, les données financières et les applications de diagnostic médical comme des exemples de séries chronologiques qui sont au cœur de la société. Les vicissitudes de ces flux de données en constante évolution peuvent être imprévisibles. Pourtant, analyser ces données en temps réel et les utiliser pour anticiper les comportements futurs peut stimuler le développement de technologies émergentes comme les voitures autonomes. Hasani a donc construit un algorithme adapté à la tâche.

Hasani a conçu un réseau neuronal capable de s’adapter à la variabilité des systèmes du monde réel. Les réseaux de neurones sont des algorithmes qui reconnaissent des modèles en analysant un ensemble d’exemples «d’apprentissage». On dit souvent qu’ils imitent les voies de traitement du cerveau – Hasani s’est inspiré directement du nématode microscopique, C. elegans. «Il ne possède que 302 neurones dans son système nerveux», dit-il, «mais il peut générer des dynamiques complexes de manière inattendue».

Hasani a codé son réseau neuronal avec une attention particulière à la façon dont les neurones de C. elegans s’activent et communiquent entre eux via des impulsions électriques. Dans les équations qu’il a utilisées pour structurer son réseau neuronal, il a permis aux paramètres de changer au fil du temps en fonction des résultats d’un ensemble imbriqué d’équations différentielles.

Cette flexibilité est essentielle. Le comportement de la plupart des réseaux de neurones est corrigé après la phase d’apprentissage, ce qui signifie qu’ils ne parviennent pas à s’adapter aux changements dans le flux de données entrant. Hasani dit que la fluidité de son réseau «liquide» le rend plus résistant aux données inattendues ou bruyantes, comme si une forte pluie obscurcissait la vue d’une caméra sur une voiture autonome. «Donc, c’est plus robuste», dit-il.

Il y a un autre avantage de la flexibilité du réseau, ajoute-t-il: «C’est plus interprétable».

Hasani dit que son réseau liquide contourne l’impénétrabilité commune à d’autres réseaux de neurones. «En changeant simplement la représentation d’un neurone», ce que Hasani a fait avec les équations différentielles, «vous pouvez vraiment explorer certains degrés de complexité que vous ne pourriez pas explorer autrement. Grâce au petit nombre de neurones hautement expressifs de Hasani, il est plus facile de scruter la «boîte noire» de la prise de décision du réseau et de diagnostiquer pourquoi le réseau a effectué une certaine caractérisation.

«Le modèle lui-même est plus riche en termes d’expressivité», dit Hasani. Cela pourrait aider les ingénieurs à comprendre et à améliorer les performances du réseau liquide.

Le réseau de Hasani a excellé dans une batterie de tests. Il a devancé de quelques points de pourcentage les autres algorithmes de séries chronologiques de pointe pour prédire avec précision les valeurs futures dans les ensembles de données, allant de la chimie atmosphérique aux modèles de trafic. «Dans de nombreuses applications, nous constatons que les performances sont sûrement élevées», dit-il. De plus, la petite taille du réseau signifiait qu’il a terminé les tests sans un coût de calcul élevé. «Tout le monde parle d’étendre son réseau», déclare Hasani. “Nous voulons réduire, avoir moins de nœuds mais plus riches.”

Hasani prévoit de continuer à améliorer le système et de le préparer pour une application industrielle. «Nous avons un réseau de neurones plus expressif et prouvé qui s’inspire de la nature. Mais ce n’est que le début du processus», dit-il. “La question évidente est de savoir comment étendre cela? Nous pensons que ce type de réseau pourrait être un élément clé des futurs systèmes de renseignement.”

Cette recherche a été financée, en partie, par Boeing, la National Science Foundation, le Fonds autrichien pour la science et Electronic Components and Systems for European Leadership.