Un dispositif neuronal artificiel pourrait réduire la consommation d’énergie et la taille du matériel de réseau neuronal –

  • FrançaisFrançais



  • Entraîner les réseaux de neurones à effectuer des tâches, telles que la reconnaissance d’images ou la navigation dans des voitures autonomes, pourrait un jour nécessiter moins de puissance de calcul et de matériel grâce à un nouveau dispositif à neurones artificiels développé par des chercheurs de l’Université de Californie à San Diego. L’appareil peut exécuter des calculs de réseau neuronal en utilisant 100 à 1000 fois moins d’énergie et de surface que le matériel CMOS existant.

    Les chercheurs rapportent leurs travaux dans un article publié le 18 mars dans Nanotechnologie de la nature.

    Les réseaux de neurones sont une série de couches connectées de neurones artificiels, où la sortie d’une couche fournit l’entrée à la suivante. La génération de cette entrée se fait en appliquant un calcul mathématique appelé fonction d’activation non linéaire. C’est une partie essentielle de la gestion d’un réseau neuronal. Mais l’application de cette fonction nécessite beaucoup de puissance de calcul et de circuits, car elle implique le transfert de données dans les deux sens entre deux unités distinctes – la mémoire et un processeur externe.

    Maintenant, les chercheurs de l’UC San Diego ont développé un appareil de taille nanométrique qui peut exécuter efficacement la fonction d’activation.

    «Les calculs de réseaux neuronaux dans le matériel deviennent de plus en plus inefficaces à mesure que les modèles de réseaux neuronaux deviennent plus grands et plus complexes», a déclaré Duygu Kuzum, professeur de génie électrique et informatique à la UC San Diego Jacobs School of Engineering. «Nous avons développé un seul neurone artificiel à l’échelle nanométrique qui implémente ces calculs dans le matériel d’une manière très économe en énergie et en surface.

    La nouvelle étude, dirigée par Kuzum et son doctorat. L’étudiant Sangheon Oh, a été réalisé en collaboration avec un centre de recherche DOE Energy Frontier dirigé par Ivan Schuller, professeur de physique à l’UC San Diego, qui se concentre sur le développement d’implémentations matérielles de réseaux de neurones artificiels écoénergétiques.

    L’appareil implémente l’une des fonctions d’activation les plus couramment utilisées dans la formation des réseaux neuronaux appelée unité linéaire rectifiée. La particularité de cette fonction est qu’elle nécessite un matériel capable de subir un changement progressif de résistance pour fonctionner. Et c’est exactement ce pour quoi les chercheurs de l’UC San Diego ont conçu leur appareil: il peut passer progressivement d’un état isolant à un état conducteur, et cela avec l’aide d’un peu de chaleur.

    Ce commutateur est ce qu’on appelle une transition Mott. Il se déroule dans une couche de dioxyde de vanadium d’une épaisseur de nanomètres. Au-dessus de cette couche se trouve un appareil de chauffage à nanofils en titane et en or. Lorsque le courant traverse le nanofil, la couche de dioxyde de vanadium se réchauffe lentement, provoquant un passage lent et contrôlé d’isolant à conducteur.

    “Cette architecture d’appareil est très intéressante et innovante”, a déclaré Oh, qui est le premier auteur de l’étude. En règle générale, les matériaux dans une transition de Mott subissent un passage brusque d’isolant à conducteur parce que le courant passe directement à travers le matériau, a-t-il expliqué. “Dans ce cas, nous faisons passer du courant à travers un nanofil au-dessus du matériau pour le chauffer et induire un changement de résistance très progressif.”

    Pour mettre en œuvre le dispositif, les chercheurs ont d’abord fabriqué un tableau de ces dispositifs dits d’activation (ou neurones), ainsi qu’un tableau de dispositifs synaptiques. Ensuite, ils ont intégré les deux baies sur une carte de circuit imprimé personnalisée et les ont connectés ensemble pour créer une version matérielle d’un réseau neuronal.

    Les chercheurs ont utilisé le réseau pour traiter une image – dans ce cas, une image de la Geisel Library de l’UC San Diego. Le réseau a effectué un type de traitement d’image appelé détection de bord, qui identifie les contours ou les bords des objets dans une image. Cette expérience a démontré que le système matériel intégré peut effectuer des opérations de convolution qui sont essentielles pour de nombreux types de réseaux de neurones profonds.

    Les chercheurs affirment que la technologie pourrait être encore étendue pour effectuer des tâches plus complexes telles que la reconnaissance faciale et d’objets dans les voitures autonomes. Avec l’intérêt et la collaboration de l’industrie, cela pourrait arriver, a noté Kuzum.

    “Pour le moment, c’est une preuve de concept”, a déclaré Kuzum. «C’est un système minuscule dans lequel nous n’avons empilé qu’une seule couche de synapse avec une seule couche d’activation. En empilant plusieurs d’entre elles ensemble, vous pourriez créer un système plus complexe pour différentes applications.»

    Ce travail a été soutenu par l’Office of Naval Research, Samsung Electronics, la National Science Foundation, les National Institutes of Health, une bourse Qualcomm et le US Department of Energy, Office of Science via un Energy Frontier Research Center.

    Source

    N'oubliez pas de voter pour cet article !
    1 Star2 Stars3 Stars4 Stars5 Stars (No Ratings Yet)
    Loading...

    Laisser un commentaire

    Votre adresse e-mail ne sera pas publiée.