Les instances Amazon EC2 DL1 sont désormais généralement disponibles

Amazon Web Services (AWS) a annoncé la disponibilité publique des instances DL1 d’Amazon Elastic Compute Cloud (Amazon EC2), un nouveau type d’instance pour la formation de modèles de machine learning. Les instances DL1 sont alimentées par les accélérateurs Gaudi de Habana Labs, une société Intel. Ceux-ci offriraient un rapport prix/performances jusqu’à 40 % meilleur pour la formation de modèles d’apprentissage automatique que les instances Amazon EC2 alimentées par GPU les plus récentes.
À l’aide d’instances DL1, les clients AWS peuvent se former modèles d’apprentissage automatique pour les cas d’utilisation, notamment le traitement du langage naturel, la reconnaissance et la classification d’objets, la détection des fraudes, les moteurs de recommandation et de personnalisation, le traitement intelligent des documents, les prévisions commerciales, etc. Les instances DL1 sont accessibles à la demande sans obligation initiale grâce à une approche d’utilisation à la carte.
Utilisation des nouvelles instances DL1 Accélérateurs Gaudi conçu en particulier pour améliorer la formation des modèles d’apprentissage automatique en offrant une meilleure efficacité de calcul à un coût inférieur à celui des GPU à usage général. Jusqu’à huit accélérateurs Gaudi, 256 Go de mémoire à bande passante élevée, 768 Go de mémoire système, des processeurs Intel Xeon Scalable (Cascade Lake) propriétaires d’Amazon de 2e génération, des performances réseau de 400 Gbit/s et jusqu’à 4 To de stockage NVMe local sont tous inclus dans l’instance DL1.
Modèles d’apprentissage automatique
Pour la formation de modèles d’apprentissage automatique typiques, ces avancées se traduiraient par des performances tarifaires jusqu’à 40 % supérieures à celles du dernier processeur GPU. Instances Amazon EC2. Les clients peuvent démarrer avec les instances DL1 « rapidement et facilement » à l’aide du SDK Habana SynapseAI inclus, qui est intégré aux principaux frameworks d’apprentissage automatique (par exemple, TensorFlow et PyTorch). Cela leur permet de migrer « de manière transparente » leurs modèles de machine learning existants exécutés sur des instances basées sur GPU ou CPU vers des instances DL1 avec un minimum de modifications de code.
Les développeurs et les scientifiques des données peuvent également commencer avec des modèles de référence optimisés pour les accélérateurs Gaudi, qui sont disponibles dans le référentiel GitHub de Habana et incluent des modèles populaires pour la classification d’images, la détection d’objets, le traitement du langage naturel et les systèmes de recommandation, entre autres applications.
« L’utilisation de l’apprentissage automatique a explosé. L’un des défis de la formation de modèles d’apprentissage automatique, cependant, est qu’elle est gourmande en calculs et peut devenir coûteuse à mesure que les clients affinent et recyclent leurs modèles », a déclaré David Brown, vice-président d’Amazon EC2, chez AWS. « AWS dispose déjà du plus large choix de calculs puissants pour tout projet ou application d’apprentissage automatique. L’ajout d’instances DL1 dotées d’accélérateurs Gaudi fournit l’alternative la plus rentable aux instances basées sur GPU dans le cloud à ce jour. Leur combinaison optimale de prix et de performances permet aux clients de réduire les coûts de formation, de former plus de modèles et d’innover plus rapidement.
Système AWS Nitro
Les clients peuvent lancer des instances DL1 en utilisant AWS AMI de Deep Learning ou en utilisant Amazon Elastic Kubernetes Service (Amazon EKS) ou Amazon Elastic Container Service (Amazon ECS) pour les applications conteneurisées. Les clients peuvent accéder aux instances DL1 via Amazon SageMaker pour une expérience plus contrôlée, en créant, en formant et en déployant des modèles de machine learning dans le nuage et à la périphérie encore plus facilement et plus rapidement pour les développeurs et les data scientists.
Les Système AWS Nitro, qui est un ensemble de composants de construction qui déchargent de nombreuses tâches de virtualisation traditionnelles sur du matériel et des logiciels spécialisés afin d’obtenir des performances élevées, une haute disponibilité et une sécurité élevée tout en réduisant la surcharge de virtualisation, est disponible pour les instances DL1. Les instances à la demande, les plans d’économies, les instances réservées et les instances ponctuelles sont toutes des options pour acheter des instances DL1. Les instances DL1 sont désormais disponibles dans le AWS Régions USA Est (Caroline du Nord) et USA Ouest (Oregon).