Introduzione pratica all'Edge AI

Ce Tech Talk introduit l’Edge AI, où les modèles entraînés s'exécutent sur des dispositifs locaux tels que des systèmes embarqués ou des ordinateurs périphériques à proximité, au lieu du cloud. Il explore les avantages de cette approche, notamment une latence plus faible, une bande passante réduite, une meilleure confidentialité des données et une fiabilité accrue en cas de problèmes de connectivité. Cette présentation compare le workflow de développement de l'IA pour les systèmes périphériques et embarqués par rapport au déploiement dans le cloud, en soulignant que si le processus global est similaire, davantage d'efforts sont nécessaires pour optimiser et déployer les modèles sur du matériel aux ressources limitées. Des stratégies pratiques, telles que l'élagage, la quantification et la génération automatique de code, visant à adapter les modèles aux processeurs cibles, sont également abordées. Enfin, la présentation souligne l'importance de la robustesse et de la sécurité dans les applications d’Edge AI, en abordant des techniques telles que la détection des écarts de distribution, la vérification formelle et l'intégration de contraintes physiques dans les modèles.