• L’IA embarquée est mise en œuvre directement sur des appareils locaux, sans accéder à des serveurs à distance, ce qui améliore la confidentialité des données tout en réduisant la latence et les coûts d’exploitation.
• L’IA embarquée abaisse la barrière d’accès à l’IA pour les clients individuels, ce qui pourrait transformer l’écosystème de l’IA, en élargissant les applications pour les faire passer du domaine professionnel à celui de la vie quotidienne, et en rendant l’a technologie plus accessible.
• Les entreprises liées à l’IA qu’il s’agisse des fournisseurs de semi-conducteurs, de produits électroniques ou d’applications sont vouées à bénéficier de cette tendance.

Microsoft a récemment lancé ses nouveaux ordinateurs portables Surface intégrant l’intelligence artificielle (IA), ravivant ainsi l’intérêt autour des PC IA sur le marché. Outre Microsoft, d’autres grands fabricants de PC ont par ailleurs annoncé leur intention de lancer des PC IA intégrant la nouvelle solution Copilot Plus de Microsoft. Les PC IA dotés de capacités de système sur puce (SoC) sont conçus pour exécuter localement des tâches d’IA générative, ce que l’on appelle également « l’IA embarquée ». D’après une prévision¹, les PC IA dotés de capacités SoC spécifiques et conçus pour exécuter des tâches d’IA générative sans accéder au cloud passeront de près de 50 millions d’unités en 2024 (le marché mondial comptant 250 millions d’unités) à plus de 167 millions en 2027.

Qu’est-ce que l’IA embarquée ?

L’IA embarquée consiste à mettre en œuvre et exécuter des modèles d’IA directement sur des appareils locaux, tels que les smartphones, tablettes, ordinateurs portables, etc., sans accéder à des serveurs à distance. Pour être déployés sur ces appareils, les modèles d’IA entraînés sont compressés afin de s’adapter à des environnements aux ressources limitées. Les modèles sont ensuite généralement convertis en graphiques de réseaux neuronaux, afin de les rendre optimisés pour une exécution sur des appareils et cadres d’IA spécifiques.

Caractéristiques de l’IA embarquée

Si l’IA générative basée dans le cloud, illustrée par ChatGPT, présente des capacités impressionnantes, l’IA embarquée revêt un potentiel unique grâce à ses caractéristiques distinctes :

• Confidentialité des données : Grâce à l’IA embarquée, les utilisateurs peuvent mettre en œuvre des modèles d’IA sans accéder à des serveurs à distance et les données sont traitées localement sur l’appareil. Cette possibilité élimine la nécessité d’envoyer des informations sensibles vers le cloud, réduisant ainsi le risque de violation de données, tout en améliorant considérablement la confidentialité et la sécurité des données des utilisateurs.
• Faible latence : Le traitement s’effectuant sur l’appareil, le délai nécessaire pour transmettre des données entre les périphériques et les serveurs à distance est évité. Cette caractéristique permet des temps de réponse plus rapides, ce qui est essentiel pour les applications en temps réel.
• Faible coût d’exploitation : Pour les fournisseurs d’IA basée dans le cloud, l’augmentation des coûts relatif à l’énergie et à la bande passante constitue un facteur essentiel de la tarification. En éliminant le transport de données, et en transférant le traitement vers des appareils locaux, les fournisseurs de services d’IA peuvent se libérer d’une partie de la consommation d’énergie du centre de données et réduire les coûts liés à la bande passante.

L’IA embarquée change-t-elle la donne ?

À mesure que se développeront les technologies d’IA embarquée, de plus en plus d’appareils numériques intégreront l’IA en temps réel, ce qui permettra aux utilisateurs d’accéder à des solutions d’IA via les smartphones, ordinateurs portables, dispositifs portables, appareils domestiques intelligents, casques de RV/RA, etc. L’IA sera plus accessible pour les individus, grâce à ses avantages en termes de confidentialité, de latence et de fonctionnalité hors ligne. Les scénarios d’application de l’IA s’en trouveront considérablement élargis, passant du monde des affaires à la vie quotidienne, ce qui augmentera considérablement le nombre d’utilisateurs potentiels de l’IA et pourrait modifier l’écosystème de l’électronique grand public.

Par ailleurs, les fournisseurs de services d’IA bénéficieront d’une plus grande flexibilité tarifaire, grâce à un coût d’exploitation moins élevé. En équilibrant les services d’IA entre la version embarquée et celle basée dans le cloud, les fournisseurs pourront optimiser leurs modèles d’entreprise : utilisation de l’IA basée dans le cloud pour les services nécessitant davantage d’évolutivité et de complexité, et recours à l’IA embarquée pour les services nécessitant faible latence et confidentialité. L’actuel modèle de centres de données pourrait être partiellement remplacé par un modèle économique plus souple, permettant à des entreprises de moindre envergure, axées sur des applications d’IA spécialisées, d’exploiter plus d’opportunités.

Entreprises vouées à profiter de la tendance de l’IA embarquée

• Principaux fabricants de puces électroniques : L’IA embarquée nécessite des processeurs haute performance. Les unités de traitement neuronal (NPU) sont des accélérateurs matériels conçus pour exécuter efficacement des tâches d’IA. Elles jouent un rôle crucial dans l’amélioration des performances et de l’efficacité de l’IA embarquée. La demande croissante relative aux NPU pourrait profiter à plusieurs fabricants de puces électroniques. Qualcomm est un leader dans ce domaine avec ses processeurs Snapdragon X Elite et X Plus, qui sont les seuls processeurs répondant aux exigences de performance de Microsoft (> 40 000 milliards d’opérations par seconde) pour le déploiement de la nouvelle solution Copilot Plus sur les ordinateurs portables. De nombreux fabricants d’ordinateurs portables, dont Lenovo, HP et Dell, ont choisi les puces de Qualcomm pour leurs ordinateurs intégrant le nouveau Copilot Plus. Bien qu’Intel et AMD soient à la traîne par rapport à Qualcomm en termes de performance des NPU, elles rattrapent actuellement leur retard. Intel prévoit de lancer au troisième trimestre 2024 son processeur de nouvelle génération, Lunar Lake, qui devrait rivaliser avec l’actuel produit leader de Qualcomm. AMD prévoit également de lancer cette année un processeur offrant une meilleure performance de NPU. Il convient de garder un œil sur cette concurrence entre les géants des puces électroniques dans le domaine des NPU.
• Fournisseurs de cœurs d’IP et d’outils d’EDA : Les entreprises fournissant des cœurs de propriété intellectuelle (IP) et des outils d’automatisation de la conception électronique (EDA) pourraient aussi bénéficier de la tendance de l’IA embarquée. Les outils d’EDA rationalisent l’ensemble du processus de conception, de l’idée initiale jusqu’à la mise en œuvre finale, garantissant ainsi un NPU efficace, fiable et manufacturable. Les cœurs d’IP présentent des composants préconçus, testés et optimisés, qui accélèrent le développement, améliorent les performances et réduisent les risques. Synopsys et Cadence Design Systems sont deux sociétés de premier plan dans ces domaines, elles pourraient être stimulées par la concurrence autour des NPU.
• Géants de l’électronique grand public : Apple et Microsoft sont toutes deux pionnières dans l’intégration de l’IA à leurs principaux produits. Apple a par ailleurs conçu son propre processeur d’accélération de NPU, le M4, pour améliorer les performances de ses produits.

Conclusion

L’IA embarquée est un domaine émergent voué à révolutionner les applications d’intelligence artificielle. Ses caractéristiques majeures, parmi lesquelles la confidentialité des données, la faible latence et le coût d’exploitation peu élevé, la différencient de l’IA basée dans le cloud et lui confèrent le potentiel de transformer l’écosystème de l’IA. À court terme, cette tendance profitera aux entreprises du secteur qu’il s’agisse de fournisseurs de semi-conducteurs, de produits électroniques ou d’applications d’IA. À plus long terme, elle étendra les scénarios d’application de l’IA au domaine de la vie quotidienne, elle abaissera significativement la barrière d’accès pour les clients individuels et elle rendra potentiellement cette technologie disponible pour tous.

¹ IDC : l’IDC prévoit que les PC conçus pour l’intelligence artificielle représenteront près de 60 % des expéditions de PC d’ici 2027.