Edge AI embarquée : exécuter l’intelligence artificielle directement sur l’appareil de l’utilisateur

L’Edge AI embarquée est l’exécution d’un modèle d’intelligence artificielle directement sur l’appareil de l’utilisateur. Donc, pas la peine de passer par un serveur distant. Elle s’oppose au cloud AI, où le calcul se fait sur des serveurs externes. Ce qui ouvre notamment droit à trois bénéfices principaux. A savoir : la réduction de la latence, la préservation de la vie privée et le fonctionnement hors connexion.

Désormais, l’intelligence artificielle sort du cloud. Selon Grand View Research, le marché mondial de l’Edge AI est passé de 24,9 milliards de dollars en 2025 à environ 30 milliards de dollars en 2026. De plus, il prévoit une croissance annuelle attendue de 21,7 % jusqu’en 2033. Le matériel (puces, accélérateurs) représente déjà plus de la moitié de ce marché. Ce qui est le signe que l’industrie investit massivement dans le calcul embarqué. Pour un CTO ou un architecte technique, la question n’est plus « faut-il envisager l’Edge AI » mais « quand et pour quels usages l’adopter ». Encore faut-il comprendre le fonctionnement de l’Edge AI, les frameworks disponibles, les techniques d’optimisation et des cas d’usage concrets. AquilApp accompagne des entreprises de toute taille dans l’intégration d’IA embarquée à leurs applications mobiles.

Qu’est-ce que l’Edge AI ?

L’Edge AI est une architecture où le modèle d’intelligence artificielle s’exécute localement. Exemple : sur le smartphone, l’objet connecté ou le navigateur de l’utilisateur. Le terme « Edge » désigne la périphérie du réseau. C’est-à-dire l’appareil final plutôt que le centre de données.

Le calcul s’appuie souvent sur un NPU (Neural Processing Unit), une puce dédiée aux calculs d’intelligence artificielle. D’ailleurs, les smartphones récents intègrent presque tous un NPU, aux côtés du CPU et du GPU classiques. Elle accélère l’inférence. C’est-à-dire l’utilisation d’un modèle déjà entraîné pour produire un résultat, sans nécessiter d’entraînement supplémentaire sur l’appareil.

Où s’exécute l’Edge AI ?

Trois environnements accueillent aujourd’hui l’Edge AI embarquée : 

• Le smartphone reste le cas le plus répandu, avec des modèles embarqués dans une application iOS ou Android. 
• Les objets connectés (capteurs industriels, caméras, wearables) constituent le deuxième environnement, souvent avec des contraintes de mémoire encore plus fortes. 
• Le navigateur web forme le troisième cas. C’est grâce notamment à des technologies comme WebAssembly et WebGPU qui permettent d’exécuter un modèle directement dans une page web, sans installation.

Quelles sont les différences entre Edge AI, edge computing et cloud AI ?

L’edge computing désigne l’infrastructure réseau qui rapproche le traitement des données de leur source, sans forcément impliquer de l’IA. 

L’Edge AI est un cas particulier. En effet, il s’agit spécifiquement de l’exécution de modèles d’intelligence artificielle sur l’appareil. 

A l’inverse, le cloud AI envoie les données vers un serveur distant pour analyse, puis renvoie le résultat.

Comment fonctionne l’inférence locale ? 

Un modèle d’IA s’entraîne presque toujours dans le cloud. C’est là où la puissance de calcul est disponible en abondance. Une fois entraîné, le modèle est converti dans un format optimisé pour l’appareil cible. Cette conversion réduit sa taille et l’adapte au matériel disponible (NPU, GPU mobile, CPU). 

Ensuite, le modèle converti est embarqué dans l’application. Il s’exécute directement sur l’appareil, sans connexion réseau nécessaire à l’inférence. Seules les mises à jour du modèle nécessitent, en général, une nouvelle version de l’application.

Cloud AI vs Edge AI : le tableau comparatif

Le choix entre cloud AI et Edge AI embarquée dépend de contraintes précises. Voici une comparaison sur les six critères qui orientent la décision.

Source : Grand View Research, Edge AI Market Report (2026) ; documentation officielle Google AI Edge.

Le cloud AI convient aux modèles volumineux qui exigent une puissance de calcul importante. Par exemple un grand modèle de langage généraliste. Il reste pertinent quand les mises à jour fréquentes du modèle priment sur la latence.

L’Edge AI s’impose dans trois situations précises :

• L’application doit répondre en quelques millisecondes, sans attente réseau perceptible ;
• Les données traitées sont sensibles (santé, biométrie, données personnelles) et ne doivent pas transiter vers un serveur ;
• L’usage doit continuer à fonctionner sans connexion, en zone blanche ou sur un site industriel isolé.

Une architecture hybride, qui répartit les traitements entre l’appareil et le cloud, reste souvent la solution la plus pertinente pour une application mobile grand public.

Quels frameworks et outils choisir pour l’Edge AI embarquée ? 

Quatre frameworks dominent aujourd’hui le déploiement de modèles sur appareil. Chacun cible un écosystème particulier.

LiteRT (ex-TensorFlow Lite)

Google a renommé TensorFlow Lite en LiteRT en 2024. Le tout s’est fait avec une bascule effective à partir de la version 2.20 de TensorFlow, publiée en août 2025. 

LiteRT reste compatible avec les fichiers au format .tflite. Donc, aucune conversion supplémentaire n’est nécessaire pour les modèles déjà déployés. Désormais, le framework accepte des modèles issus de PyTorch, JAX et Keras, pas seulement de TensorFlow. De plus, il cible l’accélération matérielle sur les puces Qualcomm, MediaTek et les NPU des smartphones récents. Une variante, LiteRT.js, permet d’exécuter des modèles dans le navigateur via WebGPU et WebAssembly.

Core ML

Core ML est le framework d’Apple pour l’exécution de modèles sur iOS et macOS. Il s’intègre directement aux outils de développement Xcode. De plus, il exploite le Neural Engine des puces Apple. Un modèle entraîné avec un autre framework se convertit au format Core ML grâce à un outil de conversion dédié, avant d’être intégré à l’application.

ONNX Runtime

ONNX Runtime exécute des modèles au format ONNX (Open Neural Network Exchange). C’est un format d’échange indépendant du framework d’entraînement d’origine. Un modèle entraîné avec PyTorch ou TensorFlow peut ainsi s’exécuter sur ONNX Runtime sans réécriture. 

Le framework propose plusieurs « execution providers ». Ce sont des modules qui adaptent l’exécution au matériel disponible. Ce qui en fait un choix pertinent pour une équipe qui vise plusieurs plateformes avec une seule base de code.

MediaPipe

MediaPipe propose des pipelines préconstruits pour des tâches courantes : 

• Détection de visages
• Suivi de mains
• Segmentation d’image
• Et, plus récemment, l’inférence de petits modèles de langage sur l’appareil. 

Il convient aux équipes qui veulent intégrer une fonctionnalité de vision par ordinateur ou d’audio sans entraîner leur propre modèle depuis zéro.

Comment choisir son framework pour votre Edge AI embarquée ?

Le choix d’un framework repose sur quatre critères :

1. La plateforme cible (Android, ios, web ou multiplateforme) ;
2. Le support matériel disponible sur les appareils visés (NPU, GPU) ;
3. L’écosystème technique déjà en place dans l’équipe (modèles pytorch, tensorflow, etc.) ;
4. Le besoin ou non de pipelines prêts à l’emploi plutôt qu’un modèle sur mesure.

Quels sont les cind cas d’usage concrets de l’Edge AI ? 

L’Edge AI embarquée est conseillée en cas de : 

1. Inspection visuelle offline : un opérateur industriel photographie une pièce avec une tablette. Le modèle embarqué détecte les défauts sans connexion réseau. Ce qui est utile dans un entrepôt ou un atelier mal couvert par le Wi-Fi.
2. Recommandation produit en temps réel : une application e-commerce ajuste ses suggestions pendant la navigation, sans attendre de réponse serveur. De quoi assurer une expérience plus fluide et un taux de conversion potentiellement plus élevé.
3. Assistant vocal embarqué : la reconnaissance vocale s’exécute sur l’appareil. Ce qui réduit la latence perçue par l’utilisateur. De plus, cela permet un fonctionnement même en zone blanche, sans envoyer d’enregistrement audio à un serveur.
4. Reconnaissance d’image en santé ou en agriculture : un modèle embarqué identifie une anomalie sur une photo (lésion cutanée, maladie d’une plante) directement sur le terrain, sans transmettre d’image sensible à un serveur distant.
5. Détection d’anomalies sur capteurs IoT : un capteur industriel analyse localement ses propres données. Il ne transmet une alerte que si une anomalie est détectée. Ce qui réduit la consommation réseau et énergétique de l’ensemble du parc de capteurs.

Comment optimiser des modèles pour l’Edge AI ? 

Un modèle entraîné dans le cloud est souvent trop volumineux pour un appareil mobile. Trois techniques permettent de le réduire, seules ou combinées.

Quantization

La quantization réduit la précision numérique des poids du modèle. Exemple de 32 bits à 8 bits. Généralement, cette conversion divise la taille du modèle par quatre, avec une perte de précision limitée dans la majorité des cas d’usage. 

C’est souvent la première optimisation appliquée. En effet, elle est la plus simple à mettre en œuvre avec les outils fournis par LiteRT ou Core ML.

Pruning

Le pruning supprime les connexions du réseau de neurones qui contribuent peu au résultat final. Le modèle élagué conserve l’essentiel de sa performance avec une structure plus légère. C

Néanmoins, cette technique demande un réentraînement partiel. De quoi vérifier que la précision reste acceptable après suppression des connexions.

Distillation

La distillation entraîne un modèle « élève », plus petit, à reproduire le comportement d’un modèle « professeur » plus volumineux. Le modèle élève hérite d’une partie de la performance du modèle d’origine. Le tout se fait dans un format compatible avec les contraintes de mémoire et de calcul d’un appareil mobile.

Cependant, cette technique demande davantage de travail d’entraînement en amont. Ce qui ne l’empêche pas d’offrir souvent le meilleur compromis taille/précision pour des cas d’usage exigeants.

Dans tous les cas, ces trois techniques se combinent fréquemment dans un même projet. Tout dépend du compromis recherché entre taille du modèle, vitesse d’inférence et précision.

Quelles sont les limites et les bonnes pratiques de l’Edge AI ? 

Pourtant, l’Edge AI embarquée n’est pas une solution universelle. En effet, trois limites doivent être anticipées dès le cadrage du projet.

• La mémoire et la puissance de calcul restent contraintes par l’appareil. Un modèle trop volumineux, même optimisé, peut ralentir l’application ou consommer trop de batterie sur des appareils d’entrée de gamme.
• La fragmentation du parc matériel complique les tests. Android compte des milliers de références d’appareils, avec des NPU de générations différentes. Un test sur un seul modèle de smartphone ne garantit pas un comportement identique sur l’ensemble du parc visé.
• La mise à jour du modèle dépend du cycle de publication de l’application. Ce qui est contraire au cloud AI, où un modèle se met à jour côté serveur en continu. Un modèle embarqué n’évolue qu’au rythme des mises à jour de l’application, sauf à mettre en place un mécanisme de téléchargement de modèle à distance.

Sachez aussi que vous pouvez intégrer l’IA dans une application existante. Consultez notre autre article pour plus de conseils. 

Comment déployer de l’Edge AI avec AquilApp ? 

Vous souhaitez intégrer l’IA dans votre développement logiciel ? Cela suppose un cadrage technique en amont. Donc, un choix du framework, des test des contraintes matérielles réelles et une validation de la précision du modèle après optimisation.

AquilApp accompagne les porteurs de projet sur l’ensemble de la chaîne :

• Cadrage de la faisabilité technique : identifier si le cas d’usage justifie réellement l’Edge AI, ou si une architecture hybride avec le cloud reste préférable.
• Sélection du framework adapté à la plateforme cible et au matériel visé.
• Optimisation du modèle (quantization, pruning, distillation) pour respecter les contraintes de mémoire et de batterie de l’appareil.
• Intégration dans l’application et tests sur un panel représentatif d’appareils réels, pas uniquement sur émulateur.
• Maintenance post-lancement (TMA), pour suivre les mises à jour des frameworks et des systèmes d’exploitation.

Notre équipe travaille avec des startups qui embarquent leur premier modèle et des grands comptes qui migrent une fonctionnalité existante du cloud vers l’appareil, pour des raisons de coût, de latence ou de conformité.

Conclusion

L’Edge AI embarquée déplace l’exécution des modèles d’intelligence artificielle du cloud vers l’appareil de l’utilisateur. Elle répond à trois besoins précis : 

• Réduire la latence
• Protéger la confidentialité des données 
• Et garantir un fonctionnement hors ligne. 

Les frameworks LiteRT, Core ML, ONNX Runtime et MediaPipe couvrent l’essentiel des cas d’usage mobiles actuels. La quantization, le pruning et la distillation permettent d’adapter un modèle aux contraintes matérielles d’un smartphone ou d’un objet connecté. 

Attention cependant, ce choix technique se décide au cas par cas. Tout dépend de la sensibilité des données, des contraintes de connexion et du budget disponible pour le développement. 

Pour aller plus loin sur l’infrastructure réseau associée, consultez notre article sur l’edge computing et le traitement des données au plus près. AquilApp accompagne les entreprises dans le cadrage et le développement de leurs applications mobiles.

Vous portez un projet d’Edge AI ? Demandez une étude de faisabilité à notre agence de création d’application mobile.