Xpdeep

Xpdeep est le premier moteur de deep learning auto-explicable pour une intelligence artificielle alliant à la fois performance, complexité faible et explicabilité compréhensible par les humains. La solution Xpdeep génère simultanément le modèle deep et ses explications complètes, précises et intelligibles. 

Le déploiement récent du deep learning dans les organisations marque une nouvelle étape de la révolution de l’Intelligence Artificielle. Mais les modèles générés par les moteurs de deep learning sont des boîtes noires dont l’opacité et le manque d’explicabilité limitent leur adoption dans de nombreux domaines critiques (défense, santé…) ou règlementés (RGPD et AI Act) touchant à l’intégrité des personnes, à la protection des données, à l’éthique et à la justification des décisions. Par ailleurs, l’absence d’explicabilité et de transparence peut induire un manque de confiance limitant l’usage de ces modèles tant par les professionnels que par le grand public. Du fait de l’absence d’explicabilité des modèles deep, les entreprises se tournent encore vers des solutions moins performantes et plus simples à comprendre. Enfin, le manque d’explicabilité peut constituer un frein au développement rapide de modèles performants, robustes et contrôlables.  

L’explicabilité des modèles deep constitue donc un véritable enjeu stratégique pour les organisations, d’autant qu’elle est réputée antinomique de la performance. Les tentatives d’explications des solutions actuelles alternatives basées sur les méthodes Shap, Lime…, demeurent incomplètes, imprécises et non-robustes. 

La rupture Xpdeep

La vraie rupture du moteur Xpdeep est la génération simultanée du modèle deep et de son explication intelligible, avec des performances déjà égales ou supérieures à celles des moteurs de deep learning standards des GAFAM, à complexité comparable. 

La solution proposée par Xpdeep est générique, elle peut impliquer différentes architectures deep, adresser les tâches majeures de l’IA, pour l’analyse de différents types de données (séries temporelles, images, tabulaire, …). Xpdeep est à ce jour l’unique solution fonctionnelle assurant une restitution complète, claire et précise du fonctionnement et des décisions déployées par les modèles deep appris. 

Avec XPDEEP, la conception de modèles de deep learning auto-explicables est enfin possible ! 

Les avantages d’Xpdeep 

En offrant une connaissance précise du fonctionnement du modèle, Xpdeep permet une collaboration entre toutes les parties prenantes au projet d’IA de deep learning, spécialistes ou non. 

Pour les développeurs/data scientists, Xpdeep permet de faciliter l’optimisation des algorithmes et leur robustesse, en identifiant rapidement les régions sources d’erreurs, et ainsi contribuer à améliorer les performances des modèles appris.  

Xpdeep permet de mettre en évidence et de tracer aisément la présence de biais et de les corriger en amont, favorisant ainsi la conformité éthique et réglementaire des algorithmes auprès des régulateurs ou des responsables de systèmes d’IA.   

Xpdeep permet d’augmenter la confiance des utilisateurs dans des systèmes deep dont les décisions sont transparentes, peuvent être expliquées et sont justifiées, favorisant ainsi l’adoption de ces systèmes d’IA par les utilisateurs. 

Enfin, Xpdeep permet également d’identifier les sources de données non nécessaires à l’apprentissage des modèles (ex. capteurs ou trackers inutiles), contribuant ainsi à limiter ou réduire l’empreinte carbone des produits développés. 

Intégration d’Xpdeep et visualisation 

Les APIs Xpdeep permettent une intégration rapide dans l’environnement habituel des développeurs (ex. PyTorch/ Tensorflow…) pour la conception de nouveaux modèles deep auto-explicables de type « boîte blanche ».  

Le module de visualisation intégré permet désormais, à différents utilisateurs experts ou néophytes de l’IA, d’accéder à toute la richesse des explications d’un modèle deep appris.