IBM a produit une bibliothèque Python open source, appelée Unpredictability Certification 360 ou UQ360, qui fournit aux concepteurs et aux chercheurs de l’information des algorithmes pour quantifier l’imprévisibilité des prédictions d’apprentissage automatique, dans le but d’améliorer la transparence des conceptions d’apprentissage automatique et la confiance en l’IA.
Facilement disponible auprès d’IBM Research, l’UQ360 vise à résoudre les problèmes qui surviennent lorsque les systèmes d’IA basés sur l’apprentissage en profondeur font des prédictions trop confiantes. Avec la boîte à outils Python, les utilisateurs disposent d’algorithmes pour simplifier le processus de mesure, d’examen, d’amélioration et de communication de l’imprévisibilité des modèles prédictifs. Actuellement, la boîte à outils UQ360 propose 11 algorithmes pour estimer différents types d’incertitudes, collectés derrière une interface utilisateur commune. IBM fournit également des conseils sur le choix des algorithmes et des métriques UQ.
Aussi sur L’Entrepreneur : 8 façons d’améliorer la découverte de votre appareil]
IBM craignait que les prévisions trop confiantes des systèmes d’IA puissent avoir de graves répercussions. Les exemples signalés consistaient en un chatbot ne sachant pas quand une pharmacie ferme, ce qui empêche un patient de recevoir les médicaments dont il a besoin, et l’importance vitale de citations d’incertitude fiables dans la détection de la septicémie. L’UQ expose les limites et les points de défaillance possibles des conceptions prédictives, permettant à l’IA de révéler qu’elle est incertaine et augmentant la sécurité de la diffusion.
Les efforts précédents d’IBM pour renforcer la confiance dans l’IA ont consisté en l’IA la boîte à outils Fairness 360, qui réduit les biais dans les modèles d’apprentissage automatique ; le Adversarial Effectiveness Tool Kit, qui est une bibliothèque Python pour la sécurité de l’intelligence artificielle ; et la boîte à outils AI Explainability 360, qui aide les utilisateurs à comprendre comment les conceptions d’apprentissage automatique anticipent les étiquettes.
Toute l’actualité en temps réel, est sur L’Entrepreneur
