Avec l’intelligence artificielle (IA) et l’apprentissage automatique (ML) servant désormais d’attributs clés pour rendre les systèmes informatiques plus rapides, plus précis et bénéfiques pour les résultats d’une entreprise, l’importance de la transparence dans le fonctionnement de ces composants devient également plus critique . Pourquoi? Les biais peuvent s’infiltrer dans les modèles d’IA/ML tout comme chez les humains, et lorsque c’est le cas, les requêtes peuvent mal tourner et des analyses biaisées peuvent entraîner des résultats de production incorrects.
L’IA explicable est importante pour la confiance, la conformité et la création de modèles d’IA moins biaisés. Les clients et les régulateurs veulent en savoir plus sur le contenu de la boîte noire. La plupart des outils de surveillance laissent des angles morts, alertant les analystes de données des problèmes mais pas de leurs causes.
TruEra, basé à Redwood City, en Californie, qui fournit une suite d’outils de gestion de la qualité de l’IA pour la gestion des performances et de l’explicabilité des modèles, a annoncé aujourd’hui que Hewlett Packard Enterprise y avait investi via Hewlett Packard Pathfinder, le programme de capital-risque de HPE. Cela prolonge le tour de table TruEra de série B de 25 millions de dollars annoncé en mars .
TruEra permet aux entreprises non seulement de mieux comprendre leurs modèles d’apprentissage automatique, mais également pour identifier la cause profonde des problèmes et les contextualiser presque instantanément, a déclaré Ali Wasti, directeur général de Hewlett Packard Pathfinder, à VentureBeat. L’outil, appelé TruEra Monitoring et basé sur la plate-forme de qualité de l’IA de l’entreprise, recherche des mesures de qualité de l’IA, y compris les biais, la stabilité du modèle dans le temps et les fonctionnalités qui causent des problèmes.
