jeudi, 28 mars 2024

CalypsoAI apporte des tests et une validation aux modèles ML utilisés par la TSA

Les modèles de systèmes experts (IA) découvrent progressivement leur place dans des éléments importants des cas d’utilisation d’entreprise et une adoption plus complète à travers le monde.

Un domaine où l’IA découvre une maison reste dans le Transport Security Administration (TSA), dont les tâches consistent à évaluer les bagages dans les aéroports à travers les États-Unis. pour ne citer que quelques efforts, exécutez l’IA pour aider à accélérer le processus de contrôle des bagages.

Une partie du développement de ce système de contrôle consiste à tester et à vérifier l’IA l’intégrité des modèles, à la fois en termes de fiabilité et de capacité à supporter d’éventuelles attaques adverses de l’IA. C’est là que le DHS utilise la technologie VESPR Validate de CalypsoAI.

« Nous nous concentrons en fait sur les tests et la reconnaissance des conceptions d’intelligence artificielle (ML) afin qu’elles puissent être publiées en toute sécurité et fermement », a déclaré le PDG de CalypsoAI, Neil Serebryany. Venture Beat.

Les difficultés de sélection des conceptions d’IA pour une utilisation en production

Une étude de Gartner lancée en août a révélé que seulement la moitié de toutes les conceptions d’IA développées en fait, faites-le passer en production.

Il y a plusieurs raisons à cela, notamment des préoccupations concernant les tests et la reconnaissance. Selon Serebryany, le dépistage et la validation des modèles d’IA doivent tenir compte à la fois des facteurs humains et techniques. Afin d’aider quelqu’un à obtenir la confiance dont il a besoin pour déployer une conception en production, il est nécessaire de résoudre le côté humain. Les éléments humains incluent la capacité d’interagir avec des détails sur où le modèle fonctionne, où il ne fonctionne pas et quelles sont ses vulnérabilités. Sur le plan technique, Serebryany a déclaré qu’il était nécessaire d’aider à rendre les conceptions aussi durables et robustes que possible.

Avant de commencer CalypsoAI, Serebryany avait en fait travaillé au gouvernement fédéral, où il a vu une croissance se concentrer sur l’intelligence artificielle (ML). Ce qu’il a vu à maintes reprises, ce sont des défis de sécurité, consistant en l’exigence de s’assurer que la machine adverse découvrant des attaques n’affecte pas négativement une conception. Les attaques ML contradictoires utilisent diverses techniques pour tromper les modèles afin de créer le résultat souhaité.

Fort besoin commercial de tests et de reconnaissance de l’IA

Le besoin de tests et de validation de l’IA ainsi que la sécurité contre les attaques contradictoires L’IA s’étend au-delà des cas d’utilisation du gouvernement.

Serebryany a déclaré que son entreprise a récemment constaté un besoin croissant pour les entreprises. En réalité, en juillet, Gartner a qualifié l’entreprise de « fournisseur cool » pour ses capacités d’intégration de l’IA dans l’entreprise.

« Les organisations essaient de systématiser la façon dont elles comprennent le risque que leur fabricant découvre des modèles et ont une moyen de vérifier en fait ce risque afin de pouvoir vérifier leurs modèles », a déclaré Serebryany.

Il prévoit que la nécessité de tester et de vérifier l’IA fera partie des pratiques d’audit de nombreuses entreprises pour aider à garantir conformité réglementaire. Il a noté que l’UE commençait à présenter des réglementations pour la conformité à l’IA auxquelles les entreprises devront faire face.

Serebryany déclare que son entreprise voit également un fournisseur d’assurance qui souhaite commencer à concevoir des IA d’assurance. Les compagnies d’assurance doivent être en mesure de comprendre l’efficacité de ces modèles par rapport à un ensemble de conditions de test dans le monde réel.

Comment CalypsoAI teste la résilience des conceptions

Serebryany a expliqué que l’innovation de son entreprise peut convenir à différentes parties d’un flux de travail d’avancement de l’IA.

CalypsoAI dispose d’un ensemble d’avancement d’application logicielle (SDK) qui peut fonctionner avec les procédures de découverte d’appareils pilotées par ordinateur portable Jupyter d’une entreprise. CalypsoAI peut être simplement une étape indépendante de dépistage et de reconnaissance en cours de route.

Serebryany a expliqué que CalypsoAI peut évaluer une conception sans toutes les données de formation. En utilisant un sous-ensemble d’informations, CalypsoAI exécute la conception à travers une série d’attaques contradictoires et de scénarios du monde réel.

 » Beaucoup d’obstacles liés aux tests consistent à identifier les conditions précises dans lesquelles les gens veulent se libérer et à les aider. comprendre quel modèle sera en fait exécuté parce que les conditions sont définies », a-t-il déclaré.

L’objectif de VentureBeat est d’être une place publique numérique pour les décideurs techniques comprendre la technologie d’entreprise transformatrice et négocier. Découvrez nos Briefings.

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici