Katie Boswell a passé des années en première ligne pour protéger les infrastructures nationales les plus critiques dans les domaines de l’énergie et des sciences de la vie. Plus tôt dans sa profession, elle a été informée que la haute direction n’était pas pour elle si elle se préparait à devenir maman. Malgré les premières critiques fondées sur le genre, elle a persévéré et maintenant, son expérience la place dans la position idéale pour discuter du renforcement de la sécurité et de la résilience des systèmes et de l’infrastructure.
Elle a parlé au podcast Left to Our Own Gadgets de ce à quoi nous pouvons nous attendre pour la main-d’œuvre de la cybersécurité de demain et de ce qu’elle fait pour aider à améliorer la position des femmes dans les rôles de cybersécurité. En tant que voix éminente de la sécurité de l’IA, Katie a expliqué comment le fait d’encourager les femmes à rejoindre la transformation de la cybersécurité aujourd’hui aide à sécuriser les objets de demain.
L’avenir de la sécurité de l’IA
La révolution actuelle de l’IA se nourrit constamment de nouvelles idées pour un usage professionnel et personnel. L’intégration de ces tout nouveaux modèles dans de nouvelles industries présente également de nombreuses menaces pour ces systèmes robustes.
« L’IA a en fait été introduite dans le courant dominant – et ce sera fini. Les systèmes OT sont extrêmement difficiles Aux États-Unis, nous avons des politiques RCIP pour les entreprises de services publics ainsi que des programmes de modernisation du réseau, où nous réfléchissons à la manière de déplacer l’énergie de manière sûre et efficace », a déclaré Katie. Concernant l’IA, elle a poursuivi : « Tout est fini, et ce n’est pas spécifique au marché. Cela va véritablement changer la méthode avec laquelle nous travaillons tous les jours. »
Cela met une pression supplémentaire sur les organisations car elles acceptent l’IA dans leurs opérations quotidiennes. bataille pour combler leurs postes en cybersécurité. Une chose est claire, la popularité croissante de l’IA oblige le monde de la sécurité des objets à apporter davantage de modifications à ses techniques de sécurité, notamment en essayant de trouver de nouvelles façons d’embaucher de jeunes hommes et femmes en pleine ascension capables de faire face aux obstacles de demain.
Comment rester à jour en matière de sécurité sans entraver l’innovation rapide
« L’innovation est la raison pour laquelle nous sommes dans l’innovation, n’est-ce pas ? » Dit Katie. L’autre côté de cela est de reconnaître que les acteurs de la menace innovent également en permanence.
Les fabricants de gadgets critiques doivent garantir une disponibilité ininterrompue, leur permettant de corriger, d’atténuer et de mettre à niveau la posture de cybersécurité des éléments. « KPMG a récemment lancé un produit appelé Cranium. Cranium va donner aux organisations une visibilité en temps réel sur ce qui se passe avec leurs modèles d’IA et fournir l’accréditation de leur sécurité », ajoute Katie.
Comme l’UE commence à exiger une plus grande transparence dans les conceptions d’IA, nous nous préparons à voir une demande pour une gestion SBOM plus approfondie pour identifier les vulnérabilités entre les composants, la gamme de produits et les unités de l’entreprise – ainsi que pour comprendre comment des conceptions spécifiques sont formées. Les certificats de conformité sont une chose qui peut rassurer les particuliers, les organisations et les gouvernements fédéraux qui souhaitent se protéger et protéger les autres. Cela peut simplement être accompli en comprenant et en normalisant les modèles et les systèmes d’IA avec accès aux données privées.
Comme certains modèles sont formés sur une prédisposition non reconnue envers les femmes ou d’autres groupes, il est très important d’avoir des femmes ingénieures sur le pointe empêchant la dérive et gardant l’algorithme concentré.
« Nous rattrapons la façon dont nous allons gouverner et préserver l’IA face aux menaces nouvelles et croissantes », ajoute Katie.
Atténuer les problèmes de sécurité face à la montée appel de l’IA et de l’apprentissage automatique
Avec d’innombrables cas d’utilisation différents dans l’actualité chaque jour, l’objectif est d’établir la confiance dans les systèmes d’IA. En fin de compte, la sécurité de l’IA est un mélange de compréhension de la façon dont vous utilisez les modèles d’IA, de ce qui se passe avec eux après leur entrée en production et des mesures de sécurité sur lesquelles vous vous appuyez.
L’IA est utilisée depuis un certain temps dans la médication de précision et le soutien des infrastructures critiques. Aujourd’hui, alors que l’IA s’étend à d’autres marchés comme les incendies de forêt, les fabricants de produits liés ont encore du mal à comprendre ce qu’il y a à l’intérieur de leur logiciel d’article. Ils ont besoin de comprendre les dangers associés à ne pas comprendre.
« Les spécialistes de la sécurité doivent comprendre le cycle de vie global de l’IA et le fonctionnement des modèles d’IA et que ces discussions ne font que commencer à se produire dans certaines entreprises, en particulier celles qui se sont impliquées plus récemment dans l’IA », a déclaré Katie.
Soulignant la nécessité pour les organisations qui découvrent l’IA de définir des cadres spécifiques à leurs besoins, leur marché, leur communauté et leurs outils facilement disponibles, Katie a poursuivi : « Le NIST, par exemple, a une IA cadre de gestion des dangers. MIR dispose d’une base de connaissances Atlas. Ces outils sont puissants lorsqu’ils sont appliqués attentivement. Cela va faire une grande différence. »
Comment sécuriser les systèmes d’IA pendant la procédure d’avancement
Les organisations doivent comprendre que les processus de conception protégée doivent être mis en œuvre dès le début. Cela nécessite une collaboration avec d’autres équipes.
Les spécialistes de la sécurité doivent travailler avec les chercheurs de données pour mieux comprendre les problèmes de sécurité divergents, l’identité de confidentialité, la gestion des accès et la protection des détails. Les spécialistes de l’information et de la sécurité ont besoin d’aide pour déterminer si un modèle nécessitera des informations délicates et où ces informations résideront à la fois dans le développement et la production. Tout cela doit être pris en compte pour avoir un écosystème d’IA robuste.
« Les équipes de sécurité doivent comprendre le cycle de vie de l’IA et proposer des suggestions aux chercheurs de données pour garantir que les informations et les modèles d’IA restent protégés.
Le monde d’une IA de demain
Une chose dont nous pouvons être sûrs concernant l’IA, c’est que nous ne pouvons même pas commencer à imaginer où l’innovation nous mènera dans dix ans, vingt ans et au-delà. Pour s’assurer que son plein potentiel est utilisé par les entreprises, les entreprises doivent développer des espaces pour que les originalités s’épanouissent au sein de leur organisation, quelle qu’en soit la source.
Alors que Katie Boswell s’est découverte comme responsable informatique à Manhattan à l’âge de 19 ans, elle comprend que de nombreuses femmes se disent qu’elles ne le sont pas certifiées si elles ne remplissent pas toutes les conditions d’une offre d’emploi. En même temps, les femmes qui postulent de manière significative pour des tâches qu’elles savent pouvoir faire sont une action pour les femmes d’aujourd’hui d’augmenter leur nombre dans le monde de la cybersécurité. /p>
Katie motive les femmes à jeter un œil à leurs réalisations globales et à ne pas hésiter. « Je motive les femmes à étendre leurs objectifs et à sortir de leur zone de commodité. Connectez-vous. Développez votre réseau. Toutes les opportunités qui m’ont été présentées étaient là parce que j’avais un réseau d’individus prêts à m’amener. Et j’étais « Je n’ai pas peur d’affronter de nouveaux obstacles. Mais surtout, n’hésite pas à dire, hé, ça m’intéresse. Je veux essayer », a-t-elle déclaré.
Le de notre point de vue, notre avenir peut en dépendre.
.
Toute l’actualité en temps réel, est sur L’Entrepreneur
