Le responsable de la sécurité du Pentagone appelle à accélérer l’innovation plus rapide en matière d’IA

Lorsqu’il s’agit de tirer parti des dernières avancées de l’IA, le principal défi consiste à collecter suffisamment de données pour entraîner un grand modèle de langage (LLM). Un LLM généraliste tel que ChatGPT a été entraîné sur des données sources provenant du Web. Lorsqu’ils sont exposés à de nouvelles données par le biais, par exemple, de techniques RAG (génération augmentée de récupération), il devient alors possible pour ces types de LLM, entre autres capacités similaires, de résumer un rapport d’incident de cybersécurité.

Cependant, grâce aux progrès des moteurs de raisonnement, qui permettent une planification à long terme, il est également possible d’attribuer des tâches à des LLM spécifiquement entraînés sur un ensemble restreint de données vérifiées. Par exemple, Cognition Labs présente en ce moment Devin, un outil d’IA générative capable d’effectuer certaines tâches que lui confient les ingénieurs logiciels.

Les fournisseurs de solutions de cybersécurité cherchent naturellement à ajouter des capacités semblables pour automatiser les tâches, mais personne ne sait à quelle échéance cela peut se produire. En théorie, les fournisseurs de services de sécurité cloud devraient être en mesure de rassembler suffisamment de données pour entraîner un LLM. Cependant, comme l’a souligné M. McKeown, ces avancées ne sont pas aussi significatives que dans d’autres secteurs. Pour le moment, la question n’est pas tant de savoir si les LLM permettront d’automatiser les processus de cybersécurité, mais quand et dans quelle mesure.

À vrai dire, une course aux armements en matière d’IA parmi les fournisseurs de cybersécurité fait rage depuis des années. Beaucoup mettent déjà à disposition un large éventail de capacités d’IA basées sur des modèles d’IA prédictifs et causaux largement utilisés. La course aux capacités d’IA générative va désormais au-delà de la fourniture de capacités probabilistes plus avancées rendues possibles par l’IA générative. Il ne faut toutefois pas oublier que l’IA générative est conçue pour faire apparaître la bonne réponse ou recommandation probable. Dans un domaine où la précision est essentielle, l’IA générative ne remplacera probablement pas les professionnels de la cybersécurité de sitôt.

Quoi qu’il en soit, les rôles au sein des équipes de cybersécurité à l’ère de l’IA vont sans aucun doute se transformer. De nombreuses tâches de routine, qui sont souvent effectuées par le personnel débutant, seront éliminées à mesure que la quantité globale de travail nécessaire continuera de diminuer. Les professionnels de la cybersécurité plus expérimentés pourront attribuer des tâches aux assistants numériques, tâches qui étaient auparavant effectuées par un membre plus jeune de l’équipe.

Plus important encore, les organisations qui n’auront pas été en mesure de mettre en place une défense de cybersécurité robuste en s’appuyant sur des effectifs réduits pourront désormais le faire. De fait, la pénurie chronique de compétences en cybersécurité, un problème majeur depuis toujours dans ce domaine, pourrait s’atténuer.

Comme l’a justement souligné William Gibson, l’avenir est là, mais il est inégalement réparti. Cependant, le rythme auquel les choses s’accélèrent est plus rapide que la plupart des équipes de cybersécurité d’aujourd’hui ne peuvent le concevoir.