Tracer l’avenir : comment nous utilisons l’IA générative pour renforcer les solutions de sécurité chez Barracuda Networks

Résumé

• Barracuda IA permet aux équipes produit de bénéficier d’une plateforme GenAI évolutive, conforme et facile à utiliser, offrant un accès fluide à plus de 20 modèles d’IA et une intégration rapide des nouvelles technologies.
• Le suivi complet et la surveillance avancée, optimisés par Databricks, offrent une visibilité approfondie sur la prise de décision de l’IA, permettant un dépannage en temps réel, une optimisation des performances et une conformité de sécurité robuste.
• L’innovation continue comprend des API d’évaluation améliorées, un accès aux données démocratisé et une surveillance étendue, garantissant que Barracuda reste à la pointe de la cybersécurité et de la protection des clients basées sur l’IA.

Chez Barracuda, nous innovons sans cesse pour devancer les menaces de sécurité émergentes dans un paysage numérique de plus en plus complexe. En tant qu’entreprise à laquelle des centaines de milliers d’entreprises dans le monde font confiance pour protéger leurs emails, réseaux, applications et données, nous savons que les solutions de sécurité sont d’une importance capitale. La raison d’être de Barracuda est de protéger et d’accompagner ses clients tout au long de leur vie. Comment pouvons-nous tirer parti des technologies d’IA de pointe pour progresser dans notre mission ?

En tant qu’ingénieur principal à la tête de l’initiative Barracuda GenAI, je sais combien il est important de fournir aux équipes produits une plateforme régionale consolidée, évolutive, conforme et économique, tout en leur permettant de créer, d’itérer et de déployer des solutions d’IA en toute confiance. Barracuda IA offre un accès facile à plus de 20 modèles d’IA, avec une prise en charge des derniers modèles ajoutés en quelques jours via des API stables. Nous nous appuyons sur les capacités de traçage avancées de Databricks pour surveiller, dépanner et améliorer notre plateforme d’IA et travaillons activement à l’intégration des solutions LLMOps de Databricks, telles que LLM Judge Metrics et Monitoring, afin de simplifier les opérations LLMOps pour les équipes produit utilisant Barracuda IA.

Puissance du traçage pour Barracuda IA

En cybersécurité, il est vital de comprendre précisément comment les modèles d’IA prennent des décisions afin de maintenir l’efficacité et la confiance. Le traçage offre une visibilité inégalée sur nos applications d’IA, nous permettant de suivre chaque étape du processus décisionnel, de la demande initiale à la réponse finale.

Après avoir vu MLflow LangChain Autologging à l’œuvre lors du Databricks Data + IA Summit, nous l’avons intégré facilement et n’avons cessé depuis d’en tirer des bénéfices.

Le traçage nous permet de :

• Suivez le parcours complet d'une demande à travers notre système
• Identifiez les goulots d'étranglement et les problèmes de performance en temps réel
• Déboguer les interactions complexes entre plusieurs composants d'IA
• Assurer un comportement cohérent dans divers environnements
• Fournir des pistes d'audit à des fins de sécurité et de conformité

En mettant en œuvre un traçage complet sur notre plateforme, nous pouvons rapidement identifier et résoudre les problèmes, optimiser les performances et garantir que nos solutions de sécurité fonctionnent de manière optimale, même lorsque les schémas d’attaque évoluent.

Notre mise en œuvre technique

Barracuda IA repose sur des technologies flexibles et interopérables conçues pour maximiser les performances tout en minimisant les coûts.

Infrastructure API Barracuda IA

Notre API propose des points de terminaison compatibles avec OpenAI et LangChain AIMessage/AIMessageChunk (d’autres seront bientôt disponibles) qui permettent une intégration fluide aux outils et workflows existants. Cette couche de compatibilité permet aux équipes produit d’itérer et d’expérimenter sans se soucier des déploiements ou des modifications de code dans les modèles ou les frameworks agentiques. Dans les coulisses, nous enveloppons soigneusement les interfaces et gérons les traductions via une passerelle API régionale et évolutive déployée via des clusters Kubernetes et développée à l’aide de FastAPI servi par Uvicorn, garantissant un comportement et des performances cohérents tout en maintenant un traçage détaillé.

Interface Barracuda IA

Barracuda IA dispose également d’une application frontend Next.js sécurisée et authentifiée par SSO pour une utilisation plus large de l’IA dans l’ensemble de l’entreprise.

Surveillance et journalisation

Les fonctionnalités de journalisation automatique de MLflow suivent automatiquement toutes les interactions des modèles sans nécessiter de modifications de code importantes. Cette approche de traçage « configurer et ne plus y penser » garantit que nous capturons des données complètes même si notre plateforme évolue.

Traitement et analyse des données

L’intégration de Databricks offre de puissantes capacités d’analyse et de surveillance qui nous permettent de traiter efficacement d’énormes quantités de données de traçage. Pour les traces récentes (de la dernière heure), nous utilisons l’interface utilisateur MLflow pour une analyse immédiate. Pour les anciennes traces exportées, nous avons créé des vues avec DBT pour notre espace Databricks Genie, ce qui nous permet d’extraire des informations et des données analytiques pertinentes en langage naturel.

Scénarios d’utilisation quotidienne

Notre infrastructure de traçage prend en charge divers cas d’utilisation critiques qui nous aident à assurer un excellent niveau de sécurité :

Résolution des problèmes complexes

Lorsque les utilisateurs signalent un comportement inhabituel, nos développeurs peuvent immédiatement rechercher le request_id associé et récupérer la trace correspondante. Ils sont ainsi en mesure de suivre l’intégralité du parcours de la requête dans notre système et identifier précisément où le problème s’est produit.

Surveillance complète des performances

Nous avons développé des tableaux de bord sophistiqués et des rapports quotidiens qui nous offrent une visibilité sur :

• Les modèles d’utilisation par équipe et par modèle
• L’analyse des coûts et les possibilités d’optimisation
• Suivi de l'utilisation des jetons pour l'efficacité
• Métriques de performance du modèle et statistiques de latence

Ces tableaux de bord nous permettent de prendre des décisions d’allocation de ressources fondées sur les données et d’identifier les opportunités d’optimisation.

Détection et prévention des abus

La sécurité consiste à se protéger à la fois contre les menaces externes et les vulnérabilités internes potentielles. Notre système de traçage permet d’identifier les cas d’utilisation abusive, par exemple lorsque des clés de développement sont déployées accidentellement dans des environnements de production.

Gestion des données à grande échelle

Le traitement des données de traçage à grande échelle présente des défis particuliers. Pour les traces très volumineuses contenant des charges de contexte massives (telles que des bases de code étendues ou des copies volumineuses de journaux), nous avons mis en œuvre des stratégies de troncature intelligentes afin de rester dans la limite JSON de 16 Mo du type VARIANT de Databricks tout en préservant les informations les plus critiques.

Nous accordons également la priorité à la confidentialité des données. Pour les traces stockées dans Delta Lake Tables, nous supprimons les informations personnelles identifiables (PII) à des fins de protection des données tout en préservant la valeur analytique de nos données de trace.

Orientations futures

Nous explorons activement plusieurs améliorations prometteuses de notre plateforme Barracuda IA :

Fonctionnalités d’évaluation avancées

L’utilisation d’API d’évaluation et de surveillance figure en bonne place sur notre liste de priorités et sur notre feuille de route hackathon. Nous prévoyons de mettre à disposition ces capacités d’évaluation via les API de notre plateforme, permettant aux équipes de mesurer et d’améliorer la qualité de leurs solutions de sécurité pilotées par l’IA.

Démocratisation de l’accès aux données

Utiliser Databricks Delta Sharing pour permettre aux équipes de réaliser leurs propres analyses sur les données de trace. Elles disposeront ainsi d’informations précises qui les aideront apporter des modifications spécifiques à leurs applications.

Évaluation hors ligne améliorée

Nous développons des capacités d’évaluation hors ligne des données de trace, permettant aux équipes de tester des hypothèses et des améliorations sans impact sur les systèmes de production. Cette approche accélère l’innovation tout en maintenant la stabilité de notre infrastructure de sécurité.

Surveillance élargie

À mesure que nous intégrons de nouvelles fonctionnalités et améliorations à notre plateforme GenAI, nous explorons des moyens d’améliorer nos capacités de surveillance. Nous voulons accélérer l’innovation produit, par exemple en déployant des agents IA sur Databricks qui s’intègrent à notre plateforme GenAI, et étendre la visibilité de notre infrastructure de traçage.

Conclusion

Barracuda IA constitue le socle de l’innovation future chez Barracuda, offrant aux équipes produits la flexibilité, la puissance et la visibilité dont elles ont besoin pour créer la prochaine génération de solutions de sécurité. En centralisant les capacités d’IA, en rationalisant l’observabilité grâce au traçage et en exploitant l’infrastructure évolutive fournie par Databricks, Barracuda IA est devenu une pierre maîtresse qui dynamise bon nombre de nos initiatives produits. À mesure que le paysage des menaces évolue, nous restons déterminés à protéger nos clients à vie en affinant et en développant continuellement cette base d’IA, afin de garantir que chaque solution Barracuda bénéficie d’une innovation robuste, agile et tournée vers l’avenir.