IA et MSP : Naviguer aux confins de la cybersécurité

Les fournisseurs de services gérés (MSP) ont vu leurs offres de services s’élargir considérablement au cours de la dernière décennie, passant de la gestion des systèmes à la défense de première ligne dans un paysage de menaces IT de plus en plus complexes. Cependant, il existe un élément qui prend de l’ampleur dans les workflows de la plupart des MSP : l’intelligence artificielle (IA).

À technologie intelligente, menaces intelligentes

L’IA transforme les secteurs d’activité, mais ses effets ne sont pas tous bénéfiques. En premier lieu, l’IA introduit un certain nombre de menaces de cybersécurité dont l’ampleur et la sophistication ne cessent d’augmenter. Ces dangers découlent de la double facette de l’IA : si elle renforce les capacités défensives, elle procure également aux acteurs de la menace de nouveaux outils puissants pour exploiter les vulnérabilités. La cybersécurité a toujours été une « course aux armements » entre les bons et les méchants. Aujourd’hui, l’IA intensifie la compétition.

L’une des préoccupations majeures est l’utilisation de l’IA pour améliorer les cyberattaques conventionnelles. Les cybercriminels peuvent utiliser des algorithmes de machine learning pour automatiser la découverte des vulnérabilités dans les systèmes, mener des attaques de type brute-force plus efficacement, et même adapter les malwares pour échapper à la détection.

L’IA permet également de créer des campagnes d’hameçonnage convaincantes en générant des e-mails réalistes, des messages vocaux ou des vidéos deepfake qui imitent de vraies personnes avec une précision alarmante. Ces attaques personnalisées, souvent appelées spear-phishing, sont beaucoup plus difficiles à détecter et à contrer.

Comme l’a déclaré à SmarterMSP.com Tom Arnold, expert en cybersécurité et auteur de Digital Detective, les agents d’IA n’ont pas fait leurs preuves au fil du temps. « Cela signifie qu’ils peuvent se fixer sur des conditions erronées et potentiellement manquer des problèmes réels », dit-il, ajoutant que l’IA dépend de l’entraînement. « Autrement dit, un expert est toujours nécessaire pour encadrer et maintenir le système d’IA sur la bonne voie. » Il note également que les changements dans les vecteurs d’attaque peuvent introduire des menaces importantes lorsque l’on s’appuie trop sur l’IA.

IA et cybersécurité entre innovation et vigilance, un équilibre délicat

Lei Gao, directeur de la technologie chez SleekFlow, une plateforme e-commerce génératrice de revenus alimentée par l’IA, explique à SmarterMSP.com que si l’IA offre de nombreuses opportunités, elle présente également des risques spécifiques pour la cybersécurité que les entreprises doivent prendre en compte.

« Par exemple, au sein de SleekFlow, alors que nous intégrons l’automatisation basée sur l’IA dans divers canaux de messagerie, nous avons appris combien il est crucial de protéger les systèmes d’IA contre des attaques par hameçonnage plus sophistiquées qui exploitent l’IA pour créer des messages convaincants et ciblés », observe Lei Gao.

Selon lui, un autre risque significatif réside dans les données sur lesquelles reposent les modèles d’IA. « Si les données d’entraînement sont altérées ou corrompues d’une manière ou d’une autre, une IA peut apprendre des comportements erronés et nuisibles, ce qui peut rendre le processus de prise de décision automatisé vulnérable à l’exploitation. » Ce type de manipulation, connu sous le nom d’attaque par « empoisonnement des données », peut éroder la confiance et compromettre les performances de l’IA.

M. Gao ajoute que si l’IA permet d’automatiser de nombreuses tâches de façon efficace, s’en remettre entièrement à elle sans supervision humaine peut créer des failles de sécurité.

« Nous proposons une combinaison d’automatisation par IA et de contrôles manuels experts pour fournir une couche de sécurité robuste aux interactions clients », explique M. Gao. Alors que l’utilisation de l’IA augmente, les entreprises devraient, selon lui, intégrer les bonnes pratiques de cybersécurité à chaque étape de la conception et de la mise en œuvre de l’IA pour anticiper les nouvelles menaces

A.J. Thompson, directeur commercial de Northdoor, un MSP basé en Angleterre, déclare également que les attaques par empoisonnement de données sont l’une des principales menaces posées par l’IA.

« Les malfaiteurs corrompent les ensembles de données d’entraînement de l’IA avec des informations malveillantes. Lorsque les entreprises utilisent ces modèles d’IA compromis, elles héritent de vulnérabilités ou de biais cachés qui affectent les processus de prise de décision », explique M. Thompson.

Menaces IA à surveiller

Voici d’autres menaces de cybersécurité liées à l’IA évoquées par M. Thompson :

• Campagnes de désinformation à grande échelle : l’IA génère de faux articles d’actualité, des publications sur les réseaux sociaux et même des sites Web entiers pour porter atteinte à la réputation des entreprises. Un concurrent peut ainsi inonder les résultats de recherche avec des avis négatifs générés par l’IA ou des fausses informations concernant l’entreprise de votre client.
• Attaques par injection de prompts : les pirates manipulent les chatbots et les assistants d’IA en intégrant des commandes cachées dans des conversations apparemment anodines. Ces injections peuvent extraire des informations confidentielles ou contourner les restrictions de sécurité intégrées dans les systèmes d’IA.
• Déploiement de l’IA fantôme : les services implémentent des outils d’IA sans supervision de l’équipe informatique – logiciels de copywriting pour le marketing, outils de prospection pour les équipes de vente, chatbots pour le personnel d’assistance, tous basés sur l’IA. Chaque application non autorisée crée des failles de sécurité potentielles.

Comme l’observe M. Thompson, la clé pour les MSP est de trouver un équilibre entre les avantages et les inconvénients de l’IA. « La sécurité de l’IA ne consiste pas à empêcher l’adoption de l’IA, mais à assurer une adoption sûre de l’IA. Les MSP qui parviendront à trouver cet équilibre deviendront des partenaires indispensables plutôt que de simples prestataires de services. »

Trouver le bon équilibre

À mesure que l’IA évolue, les menaces qu’elle introduit évoluent également. Pour les MSP, le défi n’est pas de résister à l’adoption de l’IA, mais de s’assurer qu’elle est mise en œuvre de manière sécurisée et responsable. En combinant l’automatisation intelligente avec une supervision experte et des pratiques de cybersécurité robustes, les MSP peuvent aider leurs clients à exploiter le potentiel de l’IA sans s’exposer à ses risques. Dans cette nouvelle ère, le véritable facteur de différenciation ne sera pas seulement qui utilise l’IA, mais qui l’utilise à bon escient.

Remarque : cet article a initialement été publié sur SmarterMSP.com.