Threat Spotlight : les attaques des emails ciblent à la fois les humains et l’IA dans le même message
Barracuda Research a mis au jour des attaques par hameçonnage visant à la fois les destinataires humains et les systèmes alimentés par l’IA qu’ils utilisent pour résumer, hiérarchiser et traiter les emails.
Ce qu’il faut retenir
- L’analyse de Barracuda Research montre comment les pirates combinent des tactiques pour manipuler à la fois les utilisateurs humains et leurs assistants d’IA de messagerie dans le même email d’hameçonnage.
- Les êtres humains sont ciblés en utilisant des techniques de Social Engineering, par exemple au moyen de pièces jointes protégées par un mot de passe, tandis que les assistants d’IA sont ciblés par des injections de prompt conçues pour influencer ou supplanter le comportement de l’utilisateur.
- Les organisations doivent sécuriser non seulement les utilisateurs et les boîtes de réception, mais aussi les systèmes d’IA qui ingèrent les données des emails et agissent en fonction de celles-ci.
L’attaque des emails à double cible
Les emails d’hameçonnage classiques sont conçus pour inciter un destinataire humain à cliquer sur un lien, à ouvrir une pièce jointe ou à communiquer des informations.
Alors que les utilisateurs s’appuient de plus en plus sur des assistants d’IA pour résumer leurs emails, hiérarchiser les boîtes de réception, accepter des invitations au calendrier, traiter les tickets d’assistance et les aider à prendre des décisions professionnelles, le modèle des attaques par hameçonnage évolue. Les pirates ont désormais une deuxième cible en ligne de mire : les systèmes d’IA situés entre la messagerie email et l’utilisateur.
Une récente campagne offensive analysée par les chercheurs de Barracuda montre comment de telles attaques associent le Social Engineering traditionnel à l’injection de prompt malveillante.
Anatomie d’un exemple d’email à double cible
À première vue, l’échantillon ressemble à une correspondance interne ordinaire.
Les adresses dans les champs « De » et « À » correspondent à la même boîte aux lettres, le message est associé à un score de spam fiable et provient d’un domaine du secteur public – autant d’éléments qui confèrent à l’email malveillant une légitimité apparente et l’aident à passer le filtrage fondé sur la réputation.
L’email comporte plusieurs couches. Une couche contient le texte et les images que voit le destinataire. Une autre couche contient des instructions malveillantes masquées, appelées injection de prompt, qui ciblent l’assistant d’IA.
Vecteur d’attaque 1 : hameçonnage traditionnel
La première technique est bien connue des professionnels de la sécurité des emails. Le message semble banal et fiable. Il peut provenir d’un domaine d’apparence légitime, faire référence à un processus métier et inclure une pièce jointe. Cette pièce jointe est protégée par un mot de passe, fort opportunément fourni dans le corps de l’email — une tactique qui crée un angle mort pour les contrôles traditionnels de sécurité des emails.
Si l’utilisateur ouvre la pièce jointe avec le mot de passe fourni, l’attaque évolue vers le vol d’identifiants ou la diffusion de malware.
Cependant, si l’utilisateur ne remarque pas l’email, le pirate peut s’appuyer sur l’injection de prompt malveillante dissimulée dans la seconde couche de l’email. L’injection de prompt manipule l’assistant d’IA de l’utilisateur de manière à ce que le résumé de l’email présenté à cette personne marque l’email d’hameçonnage comme étant légitime ou urgent, ce qui incite la personne à ouvrir l’email et à cliquer sur le lien.
Vecteur d’attaque 2 : dissimulation des instructions à l’humain, mais pas à l’assistant IA
Outre l’exemple de manipulation de l’utilisateur ci-dessus, une injection de prompt malveillante peut détourner la réponse de l’assistant et lui ordonner d’ignorer ses instructions précédentes, puis d’envoyer un email urgent demandant le virement de fonds vers un compte spécifié, de divulguer des données ou de présenter une fausse action urgente. Aucune de ces instructions n’est visible pour l’utilisateur.
Selon l’analyse de Barracuda, quatre techniques reviennent fréquemment dans de telles attaques :
1. Texte caché dans les commentaires HTML. Les instructions sont dissimulées dans des balises de commentaire qui ne s’affichent jamais dans un client de messagerie, mais restent présentes dans le code source brut analysé par une IA.
2. Techniques de texte invisible (CSS). Le texte est mis en forme avec une taille de police de zéro pixel, une couleur blanche, ou est complètement masqué, de sorte qu’il n’occupe aucun espace visible tout en existant dans le document lu par le modèle.
Exemples observés par Barracuda lors d’attaques réelles
Dans un exemple, un bloc de texte dissimulé dans un email de facture indique au modèle d’IA chargé de résumer d’ajouter une fausse action prioritaire visant à modifier les coordonnées de paiement du fournisseur, et le résumé compromis incite un employé à virer de l’argent au pirate.
Pour l’assistant IA, le bloc caché intégré à la facture se présente ainsi :
Comment les organisations peuvent se défendre
Aucun contrôle de sécurité ne pourra à lui seul arrêter toutes les variantes de ces attaques. Une protection efficace nécessite plusieurs couches.
Les principales mesures défensives comprennent :
- Nettoyage des entrées visant à identifier et à supprimer les éléments masqués, les commentaires et les caractères invisibles avant que le contenu n’atteigne les systèmes d’IA.
- Détection des injections de prompts pour identifier le langage de contournement des instructions et les schémas suspects.
- Mise en bac à sable de l’IA pour limiter ce à quoi un assistant IA peut accéder ou ce qu’il peut faire.
- Validation des sorties pour examiner les réponses générées par l’IA avant qu’elles ne déclenchent des actions.
- Exigences d’approbation humaine pour les transactions financières, les modifications apportées aux fournisseurs et les autres décisions sensibles.
- Surveillance et journalisation pour identifier les tentatives d'injection répétées et les schémas d'attaque émergents.
Surtout, les organisations doivent veiller à ce que tout contenu externe, quel qu’il soit, soit toujours traité uniquement comme des données, et maintenu séparé des instructions.
L’aspect le plus dangereux de cette menace émergente est à quel point elle semble ordinaire. Un seul email peut désormais véhiculer deux attaques distinctes : l’une visant à convaincre un destinataire d’ouvrir une pièce jointe malveillante, et l’autre visant à manipuler les systèmes d’IA auxquels on fait confiance pour traiter ce message.
À mesure que les assistants d’IA ont intégrés aux tâches du quotidien, les entreprises doivent élargir leur approche en matière de sécurité. Protéger la boîte de réception ne suffit plus. Les systèmes qui lisent, résument et agissent sur le contenu des emails doivent également être protégés.
Comment Barracuda vous aide-t-il à vous protéger contre ces menaces ?
Barracuda offre plusieurs niveaux de défense, à la fois contre les attaques des emails classiques et contre les menaces émergentes utilisant l’IA.
Barracuda Email Gateway Defense aide à identifier et à bloquer les messages suspects, à analyser les pièces jointes dans des environnements sandbox et à appliquer des contrôles aux types de pièces jointes à haut risque, notamment les fichiers protégés par mot de passe.
L’IA comportementale aide à identifier les tentatives d’hameçonnage, la compromission de la messagerie professionnelle, et d’autres attaques susceptibles d’échapper à la détection traditionnelle basée sur les signatures.
Lorsqu’un compte est compromis, la réponse automatisée aux menaces peut rapidement contenir la menace en supprimant les emails malveillants, en désactivant les accès suspects, et en éliminant les indicateurs de compromission.
Combinés aux fonctionnalités de signalement des utilisateurs, à la formation de sensibilisation à la sécurité et aux renseignements sur les menaces, ces contrôles contribuent à renforcer les défenses, tant humaines que techniques.
Ce dont les clients MSP auront besoin ensuite, du back-office à la salle du conseil
Barracuda Research a constaté que l’excellence technique reste essentielle, mais que la croissance future reposera sur l’expertise en IA, la cyber résilience et la capacité à présenter les risques sous l’angle métier.
S’abonner au blog de Barracuda.
Inscrivez-vous pour recevoir des informations sur les menaces, des commentaires sur le secteur et bien plus encore.
Rapport sur le déficit de compétences en cybersécurité : le risque lié à l’IA arrive en tête de liste
L’enquête de Barracuda Research menée auprès de 2 000 responsables de la sécurité révèle que 94 % signalent un déficit de compétences en cybersécurité, alors même que l’IA réduit le nombre de postes de début de carrière dans ce domaine, pourtant essentiels pour former les futurs analystes.