DarkBard : le « jumeau maléfique » de Google Bard

Dans le domaine obscur de la cybercriminalité, DarkBard s'est imposé comme un acteur important, représentant un passage vers un territoire qui n'est pas celui de l'OpenAI. Comme son nom l'indique, DarkBard est conçu comme l'homologue sombre de l'IA Bard de Google. Cet outil est apparu à la mi-2023, sur la même vague qui a fait connaître d'autres outils d'IA malveillants tels que FraudGPT et WormGPT. Notamment, le vendeur cybercriminel connu sous le nom de « CanadianKingpin », qui a lancé FraudGPT, a également fait de la publicité pour DarkBard sur les forums du dark web et les chaînes Telegram.

Fonctionnalités de DarkBard

Présenté comme « le jumeau maléfique de Google Bard », DarkBard est conçu pour être une IA malicieuse polyvalente en temps réel, capable de traiter des données en direct provenant du web ouvert, un peu comme Bard lui-même. Cette fonctionnalité améliore son adaptabilité et sa connaissance du contexte dans les attaques, permettant à DarkBard d'intégrer les dernières nouvelles ou informations spécifiques à la cible dans le contenu de phishing ou les scams, ce qui en fait un outil puissant pour le social engineering.

Les fonctionnalités annoncées de DarkBard sont étendues. Il serait capable de générer de la désinformation et du faux contenu, de produire des deepfakes ou d'en faciliter la création, de gérer des communications multilingues et de produire un large éventail de résultats, allant du code à de longs articles. De manière unique, DarkBard est censé s'intégrer à des outils d'analyse d'images (comme Google Lens) pour faciliter les tâches basées sur l'image.

Concrètement, cela signifie que DarkBard pourrait écrire des e-mails de phishing en plusieurs langues, créer du code malveillant, rédiger de faux communiqués de presse convaincants et même analyser ou générer des images, pour contourner le CAPTCHA ou créer de faux documents d'identité, par exemple. Cette gamme de capacités tout-en-un fait de DarkBard un couteau suisse pour les cybercriminels, servant effectivement de co-conspirateur IA à spectre complet qui peut aider dans tous les domaines, du piratage technique aux campagnes d'influence.

Promotion et tarification

DarkBard a été commercialisé dans le cadre d'une suite d'outils d'IA vendus par CanadianKingpin en 2023. Tout comme FraudGPT et « DarkBERT », DarkBard a été proposé par le biais d'un canal Telegram et de messages sur des forums dans le cadre d'un modèle d'abonnement. Selon les rapports de renseignement sur les menaces, le prix de DarkBard a commencé à environ 100 $ par mois, avec des options pour une licence à vie allant jusqu'à 1 000 $. Cette stratégie de prix positionne DarkBard comme un produit de niveau moyen à élevé dans la gamme, légèrement moins cher que DarkBERT, mais plus cher que FraudGPT.

L'angle marketing de DarkBard mettait fortement l'accent sur ses capacités en tant que Bard sans limites, attirant ainsi les criminels qui souhaitaient bénéficier des compétences de Google en matière d'IA sans en subir les contraintes éthiques. Des publicités ont été observées sur divers forums, et un groupe Telegram appelé « TheCashFlowCartel » a été utilisé pour promouvoir ces outils d'IA. Bien que l'image de marque spécifique de DarkBard ait été moins publique, probablement parce que le site était vendu sur les mêmes canaux que FraudGPT, nous pouvons en déduire que les publicités des services de cybercriminalité mettaient en évidence sa capacité à détecter des fuites et des vulnérabilités et à surveiller les sites web et les marchés, le tout alimenté par l'infrastructure de Bard. Sur le papier, il a été commercialisé comme Bard suralimenté pour les cybercriminels.

Utilisation en situation réelle et actualité

Il est crucial de noter que, comme FraudGPT, DarkBard n'a peut-être pas entièrement tenu ses promesses. À la fin de l'année 2023, les entreprises de CanadianKingpin sont devenues silencieuses, leurs canaux Telegram ont été fermés et leurs messages sur les forums ont été supprimés, ce qui laisse présager une possible sortie scam ou une retraite stratégique. Aucun rapport confirmé n'a fait état de l'implication directe de DarkBard dans des cyberattaques spécifiques, ce qui pourrait indiquer une distribution limitée ou une utilisation furtive.

Cependant, le concept de DarkBard reste très pertinent. L'idée d'exploiter l'IA en temps réel pour la cybercriminalité a commencé à se matérialiser sous d'autres formes en 2024. Par exemple, des pirates ont été observés en train de coupler des modèles de langage avec des techniques d'exploration du web pour créer des e-mails de phishing opportuns qui font référence à des nouvelles récentes ou à des annonces d'entreprises. Les fonctionnalités proposées par DarkBard correspondent étroitement à ces tactiques.

Des enquêtes menées auprès des responsables de la sécurité en 2024 ont révélé des inquiétudes croissantes concernant la désinformation alimentée par l'IA et les deepfakes ciblant les entreprises. 20 % des organisations considèrent l'IA des cybercriminels utilisée à des fins malveillantes comme la plus grande menace à l'horizon. Même si DarkBard n'est peut-être pas devenu l'IA criminelle de référence, elle symbolisait la prochaine évolution de la cybercriminalité : l'intégration d'une IA en direct et connectée à Internet dans la boîte à outils des acteurs malveillants.

À l'approche de 2025, les défenseurs devraient anticiper les stratagèmes de phishing et de fraude qui s'appuient de manière dynamique sur des données réelles en temps quasi réel, exactement le type de fonctionnalité défendue par DarkBard.

Conclusion

DarkBard illustre les dangers potentiels de l'IA générative lorsqu'elle est utilisée par des cybercriminels. Dans le cadre de cette série, nous explorerons ensuite PoisonGPT, un outil qui met en lumière les applications les plus sombres de l'IA générative à des fins de désinformation. La compréhension de ces outils et de leurs implications est essentielle pour les organisations qui cherchent à renforcer leurs défenses contre la vague croissante de menaces optimisées par l'IA. Restez à l'affût de notre prochain billet, où nous aborderons PoisonGPT et son rôle dans le paysage des IA malicieuses.