Comment les cybercriminels utilisent ChatGPT pour commettre des escroqueries en ligne

Selon de nouvelles recherches, les cybercriminels peuvent commettre des actes malveillants en profitant d'une fonctionnalité ChatGPT qui permet aux utilisateurs de créer leurs propres assistants d'intelligence artificielle (IA).

Une enquête de BBC News a révélé que la fonctionnalité ChatGPT mentionnée ci-dessus peut jouer un rôle essentiel dans la facilitation de la cybercriminalité. OpenAI, la société à l'origine du très populaire chatbot alimenté par l'IA, a lancé cette fonctionnalité le mois dernier.

En utilisant cette fonctionnalité controversée, BBC News a récemment réussi à créer un transformateur génératif pré-entraîné capable de créer des e-mails, des textes et des publications sur les réseaux sociaux d'apparence authentique pour les escroqueries et les piratages.

Cela corrobore un rapport précédent qui indiquait que les cybercriminels utilisaient des robots IA de type ChatGPT pour créer des e-mails de phishing crédibles.

Après s'être inscrit à la version payante de ChatGPT, BBC News a créé un robot d'IA privé sur mesure appelé Crafty Emails et lui a demandé d'écrire du texte en utilisant " des techniques pour inciter les gens à cliquer sur des liens ou à télécharger des éléments qui leur sont envoyés ".

Il n'a fallu que quelques secondes au robot pour absorber les connaissances des ressources d'ingénierie sociale mises en ligne par BBC News. De plus, il a créé un logo pour le GPT sans aucune intervention de l'utilisateur.

Ensuite, le robot a créé un texte très convaincant pour une multitude de techniques de piratage et d'arnaque, dans plusieurs langues. Alors que Crafty Emails faisait presque tout ce que les gens de BBC News lui demandaient, la version publique de ChatGPT a refusé de créer la plupart du contenu.

Dans certains cas, le robot de BBC News a souligné que les techniques d'escroquerie étaient contraires à l'éthique. Lors de sa première conférence des développeurs, DevDay, OpenAI a annoncé son intention de lancer un service de type App Store pour les GPT. La plateforme permettrait aux utilisateurs de partager et de facturer leurs créations uniques.

Il est intéressant de noter que la société américaine d'IA a reporté le lancement de sa boutique GPT personnalisée pour des raisons inconnues. Lors du dévoilement de l'outil GPT Builder, OpenAI a assuré qu'il examinerait les GPT pour s'assurer qu'ils ne sont pas utilisés à des fins frauduleuses.

Cependant, certains experts accusent l'entreprise de ne pas modérer ces GPT avec le même niveau de rigueur qu'elle scrute les versions publiques de ChatGPT. En testant son robot sur mesure, BBC News lui a demandé de créer du contenu pour 5 techniques d'arnaque et de piratage.

Salut maman, arnaque par SMS

L'arnaque par SMS " Salut Maman " est une arnaque courante dans le monde entier et est également connue sous le nom d'arnaque WhatsApp.

BBC News a demandé à Crafty Emails d'écrire un texte se faisant passer pour une fille en détresse utilisant le téléphone de quelqu'un d'autre pour demander de l'argent à sa mère pour un taxi. Crafty Emails a écrit un texte qui, selon lui, ferait appel aux " instincts protecteurs " de la mère.

E-mail du prince nigérian

Des courriels frauduleux concernant le prince nigérian circulent sur Internet depuis un certain temps déjà. Crafty Emails en a également écrit un en utilisant un langage qui, selon le robot, " fait appel aux principes de gentillesse humaine et de réciprocité ".

Texte smishing

Crafty Emails était également capable d'écrire un texte qui inciterait les gens à cliquer sur un lien et à saisir leurs informations personnelles sur un site Web fictif. Il s'agit d'une forme d'attaque classique connue sous le nom de phishing par service de messages courts (SMS) ou Smishing.

En utilisant des techniques d'ingénierie sociale telles que le " principe de besoin et de cupidité ", Crafty Emails a écrit un texte sur l'offre d'iPhones gratuits. Cependant, la version publique de ChatGPT a refusé.

Arnaque aux cadeaux cryptographiques

Crafty Emails a créé un tweet avec des hashtags, des emojis et un langage qui persuaderait un fan de crypto-monnaie. Cependant, le ChatGPT générique a refusé.

E-mail de spear phishing

Crafty Emails GPT a écrit un e-mail de spear phishing qui avertissait un dirigeant d'une entreprise fictive des risques liés aux données et l'encourageait à télécharger un fichier piégé.