D’après une étude récente menée par la société de cybersécurité Check Point, des escrocs recourent désormais à ChatGPT pour créer des maliciels et du contenu à des fins de phishing.

Certains pirates l’utilisent pour rédiger de faux contenus et créer de faux sites proposant, soit-disant, de « bonnes affaires ». La description rédigée par le robot est précise et sans faute d’orthographe ni de grammaire.

La même technique est utilisée pour générer des messages de hameçonnage et cibler par email un nombre important de personnes en profitant de fuites de données publiées dans le dark web. « Par exemple, un mail de votre fournisseur d’énergie vous informant que le paiement de votre dernière facture n’a pas été reçu suite à la modification du compte bénéficiaire. Le message invite à effectuer le paiement sur un autre compte ».

ChatGPT permet également d’effectuer des appels imitant parfaitement les voix de personnes réelles. Le média Washington Post rapporte notamment qu’un couple a envoyé 15.000 dollars à un escroc. La voix générée par l’intelligence artificielle leur a fait croire qu’il s’agissait de leur fils impliqué dans un grave accident de la route et en prises avec la justice.

D’un point de vue juridique, il n’est pas encore clair, d’après le Washington Post, « si et quand les entreprises à l’origine de ce type de technologies seront tenues responsables des préjudices causés par leur technologie de voix simulée ».