Voix clonées et fausses vidéos : l’urgence devient une arme

Les escroqueries utilisant l’intelligence artificielle ne reposent pas uniquement sur la qualité des contenus générés. Elles cherchent surtout à provoquer une réaction immédiate avant que la victime ne prenne le temps de vérifier leur authenticité.

Une voix familière annonce un accident et réclame un transfert d’argent. Une personnalité vante un investissement présenté comme exceptionnel. Un interlocuteur rencontré en ligne construit progressivement une relation avant de solliciter une aide financière. L’intelligence artificielle renforce des mécanismes d’escroquerie déjà connus en rendant les preuves fabriquées plus crédibles. Les obligations de transparence de l’AI Act permettront de mieux identifier certains contenus légitimes générés artificiellement. Elles auront néanmoins peu d’effet sur les fraudeurs, dont la réussite dépend précisément de la dissimulation.

Faire agir avant de laisser réfléchir

Pour Tiberiu Cobzaru, Product Manager chez Bitdefender, la principale menace vient des contenus volontairement soustraits à toute obligation d’identification. « Pour les consommateurs, le principal danger ne vient pas des contenus générés par l’IA qui sont correctement identifiés, mais des contenus malveillants qui échappent volontairement à toute obligation de transparence. Les cybercriminels ne signaleront jamais spontanément que leurs deepfakes ou leurs escroqueries ont été créés à l’aide de l’IA. Qu’il s’agisse d’une voix clonée évoquant une urgence familiale, d’une fausse vidéo d’investissement mettant en scène une célébrité ou encore d’une arnaque sentimentale, les utilisateurs doivent toujours vérifier les contenus suspects avant d’agir. La transparence constitue une première étape essentielle, mais seule une vérification indépendante permettra de combler les failles exploitées par les acteurs malveillants qui choisissent tout simplement d’ignorer les règles. »

Rompre le scénario imposé par l’escroc

Face à un contenu suspect, la première protection consiste à ralentir la décision. Interrompre l’échange et contacter la personne ou l’organisation concernée par un canal connu permet de sortir du scénario construit par le fraudeur.

L’AI Act renforcera la transparence des usages encadrés de l’intelligence artificielle. La protection contre les escroqueries continuera néanmoins de dépendre de la capacité des utilisateurs à vérifier une demande avant d’agir. Plus un message cherche à imposer l’urgence, plus cette vérification devient nécessaire.