Quand une machine écrit l’arnaque

Ce que le modèle fait

Les systèmes qu’on appelle ici IA sont des modèles de langue. Ils sont entraînés sur d’énormes quantités de texte : sites, articles, manuels, code, et le type de lettres et d’e-mails qui existent déjà en public. Leur tâche est étroite. À partir des mots déjà là, deviner le suivant, puis continuer.

Assez vite, on obtient des paragraphes qui ont l’air pensés. Le modèle ne réfléchit pas à votre sujet. Il n’a aucun dossier sur votre centre des impôts ou votre banque, sauf si quelqu’un y colle ces détails. Il complète un motif, c’est pourquoi le texte peut sembler officiel ou urgent sans que personne ne le « veuille ».

Pourquoi cela sert le crime

Une arnaque convaincante demandait un rédacteur compétent, ou un script pauvre, facile à reconnaître. Un modèle de langue est un rédacteur compétent à la demande. Il peut produire un français qui a l’air d’un ministère, un anglais qui a l’air d’une banque, et beaucoup de variantes du même récit pour que les filtres voient moins de répétition.

Il ne se fatigue pas et n’a pas besoin de traducteur. Une courte consigne du type « écris comme le service client, mentionne une livraison, demande une connexion » devient un message fini en quelques secondes. La personne qui le dirige n’a plus besoin d’être douée pour la langue. Elle doit seulement accepter d’envoyer le résultat.

Ce qui sert le crime, ce n’est pas une machine qui force les systèmes toute seule. C’est une machine qui rend l’e-mail, le SMS et le script d’appel assez bon marché pour tourner toute la journée.

Ce sont les faits divulgués qui font le travail

Un message générique, même fluide, reste facile à ignorer. Ce qui le rend dangereux, c’est un détail vrai à côté de cette fluidité. Une fois qu’un fichier volé contient votre nom, adresse, IBAN, établissement, opérateur ou un numéro de contrat, ces faits peuvent être placés dans la consigne. Le modèle écrit alors une lettre qui les récite comme si un vrai agent avait ouvert votre dossier.

Ce dossier n’affirme pas que les incidents suivis ici ont été commis avec un modèle de langue. Les mêmes champs divulgués qui font déjà marcher le hameçonnage ordinaire font aussi marcher le hameçonnage généré. La machine n’a pas inventé votre IBAN ; une personne l’a fourni. La machine a fait sonner le paragraphe autour comme les impôts.

Les clones de voix et les fausses pages de connexion suivent la même logique. Un modèle qui a assez d’exemples peut imiter un ton ou une mise en page. C’est encore vous qui décidez de rester en ligne ou de saisir un mot de passe.

Ce que le modèle ne peut pas faire

Un modèle de langue n’est pas un pirate hors pair, et ce n’est pas une personne connectée à votre compte. Il ne peut pas valider un paiement. Il ne peut pas lire le code de votre application bancaire, sauf si vous le dictez. Ce que le public rencontrera le plus souvent reste de l’ingénierie sociale : une demande mieux écrite.

Se servir de ces outils pour forcer des systèmes, voler des données ou commettre une fraude est un délit. Cette page n’est pas un mode d’emploi. C’est un guide pour reconnaître le résultat. Le test est le même que pour tout autre contact inattendu. Avez-vous ouvert vous-même le site officiel ? Vous a-t-on demandé de vous dépêcher, de payer, ou de partager un code ? Connaître un vrai détail sur vous n’est toujours pas une preuve d’identité, même quand le français est parfait.