Quand l’IA devient complice des escrocs : Google riposte
Et si votre prochain SMS venait… d’une intelligence artificielle mal intentionnée ?
Imaginez recevoir un message sur votre téléphone, apparemment de votre banque ou de La Poste, vous demandant de « régulariser une situation urgente ». Le texte est parfait, sans faute d’orthographe, le ton est professionnel, rassurant même. Sauf que derrière ce message ne se cache ni un conseiller, ni un facteur — mais une IA piratée, mise au service d’escrocs organisés.
C’es exactement ce que Google vient de dénoncer en portant l’affaire devant la justice.
Ce qui s’est passé, expliqué simplement
Google propose une intelligence artificielle qui s’appelle Gemini. Pensez à elle comme à un assistant très doué, capable de rédiger des textes, de répondre à des questions, de traduire… un peu comme un couteau suisse numérique.
Le problème ? Des groupes de cybercriminels — comprenez des escrocs spécialisés dans la tromperie en ligne — ont trouvé le moyen de détourner cet outil pour en faire une machine à produire des SMS frauduleux à grande échelle. Des dizaines, des centaines de messages d’arnaque rédigés automatiquement, personnalisés, convaincants.
Ces messages cherchent à vous pousser à cliquer sur un lien piégé ou à communiquer des informations personnelles (numéro de carte, mot de passe, code reçu par SMS). C’est ce qu’on appelle du phishing — ou « hameçonnage » en français : on vous lance un appât pour vous attraper.
Google a identifié les responsables et a décidé de les poursuivre en justice pour usage abusif de ses outils. Un signal fort : même les géants de la tech ne laissent plus passer ces abus sans réagir.
Zone technique — pour les curieux et les passionnés
🔍 Pour aller plus loin — L’angle qui chatouille les curieux
Ce qui est techniquement fascinant (et inquiétant), c’est le concept de « jailbreak » appliqué aux IA. Comme dans les vieux films de hackers des années 90 où l’on cherchait à s’introduire dans un système fermé, certains groupes testent méthodiquement les limites des IA pour contourner leurs garde-fous éthiques. Gemini, comme ses concurrents, est conçu pour refuser de générer du contenu malveillant — mais avec les bonnes « instructions détournées », ces filtres peuvent être trompés.
On parle ici d’attaques dites « prompt injection » : en formulant les demandes d’une certaine façon, les escrocs parviennent à faire croire à l’IA qu’elle accomplit une tâche légitime. C’est le talon d’Achille actuel de tous les grands modèles de langage, et toute l’industrie travaille dessus. La course entre attaquants et défenseurs n’a jamais été aussi intense — et aussi technique.
✅ Ce que vous pouvez faire dès aujourd’hui
1. Méfiez-vous des SMS avec un lien, surtout s’ils créent une urgence (« votre colis est bloqué », « votre compte sera suspendu »). Aucun organisme sérieux ne vous demandera vos codes par SMS.
2. Ne cliquez jamais directement : tapez vous-même l’adresse du site concerné dans votre navigateur plutôt que de suivre un lien reçu par message.
3. Vérifiez l’expéditeur, mais ne vous y fiez pas aveuglément : les escrocs savent imiter des numéros ou des noms d’expéditeurs connus.
4. Parlez-en autour de vous : vos proches moins à l’aise avec le numérique sont les premières cibles. Un mot d’alerte peut éviter bien des dégâts.
5. En cas de doute, signalez : en France, vous pouvez transférer un SMS suspect au 33700, le service national de signalement des spams téléphoniques.
En guise de conclusion
L’intelligence artificielle est un outil extraordinaire — mais comme tout outil puissant, elle peut être mal utilisée. Google réagit, les législateurs s’organisent, et les chercheurs en sécurité travaillent sans relâche. Mais la première ligne de défense, c’est vous.
Alors, une question pour la communauté : avez-vous déjà reçu un message qui vous a semblé « trop bien écrit pour être honnête » ? Racontez-nous en commentaire — votre expérience pourrait en alerter d’autres. 👇
Source : PhonAndroid
