Publié le 13-02-2025
Meta avertit : ils utilisent l'intelligence artificielle pour se faire passer pour quelqu'un d'autre
Meta met en garde contre une fraude amoureuse en ligne alimentée par l'intelligence artificielle générative.
Le géant du numérique, Meta, a averti mercredi dernier de la menace croissante représentée par l'utilisation de l'intelligence artificielle générative dans les escroqueries amoureuses sur internet. Ces outils permettent aux fraudeurs de se cacher derrière une image vidéo générée et un faux son, ce qui leur permet de répondre aux appels vidéo et ainsi de se faire passer pour d'autres personnes. Le responsable des menaces mondiales chez Meta, David Agranovitch, a cité l'exemple d'un groupe de cybercriminels actifs au Cambodge et visant spécifiquement les personnes parlant japonais ou chinois. Des chercheurs de la société OpenAI, créatrice de l'application ChatGPT, ont déclaré que ce groupe utilisait le programme de la start-up pour créer et traduire des contenus, selon Meta. L'objectif principal des fraudeurs est de dépouiller leurs victimes après avoir pris le temps de bâtir des relations et de gagner leur confiance, trouvant progressivement un moyen d'obtenir de l'argent ou des données personnelles qu'ils cherchent à récolter. Ils utilisent tous les réseaux sociaux pour parvenir à leurs fins, bien que Meta dispose de la capacité de détecter seulement une partie de ces activités, selon Agranovitch. Ce groupe repose sur des modèles comportementaux et des signaux techniques plutôt que sur l'analyse d'images pour repérer les fraudes. Il a précisé : « Cela rend nos capacités de détection plus robustes face à l'intelligence artificielle générative. » Meta a averti ses utilisateurs de faire preuve de prudence, expliquant que l'isolement et la dépression qui accompagnent souvent la période hivernale, ainsi que la proximité de la fête de la Saint-Valentin, font de cette période de l'année un moment propice pour les fraudeurs. Rachel Tobac, responsable chez Meta, a conseillé aux utilisateurs de « rester sceptiques sans le montrer » lorsqu'une discussion en ligne prend une tournure romantique, surtout si elle est accompagnée de demandes d'argent en prétextant une urgence ou une opportunité professionnelle. pendant 11 secondes
Meta, le géant du numérique, a mis en garde hier, mercredi, contre le danger croissant que représente l’utilisation de l’intelligence artificielle générative dans les escroqueries romantiques en ligne.
Ces outils permettent aux fraudeurs de se dissimuler derrière une image vidéo générée avec une voix synthétique, leur offrant ainsi la possibilité de répondre aux appels vidéo et d’usurper l'identité d'autrui.
David Agranovich, responsable des menaces mondiales chez Meta, a cité l'exemple d'un groupe de cybercriminels opérant au Cambodge, qui cible spécifiquement des personnes parlant japonais ou chinois.
Selon Meta, des chercheurs d’OpenAI – la société créatrice de l’application ChatGPT – ont indiqué que ce groupe avait utilisé le programme de la start-up pour générer et traduire du contenu.
L’objectif principal des escrocs est de dépouiller leurs victimes, après avoir pris le temps d’établir des relations et de gagner leur confiance, puis de trouver progressivement un moyen d’obtenir de l’argent ou des données personnelles.
Ils utilisent l’ensemble des réseaux sociaux pour atteindre ce but, bien que, selon Agranovich, Meta ne parvienne à détecter qu’une partie de ces activités.
Il a précisé que le groupe se fonde sur l’analyse des comportements et des signaux techniques, plutôt que sur l’examen des images, pour repérer les arnaques. « Cela renforce notre capacité à détecter l’usage abusif de l’intelligence artificielle générative », a-t-il déclaré.
Meta a ainsi averti ses utilisateurs de faire preuve de prudence, expliquant que l’isolement et la dépression, souvent associés à la période hivernale, combinés à l’approche de la Saint-Valentin, créent des conditions favorables pour les fraudeurs.
Rachel Topac, responsable chez Meta, a conseillé aux utilisateurs de rester « méfiants sans le montrer » dès qu’une conversation en ligne prend une tournure romantique, surtout si elle est accompagnée de demandes de fonds, invoquant une urgence ou une opportunité professionnelle.
