Le FBI affirme que l'IA est utilisée à des fins d'extorsion et de harcèlement

Dans un avertissement diffusé cette semaine, le FBI a déclaré avoir récemment observé une augmentation du nombre de victimes de chantage qui disent avoir été ciblées à l'aide de l'IA pour éditer des images par ailleurs normales, tirées de publications en ligne, de messages personnels ou de chats vidéo, en de fausses versions.

Le FBI révèle qui est utilisé pour collecter de l'argent et le faire circuler image 1 — La police espagnole a un jour arrêté un programmeur qui utilisait l'IA pour créer de fausses images de pornographie infantile. Photo : Daily Mail

« Les images sont ensuite envoyées directement aux victimes par des acteurs malveillants à des fins de chantage ou de harcèlement sexuel. Une fois diffusées, les victimes peuvent être confrontées à d'importants défis pour empêcher la diffusion continue du contenu manipulé et le supprimer d'Internet », précise l'avertissement.

Le bureau a déclaré que les images semblaient « fidèles à la réalité », tout en notant que des enfants avaient également été ciblés dans certains cas.

En février, la police espagnole a arrêté un programmeur informatique qui utilisait l'IA pour créer des images horribles d'abus sur mineurs, ce qui est considéré comme l'une des premières arrestations de ce type.

Le FBI n'a pas donné de détails sur les programmes d'IA utilisés pour créer des images sexuelles, mais a noté que les progrès technologiques « améliorent continuellement la qualité, la personnalisation et l'accessibilité de la création de contenu alimentée par l'IA ».

L’édition de photos ordinaires pour créer des images érotiques est presque aussi ancienne que la photographie elle-même, mais l’explosion récente des outils d’IA open source a rendu le processus plus facile que jamais.

Les fausses photos ou vidéos sont souvent impossibles à distinguer des versions réelles. En fait, plusieurs sites Web et réseaux sociaux dédiés à la création et à l’échange d’images sexuelles alimentées par l’IA ont émergé ces dernières années.

Il s’agit là d’un des nombreux risques que l’intelligence artificielle peut représenter pour la société, comme les experts s’en sont récemment inquiétés et ont mis en garde.

Hoang Anh (selon le Daily Mail, Reuters)

Source