Le chatbot Grok d'Elon Musk a commencé à permettre aux utilisateurs de créer des images IA à partir de texte et de les publier sur X, y compris de fausses images de politiciens comme l'ancien président américain Donald Trump, la vice-présidente américaine Kamala Harris...
Contrairement à d'autres outils d'imagerie IA grand public, Grok de Musk semble avoir moins de réglementation. Par exemple, lors du test de CNN , Grok a facilement créé de fausses images de politiciens, induisant ainsi les électeurs en erreur.
 |
| Image d'Elon Musk créée par chatbox Grok. (Source : CNN) |
Certains utilisateurs de X ont également publié des images créées par Grok, montrant des célébrités fumant de la drogue, des personnages de dessins animés tuant des gens et des images sexualisées de femmes en bikini.
Selon CNN , Grok s'inquiète également du fait que l'IA pourrait alimenter une explosion de désinformation sur Internet, en particulier à l'approche de l'élection présidentielle américaine.
Les législateurs, les groupes d’activistes et les leaders du secteur technologique ont tiré la sonnette d’alarme : l’utilisation abusive de ces outils pourrait provoquer confusion et chaos chez les électeurs.
De nombreuses entreprises d’IA parmi les plus importantes au monde ont mis en œuvre des politiques pour empêcher que leurs outils de génération d’images basés sur l’IA ne soient utilisés pour créer de la désinformation politique, bien que les chercheurs aient constaté que les utilisateurs trouvent parfois des moyens de contourner les règles.
Plusieurs entreprises comme OpenAI, Meta et Microsoft utilisent des technologies ou des étiquettes pour aider les spectateurs à savoir quelles images sont générées par leur IA.
Les réseaux sociaux, notamment YouTube, TikTok, Instagram et Facebook, étiquettent également le contenu généré par l'IA dans les flux des utilisateurs, en utilisant la technologie pour le détecter eux-mêmes ou en demandant aux utilisateurs d'identifier le moment où ils l'ont publié.
Le 16 août, AI semble avoir imposé certaines restrictions à Grok. L’outil refuse actuellement de générer des images de candidats politiques ou de personnages de dessins animés célèbres commettant des actes de violence.
Source : https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html
Comment (0)