イーロン・マスクのGrokチャットボットは、ユーザーがテキストからAI画像を作成し、Xに投稿できるようにし始めた。これには、ドナルド・トランプ前米大統領やカマラ・ハリス米副大統領などの政治家の偽画像も含まれる...
他の主流の AI イメージングツールとは異なり、マスク氏の Grok には規制が少ないようです。たとえば、 CNNのテストでは、Grok は簡単に政治家の偽の画像を作成し、有権者を誤解させました。
 |
| チャットボックス Grok によって作成された Elon Musk の画像。 （出典：CNN） |
Xユーザーの中には、有名人が麻薬を吸ったり、漫画のキャラクターが人を殺したり、ビキニ姿の女性の性的画像を描いたGrok作成の画像も投稿している者もいる。
CNNによると、Grok氏は、特に米国大統領選挙が近づくにつれて、AIがインターネット上での誤情報の爆発的な増加を促進する可能性があるという懸念をさらに高めている。
議員、活動家グループ、テクノロジー業界のリーダーたちは、こうしたツールの誤用が有権者に混乱と混沌をもたらす可能性があると警鐘を鳴らしている。
世界の主要なAI企業の多くは、AIベースの画像生成ツールが政治的な誤報の作成に使用されないようにするためのポリシーを導入しているが、研究者らは、ユーザーがルールを回避する方法を見つけることがあるということを発見した。
OpenAI、Meta、Microsoft などのいくつかの企業は、どの画像が AI によって生成されたかを視聴者がわかるようにするテクノロジーやラベルを使用しています。
YouTube、TikTok、Instagram、Facebookなどのソーシャルネットワークも、ユーザーのフィード内のAI生成コンテンツにラベルを付けており、テクノロジーを使って自ら検出したり、ユーザーにいつ投稿したか確認を求めたりしている。
8月16日、AIはGrokに何らかの制限を課したようだ。このツールは現在、政治候補者や有名な漫画キャラクターが暴力行為を行っている画像を生成することを拒否している。
[広告2]
出典: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html
コメント (0)