AI画像ジェネレータはどのように機能しますか?
AI ベースの画像ジェネレーターは機械学習モデルを使用して、ユーザーが入力したテキストを取得し、その説明に一致する 1 つ以上の画像を生成します。これらのモデルをトレーニングするには、何百万もの画像を含む巨大なデータセットが必要です。
AIを使った画像作成が簡単になっています。写真: Ijnet
Midjourney も DALL-E 2 もアルゴリズムの仕組みを具体的に公表していませんが、ほとんどの AI 画像ジェネレーターは拡散と呼ばれるプロセスを使用しています。拡散モデルは、トレーニング データにランダムな「ノイズ」を追加し、これらのノイズ部分を除去してデータを再構築することを学習することによって機能します。モデルは、入力に一致する画像が見つかるまでこのプロセスを繰り返します。
これは ChatGPT のような大規模な言語モデルとは異なります。大規模言語モデルはラベルのないテキスト データでトレーニングされ、それを分析して言語パターンを学習し、人間のような応答を生成します。
一般的な AI では、入力が出力に影響します。ユーザーが特定の肌の色や性別の人だけを画像に含めるように指定した場合、モデルはこれを考慮します。
ただし、これを超えると、モデルはデフォルトで特定の画像を返す傾向もあります。これは多くの場合、トレーニング データの多様性の欠如が原因です。
最近の研究では、専門的なメディア職業（「ニュースアナリスト」、「ニュースコメンテーター」、「ファクトチェッカー」など）やより一般的な職業（「ジャーナリスト」、「レポーター」、「ジャーナリズム」など）を含む、一見一般的な用語をMidjourneyがどのように視覚化するかを調査しました。
調査は昨年8月から実施され、この間のシステムの進捗状況を確認するために6か月後に結果が繰り返されました。研究者らは、この期間中に合計100枚以上のAI生成画像を分析した。
年齢差別と性差別
特定の職業においては、長老は常に男性です。写真: IJN
特定の職種名が明記されていない場合、Midjourney では若い男性と女性の画像のみが表示されます。専門的な役割では若者と老人の両方が描かれますが、老人は常に男性です。
これらの結果は、高齢者は専門職以外の職種には就かない、専門職に就けるのは高齢男性だけ、専門性の低い仕事はたいてい女性向けである、といった仮定を含む多くの固定観念を暗黙のうちに強化するものである。
男性と女性の紹介方法にも顕著な違いがあります。たとえば、女性は若くてシワがありませんが、男性はシワがあっても「許される」のです。
AI は、より流動的な性別表現の例を示すのではなく、性別を二元的に表現しているようにも見えます。
人種差別
「記者」や「ジャーナリスト」の画像には、白人だけが写っていることが多いです。写真: IJN
「ジャーナリスト」、「レポーター」などの用語に対して返されるすべての画像には、白人の画像のみが表示されます。
これは、AI の基礎となるトレーニング データにおける多様性の欠如と過少表現を反映している可能性があります。
階級主義と保守主義
画像内のキャラクターはすべて「保守的な」外見をしています。たとえば、タトゥーやピアス、変わった髪型など、従来の説明と区別できるような特徴を持つ人はいません。
シャツやスーツなどのフォーマルな服を着ている人も多くいます。これらは階級の期待の表れです。この服装はテレビ司会者などの特定の役割には適しているかもしれませんが、必ずしも記者やジャーナリストの一般的な服装を反映するものではありません。
都市計画
地理的な参照はありませんが、画像はすべてデフォルトで市内に設定されています。写真: IJN
場所や地理的なコンテキストを指定していないにもかかわらず、AI が返す画像には、高層ビルやにぎやかな住宅街などの都市空間が含まれています。これは真実ではありません。なぜなら、世界の人口の半分強が都市に住んでいるからです。
時代遅れ
メディア従事者のイメージには、タイプライター、プリンター、ビンテージカメラなどの時代遅れの技術が含まれています。
今日では多くの専門家が同じような見た目をしているため、AI は、説明されている役割をより明確にするために、より差別化されたテクノロジー (時代遅れのものや使われていないものも含む) に依存しているようです。
したがって、独自の AI 画像を作成する場合は、説明を書くときに潜在的なバイアスを考慮してください。そうでなければ、社会が何十年もかけて根絶しようとしてきた有害な固定観念を、うっかり強化してしまうことになるかもしれません。
ホアントン（IJNによる）
[広告2]
ソース
コメント (0)