テクノロジー業界はAI生成画像の識別を目指している

[広告_1]

TruepicのCEO、ジェフリー・マクレガー氏は、この事件は氷山の一角に過ぎないと語った。マクレガー氏は、ソーシャルメディアにはAIが生成したコンテンツが大量に存在することになり、我々はそれに備えていないと語った。

CNNによると、TruepicはTruepic Lensを通じて作成時にメディアを認証する技術を提供することでこの問題を解決したいと考えている。データ収集アプリは、画像の作成に使用された日付、時間、場所、デバイスをユーザーに伝え、デジタル署名を適用して、画像が自然画像か AI 生成画像かを検証します。

2015年に設立されたマイクロソフトの支援を受ける企業トゥルーピックは、NGOからメディア企業、さらには請求が正当であるかどうかを確認したい保険会社まで、同社に関心が寄せられていると述べた。

マクレガー氏は、あらゆるものが偽造可能となり、人工知能が品質とアクセス性の点で最高潮に達したとき、私たちはもはやオンライン上の現実が何なのか分からなくなると述べた。

Truepicのようなテクノロジー企業は、何年もの間、オンライン上の誤情報と戦うために取り組んできました。しかし、ユーザーのコマンドから画像や文章を生成できる新たな AI ツールの登場により、緊急性が高まっています。今年初めには、フランシスコ教皇がバレンシアガのダウンジャケットを着ている姿やドナルド・トランプ前米大統領が逮捕される姿の偽画像が広く共有された。どちらの事件も、AIの潜在的な危険性について何百万人もの人々に混乱を招いた。

一部の議員は現在、テクノロジー企業に対し、AI生成コンテンツにラベルを付けることによってこの問題に対処するよう求めている。欧州委員会（EC）のヴェラ・ヨウロバ副委員長は、グーグル、メタ、マイクロソフト、TikTokなどの企業が偽情報対策に関する欧州連合（EU）の自主行動規範に加盟していると述べた。

自社製品に生成AIを実装している企業を含め、ますます多くのスタートアップ企業や大手テクノロジー企業が、画像や動画がAIで作成されたかどうかを人々が判断できるようにするための標準やソリューションを実装しようとしています。

しかし、AI技術の進歩は人間が追いつけないほど速いため、これらのソリューションで問題が完全に解決できるかどうかは不明です。 Dall-EとChatGPTの開発元であるOpenAIでさえ、AIが生成した文章を検出するための自社の取り組みが不完全であることを認めている。

ソリューション開発企業は、この問題を解決するために 2 つのアプローチを採用しています。 1 つ目は、AI によって生成された画像がオンラインで作成され共有された後にそれを識別するプログラムを開発することです。もう 1 つは、何らかのデジタル署名を使用して、画像が本物か AI 生成かを示すことに重点を置いています。

Reality Defender と Hive Moderation は最初のアプローチに取り組んでいます。同社のプラットフォームでは、ユーザーはスキャンする画像をアップロードし、その写真が本物か AI によって生成されたものかを示すパーセンテージを示す分析結果を受け取ることができます。

Reality Defenderは、AIが生成したビデオ、オーディオ、画像を検出するために、独自のディープフェイクおよび生成コンテンツフィンガープリンティング技術を使用していると述べている。同社が提供した例では、リアリティ・ディフェンダーはトム・クルーズのディープフェイク画像を表示したが、画像に写っている人物の顔が編集された写真によく見られる歪んでいるため、53％が「疑わしい」と評価された。

これらのサービスには無料版と有料版があります。 Hive Moderation によると、1,000 枚の画像につき 1.50 ドルの料金がかかるとのことです。 Realty Defender 社は、顧客が同社の専門知識とサポートを必要とする場合、さまざまな要因に基づいて製品価格が変動する可能性があると述べています。リアリティ・ディフェンダーのCEOベン・コルマン氏は、AIツールを使えば誰でも偽の写真を作成できるため、リスクは毎月倍増していると語る。

他にもいくつかの企業が、画像が本物か AI 生成かを証明するために、ある種のラベルを画像に組み込む取り組みを行っています。これまでのところ、この取り組みは主にコンテンツの真正性と出所のアライアンス (C2PA) によって推進されてきました。

C2PAは、Adobeのコンテンツ認証イニシアチブ（CAI）と、MicrosoftとBBCが主導するProject Originを統合し、デジタルニュースにおける誤報と戦うことに重点を置いて、デジタルメディアの起源と履歴を認証するための技術標準を作成するために2021年に設立されました。 C2PA に参加している他の企業には、Truepic、Intel、Sony などがあります。

CAI は C2PA の原則に基づいて、企業がコンテンツ認証情報や画像に関する情報を含むメタデータを作成するためのオープンソースツールを提供します。 CAI の Web サイトによると、これにより、作成者は画像の作成方法に関する詳細を透明性を持って共有できるようになります。こうすることで、エンドユーザーは、画像が誰によって、何が、どのように変更されたかというコンテキストにアクセスし、その画像がどの程度本物であるかを自分で判断できるようになります。

多くの企業が C2PA 標準と CAI ツールを自社のアプリケーションに統合しています。 Adobe の Firefly は、Photoshop に追加された新しい AI イメージングツールであり、コンテンツ認証情報機能を通じて C2PA 標準に準拠しています。 Microsoft はまた、今後数か月以内に Bing Image Creator と Microsoft Designer で作成された画像とビデオに暗号署名が追加されることも発表しました。

Googleは5月に「この画像について」機能を発表した。この機能により、ユーザーは画像がGoogleに最初に表示された時期や、どこで見られるかを確認できる。この検索大手はまた、Google AIが生成したすべての画像が、別のウェブサイトやプラットフォームで見つかった場合に「コンテキストを追加」できるように、元のファイルにマークアップを追加すると発表した。

テクノロジー企業がAI生成画像やデジタルメディアの完全性に関する懸念に対処しようとしている一方で、この分野の専門家は、企業が相互に、また政府と協力してこの問題に対処する必要があると強調している。しかし、テクノロジー企業はリスクにもかかわらずAIの開発に競争している。

[広告2]
ソースリンク