AIが個人の画像を操作するリスク

人工知能（AI）の発達は、世界中のアーティストの仕事を脅かすだけでなく、インターネットユーザーの画像がさまざまな方法で操作される危険にもさらしています。

Các công cụ AI dễ dàng tạo ra các sản phẩm công nghệ giả. (Ảnh minh họa)

AI ツールは偽のテクノロジー製品を簡単に作成します。（図）

「ディープフェイクの時代」

こうしたプラス面とは裏腹に、AI は悪意のある人の手に渡ると、個人のソーシャルメディアアカウントから画像を簡単に盗み、望ましくない参照資料に変えてしまう可能性があります。たとえば、ポルノサイトでは個人の画像を同意なしに使用することがあります。

「私たちはディープフェイクの時代にいる」とマサチューセッツ工科大学の研究者ハディ・サルマン氏は語った。「今では誰でも画像や動画を操作して、実際にはしていないことを『やらせる』ことができます。」

ディープフェイクとは、「ディープラーニング」と「フェイク」という言葉を組み合わせたもので、AIを使って音声、画像、さらには動画の形で偽のテクノロジー製品を作成する手法です。

わずか数秒で、いくつかの簡単なコマンドを実行するだけで、AI は「悪者」が望むあらゆる画像を作成できます。たとえば、誰かが AI にバレンシアガのジャケットを着た教皇の写真を作成するように依頼し、その写真が偽物だと判明する前にインターネットに投稿するといったことも可能です。

AI テクノロジーは、特定のアーティストのスタイルで芸術作品を作成する能力でもユーザーを驚かせます。たとえば、有名な芸術家ヴィンセント・ヴァン・ゴッホのスタイルで描かれたような猫の絵を作成できます。

ビジュアルアーティストにとって、これらのツールは、AI モデルが彼らの独自のスタイルを模倣し、許可なくアートワークを作成するため、彼らの仕事を失わせるリスクがあります。

AIプロペラ

ドイツのシュトゥットガルトに住むエヴェリン・フレーリッヒさんは、AIの行き過ぎに対抗し、オンライン上の視覚作品を操作から守る方法を模索するアーティストの一人だ。

最近、フレーリッヒさんは、AIモデルの悪用を防ぐためにシカゴ大学（米国）のコンピューター科学者によって開発された「Glaze」というツールについて知りました。

シカゴ大学のコンピューターサイエンス教授であり、Glazeプロジェクトの主任研究者の一人であるベン・ジャオ氏は、このツールはアーティストのユニークな作品をAIモデルのトレーニングから保護することを目的としている、とCNNに語った。

Glaze ソフトウェアは、機械学習アルゴリズムを使用して、デジタル画像に肉眼では見えない小さな変更を加え、オンライン環境で作品の保護層を作成し、AI モデルを欺いて作者のスタイルをコピーできないようにします。

Glaze のおかげで、芸術作品は「透明マントで覆われ」、AI が画像を「読み取る」ことを防ぎます。

例えば、アーティストはGlazeに通した自分の油絵の画像をアップロードできると趙氏は説明した。 AI モデルが絵画を「読み取る」とき、それは木炭のスケッチであると認識されますが、人間はそれを油絵であるとすぐに認識できます。 Glaze を実行した後、アートワークは AI の目に大きく異なって見えるようになります。

Zhao 氏のチームは今年 3 月に Glaze の最初のバージョンをリリースし、このツールのダウンロード数は 100 万回を超えました。先週、チームはGlazeの無料オンライン版をリリースしました。

チームは、特定の規制や法律が制定されるまで、Glaze ツールがアーティストの著作権の保護に役立つことを期待しています。

趙氏によると、Glazeを導入して以来、声優、小説家、ミュージシャン、ジャーナリストからの問い合わせが増えているという。彼らは皆、彼のチームに連絡を取り、自分たちの分野向けの Glaze のバージョンについて尋ねました。

カリフォルニアを拠点とするビジュアルアーティストのジョン・ラム氏は、自身のオンラインアート作品が AI モデルのトレーニングに利用されるのを防ぐために Glaze ツールを使用しており、現在はオンラインで共有するすべてのアート作品にこのアプリを使用しているという。

彼によれば、長年、彼のようなアーティストは、誇りとしてインターネット上に最高解像度の作品を投稿してきたという。「フルHD写真の精細さと素晴らしさを、ぜひ皆さんに見ていただきたい。しかし、アーティストたちは、自分の作品がAIモデルに「食べられ」てしまう可能性があることを知りません。AIモデルは彼らのスタイルを模倣し、不公平な競争にさらされる可能性があるのです。」

「今、私たちの高解像度の作品をAIマシンに取り込み、私たちと同じ分野で競争しようとしている人たちがいることが分かっています。ですから、私たちはより慎重になり、自分たちを守る方法を考え始めなければなりません」と彼は述べた。

サルマン氏と彼のチームは、AIから画像を保護することを目的とした新たなツールをリリースしたばかりだ。「PhotoGuard」と呼ばれるこのアプリを使用すると、ユーザーは画像の上に目に見えない保護層を配置して、AI モデルによる画像の操作を防ぐことができます。

サルマン氏は、PhotoGuardの目標は、すでに作成者によってオンラインにアップロードされた写真を「悪意のあるAI操作」から保護することだと述べた。

PhotoGuard アプリは、人間には知覚できない方法で画像のピクセルを調整することで機能します。しかし、肉眼では感知できないこの変化は十分に強力であり、AI モデルによる画像操作の試みを巧みに回避します。

つまり、PhotoGuard で保護された写真を AI を使って編集しようとすると、結果として得られる写真は「まったくリアルではない」ことになる、とサルマン氏は説明した。