人工知能アプリケーションのダークサイド

[広告_1]

スタートアップのOpenAIが2022年後半に初のAIアプリケーション「ChatGPT」をリリースした後、AIアプリケーション、特に生成AIの開発競争の波が引き起こされ、生活のあらゆる分野に多くの利便性をもたらしました。しかし、これには多くのリスクも伴います。

プライバシーの侵害

近年、サイバー犯罪者が AI を利用して実在の人物の画像や音声を偽造したビデオクリップを作成し、多くの組織や個人が損害を被っています。一例として、ディープフェイクトリックが挙げられます。

2023年11月末にSumsubが発表した個人情報詐欺レポートによると、ディープフェイク詐欺は2022年から2023年にかけて世界中で10倍に増加しました。これは、世界中で人工 AI アプリケーションが爆発的に増加している時期でもあります。

Status Labsは、ディープフェイクが文化、プライバシー、個人の評判に大きな影響を与えているとコメントした。ディープフェイクをめぐるニュースや注目の多くは、有名人のポルノビデオ、リベンジポルノ、偽情報、フェイクニュース、恐喝、詐欺に集中しています。たとえば、2019年に米国のあるエネルギー会社は、詐欺師が会社のリーダーのイメージと声を偽り、従業員にパートナーに送金するよう依頼し、243,000ドルをだまし取られました。

ロイター通信は、2023年には世界中のソーシャルネットワーク上で動画や音声形式のディープフェイクコンテンツが約50万件共有されたと報じた。楽しみのためのディープフェイクの他に、コミュニティを騙すために悪者が作成したトリックもあります。 2022年には、世界中でディープフェイク詐欺により最大1,100万ドルの損失が発生したと推定されています。

多くの技術専門家は、知的財産権や真正性、さらにはAIによって作成された「作品」間の知的財産紛争など、AIの悪影響について警告している。例えば、ある人が AI アプリに特定のテーマの絵を描くように依頼したのに対し、別の人も AI に同じことを依頼すると、類似点の多い絵が出来上がるというケースがあります。

これにより、所有権紛争が発生しやすくなります。しかし、AIが生成したコンテンツに対する著作権の認定（創造的なAIを発注した個人やAIアプリケーションを開発する企業に対する著作権の認定）については、現在まで世界ではまだ決まっていません。

Một hình ảnh được tạo bởi ứng dụng AI — AIアプリケーションによって生成された画像

本物と偽物の区別が難しい

では、AI によって生成されたコンテンツは著作権を侵害する可能性がありますか?技術的には、AI 生成コンテンツは、トレーニングされたデータからアルゴリズムによって合成されます。これらのデータベースは、AI アプリケーション開発者によって、主にインターネット上の知識ベースなど、さまざまなソースから収集されます。これらの作品の多くは、それぞれの所有者に著作権が付与されています。

2023年12月27日、ニューヨークタイムズ（米国）は、OpenAI（ChatGPTと共同）とマイクロソフトを提訴し、両社の何百万もの記事が、これら2社のAIチャットボットとAIプラットフォームのトレーニングに使用されたと主張した。その証拠は、ユーザーのリクエストに応じてチャットボットによって作成された、記事の内容と類似または同一のコンテンツが存在することです。本紙は、その「知的財産」が企業によって営利目的で利用されることを無視することはできない。

ニューヨーク・タイムズは、AIに関連する著作権訴訟を起こした最初の米国の大手新聞社である。特にニューヨーク・タイムズの成功を受けて、近い将来、他の新聞社も訴訟を起こす可能性がある。

オープンAIはこれまで、2023年7月にAP通信社と、また2023年12月にはポリティコとビジネス・インサイダーの2つの新聞を所有するドイツの出版社アクセル・シュプリンガーと著作権ライセンス契約を締結している。

女優のサラ・シルバーマンも2023年7月に複数の訴訟に加わり、MetaとOpenAIが彼女の回顧録をAIプログラムのトレーニングテキストとして使用したと非難した。 AIシステムが何万冊もの本をデータベースに吸収していたことが明らかになり、ジョナサン・フランゼンやジョン・グリシャムなどの作家から訴訟が起こされたときも、多くの作家が懸念を表明した。

一方、写真サービスのゲッティイメージズも、同社の著作権で保護された視覚素材を無断で使用したとして、テキストプロンプトに基づいて画像を作成したAI企業を訴えている...

ユーザーがAIツールに「作曲」を依頼した「作品」を「不注意に」使用すると、著作権の問題に巻き込まれる可能性がある。専門家は常に、AI ツールを検索、データ収集、および参考のための提案にのみ使用することを推奨しています。

別の問題として、AI アプリケーションは、特定のコンテンツの真実と虚偽を区別できない場合にユーザーを混乱させます。出版社や編集者は、原稿の受理に関して混乱することがあります。教師にとっても、生徒の作業に AI が使用されているかどうかを知ることは困難です。

コミュニティは、どのコンテンツが本物で、どのコンテンツが偽物か分からないため、より警戒を強める必要があります。たとえば、写真が AI によって「加工」または編集されているかどうかを一般の人が検出するのは難しいでしょう。

AIの利用に関する法的規制が必要

AI 介入を検出できるアプリケーションツールを待つ間、管理機関は、プライベートコンテンツを作成するためのこのテクノロジの使用に関して、明確で具体的な法的規制を早急に設ける必要があります。法的規制では、コンテンツや作品にAIが介入していることを人々に示す必要があり、たとえば、AIによって操作された画像にはデフォルトで透かしを入れることなどです。

[広告2]
出典: https://nld.com.vn/mat-trai-cua-ung-dung-tri-tue-nhan-tao-196240227204333618.htm