ディープフェイクAI詐欺はますます危険に

[広告_1]

ハッカーがAIを「武器化」してサイバー攻撃や詐欺を実行する傾向についてどう思いますか?

グエン・トゥアン・カン博士： IBMの2024年X-Force脅威インテリジェンス・インデックスによると、ベトナムを含むアジア太平洋地域は、2023年に世界で最も多くのサイバー攻撃を受ける地域です。その中でも、サイバー攻撃の影響を最も受けている業界は製造業です。

犯罪者の主な手口は、依然として脆弱な対象を狙ったフィッシング攻撃と、脆弱性を悪用してマルウェアをインストールすることです。さらに、2024年には人工知能（AI）を巻き込んだサイバー攻撃が新たなトレンドとして浮上します。

Wired のレポートでは、多くの悪意ある人物が生成 AI を利用してハッキングを誘導したり、不正なチャットボットを作成したり、ディープフェイクを使用して他人の顔や声の偽の画像や動画を作成したりしていると指摘しています。

しかし、この傾向に伴い、情報セキュリティシステムにもWatsonXなどのAI機能が組み込まれ始めています。人工知能は活用できるだけでなく、分析、監視、数値の識別、攻撃シナリオの予測において人間に取って代わり、防御能力を向上させ、情報セキュリティリスクを最小限に抑えることもできます。

サイバーセキュリティの専門家、グエン・トゥアン・カン氏。写真: Trong Dat

ディープフェイク詐欺はますます一般的になっています。 AI が急速に発展する中、将来こうした攻撃はどれほど危険なものになるのでしょうか?

グエン・トゥアン・カン博士：基本的に、ディープフェイクはハッカーが偽のデジタルアイデンティティを作成し、他人になりすますことを可能にする技術です。ディープフェイクは、技術がますます洗練されつつあるため、危険な問題となるでしょう。

ディープフェイクに対抗するには、まず、人物の画像や音声が AI によって生成されたものかどうかを判断する必要があります。攻撃者が常に新しいモデルを開発しているため、ディープフェイクを即座に検出できる汎用ツールは現在存在しません。

ディープフェイクを認識することに加えて、行動を分析するテクノロジーを使用してディープフェイクに対処する別の手法があります。組織的、ビジネス的な観点からは、これら両方の技術を組み合わせたシステムを開発する必要があります。

最近、ハッカーが企業のシステムに悪意のあるコードを密かに埋め込むサイバー攻撃が発生しています。マルウェアは待ち伏せしてすべてのアクティビティを分析し、偽の ID を作成して悪意のある目的を実行します。ディープフェイク技術の発達と、動画を作成する AI の能力が相まって、この種の攻撃は将来さらに危険なものになるでしょう。

ディープフェイクサイバー攻撃が激化する中、高齢者や子ども、その他の脆弱なグループを詐欺師から守るにはどうすればいいのでしょうか?

グエン・トゥアン・カン博士：高齢者や子供は、ソーシャルエンジニアリングと呼ばれる手法を使った詐欺師の攻撃を受けることが多いです。これは、人間の行動を操作することによる攻撃を表す用語です。

ハッカーは、AI をデータの収集、マイニング、分析と組み合わせて使用することで、詐欺に遭いそうな人を特定し、攻撃方法を見つけることができます。国民の意識を高めることに加え、ユーザーが騙される状況もあることを認め、それを検出し防止するためのテクノロジーを活用する必要があります。

W-オンライン詐欺-1.jpg — タンルオン区警察（ハノイ）が警察官になりすまして送金詐欺を行う事件について警告。写真: Trong Dat

最近、銀行員が送金に来た老婦人に詐欺の兆候があると疑った事件がありました。この人物はすぐにそれを止め、当局に報告した。銀行の IT システムには、現在、こうした作業において人間に代わる技術が求められています。

テクノロジーの役割は、たとえ送金者が既知であったとしても、この行為が他の誰かによって操作されていると疑われる場合には、システムがそれを防ぐことです。このようなツールは、詐欺防止、偽造防止システムと呼ばれます。

ベトナムはAIを管理するための制裁を設け、AIの研究、開発、使用を枠組みに組み込むべき時ではないでしょうか?

グエン・トゥアン・カン博士： AI管理に対する制裁については長い間議論されてきましたが、依然として議論の余地のある問題が多く残っています。例えば、私の住んでいる地域の駐車場にはナンバープレートを認識する AI システムが導入されていますが、それでも盗難は起きています。それから、誰のせいなのかという論争が始まりました。責任は誰にあるのでしょうか？アパートのオーナー、警備員、それとも AI システム開発者でしょうか？

それ以来、建物は規則を変更し、住民は利便性のためにナンバープレートの認識にAIを使用することを選択できるが、リスクを受け入れなければならないと規定した。同意する人は自動ドアを利用でき、同意しない人は従来の方法で車を駐車する必要があります。そのような制裁措置は必要です。

同様に、IBM はかつてがんの予防に役立つ AI システムを開発しました。システムが薬を処方したが、患者がそれを服用しても救われない場合、それは医師のせいでしょうか、それとも人工知能のせいでしょうか?

AI アプリケーションの開発時に何ができるか、何ができないかを明確に規定し、AI に対する制裁を具体的に規制する必要があると私は考えています。世界をより安全にするために私たちができる最も基本的な制裁は、多額の送金に生体認証を義務付けることです。このような状況では、個人情報を失った人は金銭の損失を完全に回避できます。

ありがとうございます。