潜在性にはリスクが伴う
人工知能 (AI) が労働者をサポートし、人間の生活を円滑にする強力なツールであることがますます証明されていることは否定できません。しかし、これらのテクノロジー製品は、サイバー空間で詐欺や攻撃を行う悪者に悪用されると、「諸刃の剣」のような存在になります。
情報セキュリティ局（情報通信省）やサイバーセキュリティ協会からの警告速報には、AI技術を使用した詐欺事件の記録が多数挙げられています。例えば、ハノイの会社員であるグエン・タン・Tさんは、Facebookメッセンジャーで友人とチャットしていたところ、友人は別れを告げて会話を終えたが、突然テキストメッセージに戻り、お金を借りたいと言い、銀行口座に振り込むよう提案した。アカウント名が友人の名前と一致していたにもかかわらず、Tさんは疑念を抱き、確認のためにビデオ通話を依頼した。友人はすぐに同意しましたが、「ネットワークが断続的」だったため、通話はわずか数秒しか続きませんでした。
ビデオ通話で友人の顔を確認し、声も正しかったので、Tさんは送金した。しかし、送金が成功した後に初めて、彼女はハッカーの罠に陥っていたことに気づいた。
Tさんだけでなく、友人や親戚など多くの被害者も同じように騙されたのです。ディープフェイクツールや音声を使って悪者が詐称して騙し取った金額は数千万ドンに達している。
AI を利用して資産を不正に流用するもう 1 つの典型的な例は、NTH 氏のケースです。Android フォンを使用しているときに、詐欺師は悪意のあるリンクをインストールするように指示する罠を仕掛けます。そこから、電話や銀行口座を掌握し、第三者に送金します。さらに、マルウェアは利用可能な連絡先に自動的に連絡し、送金を要求する自動メッセージを送信します。
NTH氏によると、詐欺師は「警察官」を名乗り、彼の電話番号に電話をかけ、個人識別情報の確認を求めたという。被害者は高齢でテクノロジーに疎く、騙されやすい性格だったため、詐欺師の指示に従って携帯電話を第三者に渡し、悪意のあるアプリケーション「DichVuCong.apk」を携帯電話にダウンロードしてインストールした。
情報システムセキュリティ部門（情報セキュリティ部門）の責任者であるトラン・グエン・チュン氏は次のように述べています。「AI技術が開発されると、サイバースペース上の本物のコンテンツと偽のコンテンツの検出と区別が難しくなり、誰もがAI技術を使用した犯罪者のサイバー攻撃の標的、被害者になる可能性があります。」しかし、被害者になるかどうかは、必要な知識と情報をどれだけ身に付けているかによって決まります。
このようなAI技術詐欺はベトナムだけでなく、世界中の多くの国で発生しています。現在、政府機関、組織、大手テクノロジー企業が協力して、根本からこれを検出し防止するための対策と技術的ソリューションを見つけようとしています。
現時点では、プロパガンダを促進し、この高度な偽造形態を認識して対処する方法、トリック、方法について人々の認識を高め、ディープフェイクがサイバースペースでの活動に与える影響を軽減し、制限することが重要な対策です。新たな展開や詐欺の形態がある場合は、マスメディアを通じて積極的に広範な警告を発します。
「センシティブな画像や動画を添付した脅迫電話を受けた場合、冷静さを保ち、画像や動画の出所を確認し、慎重に調査する必要がある」とトラン・グエン・チュン氏は述べた。
ベトナム国家大学ハノイ校経済大学（UEB）の調査報告書「2024年の世界経済へのリスクの特定」によると、世界経済に影響を与えるリスクの1つはテクノロジー分野のリスクである。報告書は、AIが急速に出現する中で、規制政策がまだAIの発展に追いついていないと主張している。特に今年のように世界中で多くの選挙が行われる年には、AIによって生成された誤情報が、世界的な安全保障、政治、防衛、平和に多くの問題を引き起こしています。
科学技術副大臣のグエン・ホアン・ザン氏はティン・トゥック紙の記者に対し、「首相は、2030年までの人工知能に関する国家研究戦略、開発、応用に関する決定第127/2021号を公布しました。実施にあたり、科学技術省だけでなく他の省庁や部局も抜本的かつ同期的に実施しています。例えば、法務省は法的側面を研究しています。情報通信省はデジタル技術を研究しています。科学技術省はまた、インダストリー4.0を支援、研究開発し、情報技術開発を研究開発し、デジタルシティとスマートシティの開発に貢献しています。しかし、急速かつ強力な開発に伴い、AIが詐欺、なりすまし、脅迫、財産の横領などを目的としたサイバー犯罪者のツールとして悪用されるという、AIのマイナス面とリスクも現れています」と述べた。
現在まで、科学技術省と政府は、研究と並行して、ベトナムのAI分野がその潜在力を発揮し、発展を促進するとともに、人工知能分野における厳格な管理と倫理および人道性を確保するために、他の先進国の経験から学びながら、法的枠組みの構築も積極的に行っています。
AIツールの急速な発展は、人権、倫理、プライバシー、情報セキュリティ、法的責任に関する多くの問題を引き起こしています。世界と比較すると、ベトナムはまだAI開発の初期段階にあります。したがって、ベトナムの生活、経済、社会のあらゆる側面に適した特定の AI 規制とポリシーが必要です。
緊急に法的枠組みを発行する
AIのダークサイドの管理も、一部の国で議論されているテーマです。欧州議会は人工知能を規制するための世界初の基本規則を承認した。多くの技術専門家は、この規範が、技術開発によるユーザーへの悪影響を最小限に抑えるとともに、市場における主要な競合他社の支配的地位に追いつくという、EU の 2 つの目標の達成に役立つと考えています。
その後まもなく、国連総会は人工知能（AI）に関する決議を採択し、この新しい技術がすべての国に利益をもたらし、人権を尊重し、「安全、安心、信頼できる」ものとなるよう国際的な取り組みを世界規模で支援しました。
ナショナルサイバーセキュリティテクノロジー株式会社のテクニカルディレクター、ヴー・ゴック・ソン氏は次のように述べています。「AIは人間の利益に資する技術であり、業務の様々な段階の自動化をサポートしています。これは強力なツールであり、Q＆Aサービスの提供、ソフトウェア開発など、様々な目的に活用されています。しかし、AIは悪意のある人物の手に渡り、詐欺的なコンテンツや悪意のあるコードを作成してユーザーを攻撃しようとするというマイナス面もあります。したがって、AIは製品開発や犯罪に特化したツールではなく、AIを「どのように使うか」が重要な課題です。」
「制裁措置や法整備は、AIの発展のスピードに追いついていないと思います。AIが悪用され、人権だけでなく安全保障、秩序、社会の安全にも影響を及ぼすリスクを制限するための政策を構築・導入するには、時間が必要です」と、ヴー・ゴック・ソン氏は述べた。
CMC ATI研究所所長のダン・ミン・トゥアン博士は次のように述べています。「一方では、AIを悪用する手口を研究し、新たな技術の研究開発を継続し、更新していく必要があります。また、科学と仕事における誠実さも推進していく必要があります。そのため、ベトナムでは、AIに関するコンテンツと具体的な政策への調整と投資が必要です。特に、AIツールは悪意のあるコンテンツやコードの検出にも活用できます。AIは『両刃の剣』のようなもので、人類の利益を最終目標として、継続的かつ継続的に改善していくプロセスを生み出します。」
専門家は、ハイテク製品の開発を責任を持って管理することが求められると述べている。なぜなら、技術を規制し、習得できないと、予測できない結果につながり、経済的損失を引き起こし、各個人だけでなく社会全体に影響を及ぼすことになるからだ。
具体的かつ透明性の高い規制を制定することは、AIが引き起こす可能性のあるリスクを防止および最小限に抑えるのに役立つだけでなく、ベトナムが世界の主要なテクノロジー企業からの注目と投資を引き付け、国内の情報技術およびAI産業の発展を促進することにも役立ちます。
最終論文：AIの並列開発と制御
[広告2]
出典: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238
コメント (0)