AIがより身近なものになり、より多くの個人や企業が共通のツールを通じてAIを利用するようになるにつれ、ハッカーは攻撃を自動化し、業務プロセスを加速させ、より高度なキャンペーンを展開して不正な目的を達成できるようになる。
カスペルスキーが確認した攻撃手法には、以下のようなものがあります。ChatGPTはマルウェアの開発や、複数の被害者への攻撃の自動展開に利用できます。AIプログラムはスマートフォンのユーザーデータに侵入し、機密データの分析を通じて、攻撃者は被害者からメッセージ、パスワード、銀行コードなどを完全に「盗み出す」ことができます。群知能アルゴリズムは、セキュリティソリューションによって排除された悪意のあるネットワークをコンピュータネットワークが自動的に（ボネット方式で）復旧するのに役立ちます。
カスペルスキー社がAIを用いてパスワードを解読する研究によると、ほとんどのパスワードはMD5やSHAといったハッシュアルゴリズムを用いて暗号化されている。そのため、簡単な操作でパスワードを暗号化されたテキストに変換することは可能だが、そのプロセス全体を逆算することは非常に困難である。
AIを活用することで、悪意のある攻撃者は、テキスト、画像、音声、 動画などの不正コンテンツを悪用し、技術的な知識を必要としない攻撃を仕掛けることができます。ChatGPT-4oのような大規模な言語モデルは、高度に洗練されたフィッシングシナリオやメッセージを作成するために利用されています。AIは言語の壁を克服し、ソーシャルメディアの情報のみに基づいて、一見本物のように見えるメールを作成できます。さらに、被害者の文体を模倣することも可能で、詐欺の検出をさらに困難にしています。
一方、ディープフェイク技術は、かつては科学研究の成果と考えられていたにもかかわらず、サイバーセキュリティにおける「問題」として浮上している。最も一般的な手口は、金銭目的で有名人になりすますことである。さらに、詐欺師はディープフェイクを使ってアカウントを盗み、被害者の友人や親族になりすまし電話をかけて金銭を脅し取ろうとする。
悪意のある行為者は、AI技術を違法行為に悪用するだけでなく、AIアルゴリズム自体を攻撃することもできます。これには、悪意のあるコマンドを大規模な言語モデルに注入する「プロンプトインジェクション」攻撃（以前に制限されていたルールに違反する場合もある）や、画像や音声に隠し情報フィールドを追加して機械学習システムの画像分類能力に影響を与える敵対的攻撃などが含まれます。
Apple IntelligenceやGoogle Gemini、Microsoft Copilotなど、AIは人間の生活のあらゆる側面にますます深く浸透しています。そのため、AIの脆弱性への対策は最優先事項となるべきです。カスペルスキーは長年にわたり、AI技術を活用して顧客とパートナーを保護してきました。AIシステムの脆弱性を継続的に調査して耐性を高め、サイバー攻撃の手法を積極的に研究することで、AIベースの攻撃に対する確実な防御を提供しています。
キム・タン
出典: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html
コメント (0)