ChatGPT使用時のセキュリティリスク

[広告_1]

アメリカ最大の銀行JPモルガン・チェース、アマゾン、テクノロジー企業アクセンチュアはいずれも、データセキュリティ上の懸念から従業員によるChatGPTの使用を制限している。

CNNによれば、これらの企業の懸念は完全に正当なものである。 3月20日、OpenAIのチャットボットがクラッシュし、ユーザーデータが公開されました。このバグはすぐに修正されましたが、同社はこの問題がChatGPT Plusユーザーの1.2%に影響を与えたことを明らかにしました。漏洩した情報には、氏名、電子メールアドレス、請求先住所、クレジットカード番号の下4桁、カードの有効期限などが含まれています。

3月31日、イタリアのデータ保護当局（ガランテ）は、OpenAIが脆弱性を公表した後、プライバシー上の懸念を理由にChatGPTの一時的な禁止令を出した。

法律事務所フォックス・ロスチャイルドLLPのデータセキュリティおよびプライバシー担当共同議長マーク・マクレアリー氏は、ChatGPTを取り巻くセキュリティ上の懸念は誇張されていないとCNNに語った。 AIチャットボットは彼によって「ブラックボックス」に例えられています。

ChatGPTは2022年11月にOpenAIによってリリースされ、コマンド（プロンプト）を与えることでエッセイを書いたり、物語や歌詞を作ったりできる機能により急速に注目を集めました。 GoogleやMicrosoftなどのテクノロジー大手も、膨大なオンラインデータでトレーニングされた大規模な言語モデルを活用した、同様に機能するAIツールを展開している。

ユーザーがこれらのツールに情報を入力する際、それがその後どのように使用されるかは分からないとマクレア氏は付け加えた。仕事のメールを書いたり、会議のメモを取ったりするのにツールを使用する従業員が増え、企業秘密が漏洩するリスクが高まっているため、企業にとっては懸念事項です。

ボストンコンサルティンググループ（BCG）のAI倫理担当ディレクター、スティーブ・ミルズ氏は、企業は従業員が誤って機密情報を開示することを懸念していると述べた。人々が入力したデータがこの AI ツールのトレーニングに使用されている場合、データの制御権は他の誰かに渡っていることになります。

OpenAIのプライバシーポリシーによれば、同社はAIモデルを改善するためにサービス利用者のすべての個人情報とデータを収集する可能性がある。この情報は、サービスの改善や分析、調査の実施、ユーザーとのコミュニケーション、新しいプログラムやサービスの開発に使用されることがあります。

プライバシーポリシーでは、OpenAI は法律で義務付けられている場合を除き、ユーザーに通知することなく個人情報を第三者に提供する場合があると規定されています。 OpenAI にも独自の利用規約文書があるが、同社は AI ツールとやり取りする際に適切な措置を講じる責任の大部分をユーザーに負わせている。

ChatGPT の所有者は、AI の安全性に対するアプローチについてブログ記事を投稿しています。同社は、データを使ってサービスの販売や広告、ユーザーのプロフィール作成を行っているのではなく、モデルをより有用なものにするためにデータを使用していると強調している。たとえば、ユーザーの会話は ChatGPT のトレーニングに使用されます。

Bard AI ツールを開発した Google のプライバシーポリシーには、AI ユーザー向けの追加規定があります。同社は会話の一部を選択し、自動ツールを使用して個人を特定できる情報を削除します。このアプローチにより、Bard が改善され、ユーザーのプライバシーが保護されます。

サンプルの会話はトレーナーによって確認され、ユーザーの Google アカウントとは別に最大 3 年間保存されます。 Google はまた、Bard AI での会話に自分自身や他人の個人情報を含めないようにユーザーに注意を促しています。このテクノロジー大手は、これらの会話を広告目的で使用することはなく、将来的には変更を発表すると強調した。

Bard AI を使用すると、ユーザーは会話を Google アカウントに保存しないことを選択できるほか、リンク経由で会話を確認したり削除したりすることもできます。さらに、同社では、バード氏が回答に個人情報を含めることを防ぐための安全対策を講じています。

スティーブ・ミルズ氏は、ユーザーや開発者が新しいテクノロジーに潜むセキュリティリスクに気付いたときには手遅れになっていることがあると主張しています。たとえば、オートコンプリートによってユーザーの社会保障番号が誤って公開される可能性があります。

ミルズ氏は、ユーザーは他人と共有したくないものをこれらのツールに入力すべきではないと述べた。

[広告2]
ソースリンク