犯罪者やテロリストがAIを使って世界を破壊するのではないかという懸念は、今年11月に英国で開催される世界的リーダーシップ会議で「ホットな」話題となるだろう。英国当局は、悪意ある者が新たな技術を悪用することで生じるリスクを警告する共同声明の合意を目指して世界中を回っている。
英国首相に近い当局者の中には、ある時点でテクノロジーが生物兵器や人間の制御を逃れる兵器の開発に役立つほど強力になるのではないかと懸念する者もいる。懸念が高まるにつれ、リスクを軽減するための規制監督が必要になります。テクノロジー業界のリーダーたちは AI 開発の一時停止に同意しているものの、ライバルとの AI 軍拡競争に巻き込まれている。
ガーディアン紙によると、11月のサミットでは「最先端のAI」のリスクについて議論される予定だ。フロンティア AI とは、人命に脅威を与える可能性のある最先端の AI モデルを表すために使用される用語です。
英国政府は今週初め、会議では生物兵器、サイバー攻撃、あるいは人間の制御のない高度なシステムの作成にAIが悪用されるなどのリスクに焦点を当てることを確認した。スナック氏はここ数カ月、AIがもたらすリスクについて警告し、国際社会に対しAIの悪用を防ぐための「レール」を導入するよう求めてきた。
昨年、AIはわずか6時間で、致死性の可能性のある4万種類の分子を提案したが、その中の1つは、史上最強の神経ガスであるVXに似たものだった。
2023年初頭、研究者らはChatGPTが特定の目的を達成するために人間を欺くことができることを発見した。 AI チャットボットは、人間に Captcha (操作を実行しているのが人間かボットかを検出するために使用されるツール) を解くよう説得しました。
もう一つの大きな懸念は、「人工汎用知能」（AGI）の台頭です。AGIとは、人間と同等かそれ以上にあらゆるタスクを実行できるAIシステムを表す用語で、人類に脅威をもたらします。 AGI はほんの数年以内に実現すると考える人もいます。しかし、AI の専門家はこれに反対し、制御不能な AGI を単なる「SF」と呼んでいます。
いずれにせよ、スナック首相は会議を利用して、AIが偽の画像を作成したり、公共政策の決定に使用された場合に差別を引き起こしたりするといったAIの直接的な可能性よりも、実存的なリスクに注目を集めたいと考えているだろう。
英国政府は、開発中のアルゴリズムのテストを支援する新たなAIタスクフォースに1億ポンドを費やす予定。彼は、AIツールを広く展開する前に評価するために、世界中の企業にAIツールを英国に送り返すよう促したいと考えている。
英国のオリバー・ダウデン副首相は、国家安全保障上の最も重要な懸念を和らげることができるのは政府だけだと述べた。
英国政府の報道官は、AIは生活のあらゆる側面を変える大きな可能性を秘めているとコメントした。 AIタスクフォースは、テクノロジーが安全かつ責任を持って開発されることを保証するために設立されました。 AIカンファレンスでは、さまざまな潜在的なリスクを検討します。
（ガーディアン紙によると）
[広告2]
ソース
コメント (0)