人工知能の安全基準の探求

[広告_1]

SGGP 2023/07/31 09:35

欧州が人工知能（AI）に関する世界初の法律の起草を開始し、すぐに施行された後、米国のインターネットデータマイニングの大手4社は、フロンティアモデルフォーラムと呼ばれるグループを立ち上げたばかりだ。

フロンティアモデルフォーラムの中心的な目標は、責任を持って AI を推進することです。写真: THINKWITHNICHE

当事者たちが集まる

アントロピック、グーグル、マイクロソフト、そしてChatGPTの所有者であるOpenAIを含むこのグループは、フロンティアモデルフォーラムの中心的な目標はAIプラットフォームがもたらすリスクを軽減し、業界標準を開発することであると述べた。フロンティアモデルフォーラムは、開発をサポートし、リスクを軽減し、安全性の評価とレベルを標準化するための安全な AI 研究の推進など、主要な目標を掲げた新しいフォーラムを作成します。モデルの開発と展開に関するベストプラクティスを特定し、一般の人々がテクノロジーの性質、機能、制限、影響を理解できるようにします。政策立案者、学者、市民社会、企業と協力して、リスクと安全性に関する知識を共有します。

ハイテク大手は規制強化に抵抗する傾向がある。しかし、今回は、AIがもたらすリスクに対する大きな懸念に直面し、テクノロジー業界に対する一般的な見方が大きく変化しました。フロンティアモデルフォーラムイニシアチブに参加している企業は、企業間でベストプラクティスを共有し、政府や市民社会と情報をオープンに共有することに尽力しています。

具体的には、フロンティアモデルフォーラムは、AI を新たなレベルの洗練度 (そして潜在的なリスク) に引き上げる、大規模でありながらもまだ初期段階の機械学習プラットフォームに焦点を当てます。さらに、フロンティアモデルフォーラムは、気候変動の緩和と適応、がんの早期発見と予防、サイバー脅威への対抗などの主要な社会的課題に対処するアプリケーションの開発もサポートします。

破壊の可能性がある

米国企業によるフロンティア・モデル・フォーラムの発表は、7月25日に米国上院議員らが米国上院司法委員会の小委員会の公聴会でAIが生物学的攻撃に利用される危険性について警告してから数日後に行われた。最近、OpenAI、Alphabet、Metaを含む7つの大手テクノロジー企業がホワイトハウスに対し、AIによって作成されたテキスト、画像、音声から動画まですべてのコンテンツを識別するシステムを開発し、ユーザーに情報の透明性を提供し、このテクノロジーの安全性を確保することを自主的に約束しました。

AIアントロピックのCEOダリオ・アモデイ氏は、AIはまだ生物兵器の製造に役立てることはできないが、これは「中期的」なリスクであり、今後2、3年以内に米国の国家安全保障に深刻な脅威をもたらすと指摘した。その理由は、大規模な生物兵器攻撃を実行する主体が、もはやこの問題に関する専門知識を持つ者に限定されなくなったからである。

世界は、生成 AI テクノロジーで作成されたコンテンツの爆発的な増加に直面しています。アメリカ、ヨーロッパ、アジアに至るまで、規制は徐々に強化されつつあります。 CNNによると、米上院は9月から、AIが雇用、国家安全保障、知的財産にどのような影響を与えるかについて議員が学ぶためのワークショップを9回追加で開催する予定だ。合意に至れば、米国に先駆けて欧州連合（EU）が来年、世界初のAI管理法を制定し、2026年から施行される予定だ。

AIが社会にもたらす利益は否定できないが、この新しい技術の潜在的なリスクについての警告も増えている。 6月、国連事務総長のアントニオ・グテーレス氏は、国際原子力機関（IAEA）に似た国際的なAI監視機関を設立するという、複数のAI幹部による提案を支持した。

フロンティアモデルフォーラムに戻ったマイクロソフト社長のブラッドスミス氏は、この取り組みはテクノロジー企業が協力して AI の責任ある使用を促進し、全人類に利益をもたらすための重要なステップであると断言しました。同様に、OpenAIの国際問題担当副社長アンナ・マカンジュ氏は、高度なAI技術は社会に多大な利益をもたらす可能性があり、そのためには監視とガバナンスが必要だと主張した。

[広告2]
ソース