これは最近公開された検索大手の社内メモからの評価だ。また、この文書の中で、Google の幹部は、進行中の AI 競争に負ける可能性について深い懸念を表明しました。
グーグルの代表者は後にこの文書の信憑性を認め、これは社内関係者の意見に過ぎないとしたが、「自分たちはこの競争に勝てる立場になく、OpenAIも同様だ」と認めた。
検索大手は、オープンソースコミュニティが大手AI企業に勝っており、製品の品質はわずかに優れているものの、「その差は驚くほど急速に縮まっている」と指摘している。
資本規模は中心的な要素ではない
AIは、マイクロソフトと関係の深いスタートアップであるOpenAIが開発したLLM（大規模言語モデル）をベースにしたチャットボットであるChatGPTの発売により、2022年後半から一般の人々の間で話題になっています。この製品の成功により、Google や他の多くのテクノロジー企業が LLM 競争に参入するようになりました。
LLM モデルは、インターネットから収集された数兆語の単語からトレーニングされ、人間のようなテキストや会話を生成します。このプロセスには数か月かかり、数千万ドルの費用がかかるため、AIが「裕福で強力な」テクノロジー企業によって支配されるのではないかとの懸念が生じています。
しかし、Google の社内メモは、その仮定が間違っていることを示唆している。オープンソース コミュニティの研究者は、無料のオンライン リソースを活用して、今日の最大の独自モデルに匹敵する結果を達成しています。
したがって、LLM は、低レベル適応 (LoRa) と呼ばれる技術を通じて「微調整」することができ、これにより、LLM を最初からトレーニングするよりもはるかに迅速かつ安価に、既存の LLM を特定のタスクに合わせて最適化できます。
たとえば、3月にはFacebookの親会社Metaが作成したモデル「LLaMa」がオンラインで流出した。 LLaMa は、Google 最大の LLM の 5,400 億のパラメータと比較すると、わずか 70 億のパラメータで小さく、かなり「原始的」でしたが、すぐに改良され、いくつかのタスクでは ChatGPT のオリジナル バージョンに匹敵する結果を生み出しました。
これは、「トレーニングとテストの障壁が、大規模な研究センターを必要とするものから、たった 1 人の人間と一晩、高性能のラップトップ 1 台を必要とするものへと変化した」ため、AI 開発の将来に大きな影響を及ぼす可能性があります。
巨人ゴリアテと羊飼いダビデの戦い
今では、LLM をわずか 100 ドルで数時間で微調整できます。柔軟性、接続性、低コストのモデルを備えた「オープンソース AI には、Google のような大企業では再現できない大きな利点があります」。したがって、この論文は、Google や OpenAI がこれらのオープンソースの競合他社に対して脆弱であると結論付けています。
「多くのタスクではChatGPT-4ほど強力なものが必要だとは思わない」とプログラマー兼技術アナリストのサイモン・ウィリソン氏はNBCに語った。 「今の問題は、モデルがどれだけ小さくても有用であるかどうかだ。そして、オープンソース コミュニティはそれを非常に急速に発見しています。」
これは、巨人ゴリアテが小さな羊飼いの少年ダビデによってパチンコだけで倒された物語のように、適切に利用され観察されれば、最も強い点も最も弱い点になるという多くの専門家の意見と完全に同じです。
しかし、AI 開発の話では、この議論に誰もが同意するわけではないかもしれません。現実にはAdobe PhotoshopやMicrosoft Windowsなど有料のプロプライエタリソフトウェアは依然として存在しており、AI分野も同様の発展の道を辿る可能性が高い。
（エコノミスト、YahooFinanceによる）
[広告2]
ソース
コメント (0)