MediaTek は Meta の Llama 2 プラットフォームを使用して生成 AI を強化します

[広告_1]

SGPO 2023年8月25日 10:37

世界的な半導体企業である MediaTek は、同社の次世代オープンソース大規模言語モデル (LLM) である Meta の Llama 2 と緊密に連携していることを発表しました。

MediaTek、完全なエッジコンピューティングエコシステムの構築を目指す

MediaTek は、Meta の LLM と MediaTek の最新の APU および NeuroPilot AI プラットフォームを使用して、スマートフォン、IoT、車両、スマートホーム、その他のエッジコンピューティングデバイス全体で AI アプリケーション開発を加速するように設計された完全なエッジコンピューティングエコシステムの構築を目指しています。

現在、ほとんどの生成 AI 処理はクラウドコンピューティングを通じて行われています。ただし、MediaTek の Llama 2 モデルを使用すると、生成 AI アプリケーションをデバイス上で直接実行できるようになります。

これにより、スムーズなパフォーマンス、プライバシーの強化、セキュリティと信頼性の向上、レイテンシの低減、接続性がほとんどまたはまったくないエリアでの作業能力の向上、運用コストの削減など、開発者とユーザーにさまざまなメリットがもたらされます。

エッジコンピューティングデバイスで生成 AI テクノロジーを真に活用するには、エッジコンピューティングデバイスメーカーが、ハイエンドの低電力 AI プロセッサと、より高速で信頼性の高い接続を採用して、コンピューティング機能を強化する必要があります。現在、MediaTek が搭載するすべての 5G モバイルチップには、AI ノイズ低減、AI 解像度向上など、さまざまな生成 AI 機能を実行するように設計された APU が搭載されています。

さらに、今年後半に発表される予定の MediaTek の次世代フラッグシッププロセッサには、Llama 2 を実行するために最適化されたソフトウェアスタックと、Transformer コアアクセラレーションを備えたアップグレードされた APU が搭載され、DRAM アクセス領域と帯域幅の使用量が削減され、LLM と AIGC のパフォーマンスがさらに向上します。これらの進歩により、デバイス上の生成 AI のユースケースを迅速に構築できるようになります。

MediaTek は、今年後半に市場投入が予定されている次世代フラッグシップ SoC を搭載したスマートフォンで、Llama 2 ベースの AI アプリケーションが利用できるようになると予想しています。

[広告2]
ソース