Discrete Neural Processing Units for AI Acceleration
ディスクリート・ニューラル・プロセッシング・ユニット (DNPU) は、生成AI、大規模言語モデル(LLM)、視覚言語モデル (VLM) などの高負荷AI/MLタスク向けに設計されたハードウェア・アクセラレータです。これにより、エッジで実行される推論の効率性を高め、深層学習モデルの処理を最適化し、コンピューティングの速度と効率性を高めることができます。
主なディスクリートNPU製品
リアルタイム・コンピュータ・ビジョンから生成AIまで、さまざまなアプリケーションに対応する低レイテンシでエネルギー効率に優れたハイパフォーマンス・ソリューションを実現することで、次世代のエッジAIイノベーションを支えます。
| 製品 | 説明 | エッジAI機能 |
|---|---|---|
| Ara-1 | AI搭載カメラと組込みシステムにおける機械学習を高速化し、リアルタイムのパフォーマンスと低レイテンシを実現します。 |
|
| Ara-2new | 最大40 eTOPS*のAI性能を発揮し、生成AIとトランスフォーマ・ベース・モデルをエッジ上で効率的に処理できます。 |
|
DNPUを使用したスケーラブルなエッジAI
DNPUは、負荷の大きいAIタスクと機械学習タスクをオフロードすることで、i.MXアプリケーション・プロセッサを補完します 。これにより、エッジでの推論を高速化、効率化するとともに、エッジ処理のリアルタイム化と省電力化を実現し、さらにその複合的な処理能力と特殊機能を利用して電力効率に優れたリアルタイム・エッジAI処理を可能にします。
i.MX 8M Plus
i.MXアプリケーション・プロセッサ
高度なニューラル・ネットワーク処理に加え、グラフィックス、マシン・ビジョン、ビデオ、オーディオ、音声の各機能を備えた、強力なソリューション。
i.MX 95
i.MXアプリケーション・プロセッサ
高性能アプリケーション・コア、独立したMCUのようなリアルタイム・ドメイン、EdgeLock®セキュア・エンクレーブ、エッジ向けMLアクセラレーション。
AIの高速化のための手段
Ara DNPUを利用したソリューションの開発に役立つのが、AIモデルを半導体製品やモジュールに導入する作業を効率化する包括的なAraソフトウェア開発キット (SDK)です。
設計・リソース
ディスクリートNPUの詳細についてはこちら
NXPが提供するディスクリート・ニューラル・プロセッシング・ユニット (DNPU) 製品は何ですか？
NXPは2種類のディスクリート・ニューラル・プロセッシング・ユニット (DNPU) を提供しています。Ara-1は、カメラ、組込みシステム、エッジ・サーバなどのエッジで、高いエネルギー効率でAI推論を実行するために最適な第1世代のDNPUです。Ara-2は、最大40 eTOPS (equivalent Tera Operations Per Second) の性能を発揮する、リアルタイム生成AI向けに最適化された第2世代のDNPUです。Ara-1/Ara-2 DNPUはチップまたはモジュールとして提供され、組込みシステムに簡単に追加して高度なAI機能を拡張できるため、既存インフィールド・システムのアップグレードにも対応します。そのため、このソリューションはビジョン、音声、ジェスチャなど、さまざまなマルチモーダルAIを実装する新しいAIアプリケーションに適しています。
NXPはDNPU（つまりAra-2）と統合NPUの両方をSoC（i.MX 95など）に搭載できるわけですが、それによって得られる優位性は何ですか？
ニューラル・プロセッシング・ユニット (NPU) は、ニューラル・ネットワークを高速で実行できるように設計された特殊なプロセッサです。NPUによるローカル処理によって、応答時間の劇的な短縮、プライバシー保護の大幅強化、レイテンシの短縮というメリットが得られますが、そのすべてが、数多くの産業機器アプリケーションや車載アプリケーションにとって重要な要素です。
ディスクリートNPUと統合NPUの両方を提供できるため、お客様の要望に柔軟に対応できます。DNPUは高いパフォーマンスと低レイテンシが求められる特殊なAIタスクに最適ですが、統合NPUは、もっと汎用的なAI処理や消費電力の小さい常駐AI機能に対応することができます。両者を組み合わせることで、インテリジェント・エッジ・システム・アーキテクチャのさらなる最適化と効率化を進めることができます。
NXPのDPNUポートフォリオを利用して提供できる新しい可能性、テクノロジ、機能は何ですか？
NXPのDPNUポートフォリオに、NXPのアプリケーション・プロセッサを組み合わせることで、非常に効率的なフロントエンド処理と高性能AIのワークロードの高速処理を可能にするエンド・ツー・エンドのプラットフォームをお客様に提供できます。NXPは、低消費電力のTinyMLアプリケーション、高性能の生成AIの実装、さらにマルチモーダル・エージェントAIワークフローのシームレス実行まで、強力なAIソリューションの包括的なポートフォリオをお客様に提供します。NXP DNPUはNXPアプリケーション・プロセッサとの統合によって優れた開発者エクスペリエンスをもたらしますが、NXP以外のホスト・プロセッサと組み合わせることもできます。
NXP DNPU製品と代替ソリューションの違いは何ですか？
NXPのDNPU製品の特筆すべき点は、CNNに加えて、高度なエージェントAIユースケースを可能にする視覚言語モデル (VLM) や大規模言語モデル (LLM) などの最先端のトランスフォーマ・ベース・モデルにも対応する、柔軟性と効率性に優れたプログラム可能なコンピューティング＆メモリ・アーキテクチャを実現できることです。NXPのDNPUは動的量子化をサポートするため、低いメモリ要件でシステム・コストを削減しながらパフォーマンスを高めることができます。さらにNXP DNPUは、複数のモデルを処理しながら、切り替えの際にパフォーマンス低下が生じないアーキテクチャを備えています。
NXPアプリケーション・プロセッサとAra DNPUを組み合わせることで、どのようなAIアプリケーションが可能になりますか？
双方のテクノロジを組み合わせることで、次のような幅広いエッジAIアプリケーションが可能になります。
-
マルチモーダル生成AI
音声、ビジョン、テキストなどのさまざまな入力を認識して対応できる、真にインタラクティブでインテリジェントなデバイスを実現します。これは、異なる種類のデータを組み合わせることで深い認識を可能にするマルチモーダル生成AIモデルが普及しつつある現状に適合していると言えます。
-
高度なビジョン処理
自動運転、スマート監視、産業オートメーションなどのアプリケーションに対応する、高度なオブジェクト検出、画像認識、動画分析を実現します。
-
音声処理と自然言語処理
音声アシスタント、音声認識、自然言語理解の機能を改善して、より直感的でシームレスなヒューマン・マシン・インタラクションを実現します。
-
産業オートメーション
予知保全、異常検出、リアルタイム・プロセスの最適化を実現して、効率性を改善し、ダウンタイムを削減します。
DNPU SDKはNXP eIQ® AI SW開発環境に統合されますか？
はい。DNPUのソフトウェア開発キットはNXP eIQ AI SW開発環境に統合され、すべてのNXPエッジAI製品を使用するお客様に適した、シームレスなエクスペリエンスを実現します。この統合開発環境にはモデル・ライブラリとモデル最適化ツールが含まれ、開発者はこの強力なツール群を利用して、AIモデルをエッジへの導入のために最適化することができます。
