コンパクトリスト
Ara-2 USBモジュール：生成AIのワークロードに対応する高性能
Ara-2 USBモジュールは、最大で40 eTOPS（毎秒40兆回の演算に相当）の性能を発揮し、高い電力効率でハイパフォーマンスなAI推論を実行できます。生成AI、大規模言語モデル (LLM)、視覚言語モデル (VLM) などのリアルタイムAIワークロードをサポートし、コンピューティング・システムと組込みシステムがパフォーマンスの低下なしで複数のモデルを同時に実行できるようにします。このモジュールは、視覚的およびテキスト的なコンテンツを処理でき、エッジAIの導入に向けて生産性と機能を強化します。
製品詳細
ブロック図
対応製品
プロセッサ＆マイクロコントローラ
Discrete Neural Processing Units
- ARA240: Ara-2：リアルタイム生成AI向けディスクリートNPU
i.MX 8アプリケーションプロセッサ
- i.MX8MPLUS: i.MX 8M Plus - Arm® Cortex®-A53、機械学習、ビジョン、マルチメディア、インダストリアルIoT
i.MX 9プロセッサ
- i.MX95: i.MX 95アプリケーション・プロセッサ・ファミリ：eIQ® Neutron NPUを内蔵した高性能のセーフティ対応プラットフォーム
特長
AIモデル・フレームワーク
- TensorFlow
- PyTorch
- ONNX
サポートされるAIモデル・アーキテクチャ
- 畳み込みニューラル・ネットワーク (CNN)
- トランスフォーマ・モデル
- 大規模言語モデル (LLM)
- マルチモーダル言語モデル (MMLM)
- 視覚言語モデル (VLM)
- 視覚言語アクション (VLA)
性能
- 最大40 eTOPS*
セキュリティ
- セキュア・ブート
- RoT (Root of Trust) プロセッサ
メモリ (LPDDR4)
- 8 GBまたは16 GB（すべてのユーザー・モデルを格納）
オペレーティング・システムのサポート（ランタイム）
- Linux
ホスト・インターフェース
- USB3 Gen 2 (10 GB/s)
寸法 (W x L)
- 30 mm x 80 mm