コンパクトリスト
Ara-2 M.2 (M-Key) モジュール：40 eTOPSで生成AIワークロードに対応
Ara-2 M.2 (M-Key) モジュールは、最大で40実効TOPS (eTOPS) の性能を発揮し、高い電力効率でハイパフォーマンスなAI推論を実行できます。大規模言語モデル (LLM)、視覚言語モデル (VLM)、トランスフォーマ・ベース・モデルなどのコンピューティング要求に対応するよう設計されたこのコンパクトなモジュールは、エッジAIアプリケーションの実現またはアップグレードに最適です。パフォーマンスを低下させることなく、複数のAIモデルを同時に実行できます。
製品詳細
ブロック図
対応製品
プロセッサ＆マイクロコントローラ
Discrete Neural Processing Units
- ARA-2-DNPU: Ara-2：リアルタイム生成AI向けディスクリートNPU
i.MX 8アプリケーションプロセッサ
- i.MX8MPLUS: i.MX 8M Plus - Arm® Cortex®-A53、機械学習、ビジョン、マルチメディア、インダストリアルIoT
i.MX 9プロセッサ
- i.MX95: i.MX 95アプリケーション・プロセッサ・ファミリ：eIQ® Neutron NPUを内蔵した高性能のセーフティ対応プラットフォーム
特長
AIモデル・フレームワーク
- TensorFlow
- PyTorch
- ONNX
サポートされるAI モデル・アーキテクチャ
- 畳み込みニューラル・ネットワーク (CNN)
- トランスフォーマ・モデル
- 大規模言語モデル (LLM)
- マルチモーダル言語モデル (MMLM)
- 視覚言語モデル (VLM)
- 視覚言語アクション (VLA)
性能
- 最大40 eTOPS*
セキュリティ
- セキュア・ブート
- RoT (Root of Trust) プロセッサ
メモリ (LPDDR4)
- 8 GBまたは16 GB（すべてのユーザー・モデルを格納）
オペレーティング・システムのサポート（ランタイム）
- Linux
- Windows
ホスト・インターフェース
- 4レーンPCIe Gen 4
寸法 (W x L)
- 22 mm x 80 mm