- Smarter Worldブログ
- NXPとSonatusが車載エッジAI導入を加速
NXPとSonatusが車載エッジAI導入を加速
自動車業界のOEMメーカーやサプライヤは今や車載AIの可能性を最大限に引き出す道を切り開いています。NXP eIQ® Auto MLソフトウェア開発環境とNXPのS32車載プロセッシング・プラットフォームを統合したSonatus AI Directorは、応答性、信頼性、その他の性能上の課題に対する制約を克服するために設計された、AIワークロードをローカルで実行するための包括的なエッジAIツールチェーンを備えています。
自動車メーカーによるAIの採用が増えているにもかかわらず、イノベーションは主にクラウドベースの実装、インフォテインメント・システム、自動運転に限定されています。これらのアプリケーションはそうした環境に適していますが、AIの可能性を完全に解き放って車両の主要機能を実現するために必要なリアルタイム、低レイテンシで、信頼性が高く、安全でセキュアな機能を提供しません。このギャップは、車載AIコンピューティングを活用したレイテンシの削減、応答時間の短縮、データ伝送コストの低減、独自のアルゴリズムと知的財産の保護、プライバシー強化を実現する大きなチャンスとなっています。
現在、NXPとSonatusは協力して、OEMやサプライヤに車載AIの開発を加速する統合プラットフォームを提供しています。NXP eIQ Auto MLソフトウェアを統合したSonatus AI Directorは、NXPのS32車載プロセッシング・プラットフォームを利用して、幅広いユース・ケースに対応するエッジAIモデルを展開し、実行します。このハードウェアとソフトウェアの組み合わせは、リアルタイムの意思決定、適応行動、そして自律性を実現する機能を車載エッジに提供します。Sonatus AI Directorは、自動車生産モデル全体に拡張できるAI機能の可能性を広げます。
よりスマートかつ迅速に開発を開始しましょう。eIQ Auto MLソフトウェア開発環境を確認し、コンセプトから展開までの取り組みを加速してください。
エッジでセーフティ・クリティカルなAIアプリケーションを実現する、迅速でスケーラブルなAI導入
開発者は、AIコンピューティングをローカルで実行することで、レイテンシを削減し、応答性を高め、データ伝送コストを低減し、独自のアルゴリズムとIPを保護することができます。
Sonatus AI Directorは、NXP eIQ Auto MLソフトウェアに加え、車載ネットワークからAIモデルへのデータ・フローを最適化することにより、AIモデルをトレーニング、検証、展開するための包括的なエンドツーエンドのツールチェーン向けの高性能ネットワーク・アクセラレータを含む、S32車載グレード・プロセッシングIPを搭載しています。このサポートにより、AIライフサイクル全体を通じて、OEMがNXPハードウェア・プラットフォーム全体でAIワークロードを開発および拡張できる開発環境が提供されます。
図をダウンロードすると、拡大図がご覧いただけます。 NXP eIQ Auto MLソフトウェアは、組込みデバイスでMLモデルを実行するための一貫したワークフローを提供します。その統合アプリケーション・プログラミング・インターフェース (API) は、GLOW、TensorFlow Lite、Open Neural Network Exchange (ONNX)、Arm® CMSIS-NNなど、車載グレードのさまざまな推論エンジンとニューラル・ネットワーク・バックエンドをサポートしています。また、NXPのeIQ Autoは、ニューラル・ネットワーク・コンパイラと幅広いライブラリおよびコンピューティング・エンジンを統合して、高度なML機能で柔軟にイノベーションを起こすことができるようにします。eIQ Auto MLとSonatus AI Directorを組み合わせることで、コストを削減し、開発を加速して、お客様に新しい機能をもたらすための安全で信頼性が高く、アクセスしやすいプラットフォームが手に入ります。
eIQ AutoとSonatus AI DirectorによるMLモデルの最適化
eIQ Autoモデルの最適化を評価するために、Sonatus AI Directorを使用して、Ubuntu 22.04を実行しているNXP GoldBoxで3つのエンジン異常検知モデルのベンチマークを測定しました。eIQ Auto MLで最適化されたC++バージョンでは、パフォーマンスとメモリ効率が大幅に向上し、Glowでコンパイルされたモデルが最良の結果をもたらしました。
パフォーマンスの向上と基準となるPythonバージョン
| 測定基準 | C++ / eIQ Auto MLとONNXRuntime（Pythonと比較） | C++ / eIQ Auto MLとGlow（Pythonと比較） |
|---|---|---|
| 平均推論時間 | 5分の1に短縮 | 8分の1に短縮 |
| CPU使用率 | 3.5倍削減 | 4.25倍削減 |
| 常駐メモリ (RSS) | 3.5倍削減 | 8.4倍削減 |
| 仮想メモリ (VMEM) | 4倍削減 | 144倍削減 |
複雑な車載環境におけるスケーラブルでセキュアなAI実行
AIワークロードをローカルで実行するのに必要なのは、MCU、マイクロプロセッサ・ユニット (MPU)、ニューラル・プロセッシング・ユニット (NPU) などの異種混在のコンピューティング環境に適したプロセッシング・プラットフォームと、さまざまな機能にわたるスケーラブルでセーフティ・クリティカルなAIに必要な安全な実行です。今日の自動車は処理能力が高まっているものの、マルチステップの機械学習オペレーション (MLOps) ワークフローの複雑さを克服するのは難しいでしょう。そこで役立つのがS32プラットフォームです。その組込みアクセラレータにより、車載ネットワークからSonatus AI Directorプラットフォームへのデータ・フローを最適化し、エッジベースのデータ・キャプチャとリアルタイム・フィードバック・ループを実現できます。
S32プラットフォームにより、アクセス権限を維持しながらCPUリソースを効果的に割り当てることができ、複数のモデルのリアルタイム処理、仮想化、およびセキュアな実行環境をサポートします。つまり、IPを保護し、リアルタイム・アプリケーションに干渉することなく信頼性の高い実行をサポートする方法でAIモデルをホストできます。
自動車業界がソフトウェア・デファインド・ビークルへの移行を続ける中、消費者はインフォテインメントや自動運転にとどまらないドライバー向けの機能を期待しています。NXPの商用グレードのeIQ Auto MLソフトウェアとS32車載プラットフォームを活用するSonatus AI Directorは、OEMが現在の設計上の制限を打破し、リアルタイムの意思決定、適応行動、自律機能を車両内で直接実現するのに役立ちます。
著者紹介
Nikhil Reddy Kothapally
Nikhilは、SDVアーキテクチャのソフトウェア戦略を推進し、顧客中心のモジュール式の開発ツールを形作っています。OEMやTier1各社で車載ソフトウェアを10年以上担当し、高性能コンピューティング・デバイスに対応したクラウドベースのDevOpsとエッジAI統合を利用したSDV向け仮想環境の開発をリードしています。SAFe Agilistの認定を受けているNikhilは、Indian Business SchoolのProduct Management資格も持っています。
Kushal Shah
Kushalは北米地域の製品マーケティングをリードし、車載プロセッサ製品に焦点を当てたAIイニシアチブを推進しています。高度な技術職における豊富な経験を持ち、最近ではシステム・アーキテクチャに携わり、戦略的ビジョンと実践的な専門知識を独自に組み合わせています。テクノロジに情熱を注ぎ、お客様のニーズを絶えず重要視しているKushalは、イノベーションと実際のアプリケーションを一貫して連携させています。