What machine learning model formats are supported by eIQ Auto?

eIQ Auto supports models from TensorFlow (Protobuf and Keras), PyTorch, as well as the ONNX interchange format and TensorFlow Lite (support varies depending on the underlying platform and backends).

What inference engines are supported by eIQ Auto?

eIQ Auto supports a range of inference engines including multiple open source offerings, hardware specific engines and a proprietary option developed under an ASPICE process. All the engines are unified under the common eIQ Auto model preparation workflow and runtime API.

Does eIQ Auto enable machine learning models to be executed on multiple processor cores?

Yes. The eIQ Auto runtime supports heterogenous execution with multiple runtimes and multiple processor cores. We can support many scenarios, configured using the eIQ Auto model preparation tools and executed with the eIQ Auto runtime libraries: A single model can be split, and the different parts can run either on the same core or different cores. Multiple models can run on different cores simultaneously.

Does eIQ Auto support execution on x86 processors?

Yes. The core eIQ Auto runtime libraries and certain inference engines are supported on x86 Linux, allowing you to fully prototype and evaluate your application on your host processor with eIQ Auto APIs before embedded deployment.

Does eIQ Auto support machine learning development beyond deep learning (neural networks)?

Yes. eIQ Auto has interfaces to support both deep learning and classical machine learning algorithms, as well as support for custom operations being executed by the eIQ Auto runtime.

Does eIQ Auto come with example ML models and applications?

Yes. The eIQ Auto installation includes a set of tutorials demonstrating the end-to-end development flow including model preparation on the host and verification of the runtime application, a set of demos showing more advanced features of the runtime, and a model zoo with additional application examples.

ソフトウェア

eIQ® Auto MLソフトウェア開発キット

NXP eIQ® Auto機械学習 (ML) ソフトウェア・キットは、AIに関する深い専門知識を必要とせずに、インテリジェントな車載ソリューションを開発できるよう支援します。この包括的な開発スイートにより、MLアプリケーションのシームレスな準備、コンパイルに加え、ARM® Cortex®コアやニューラル・アクセラレータを含む、NXPのS32車載プロセッサ＆マイクロコントローラへの導入が可能になります。柔軟でスケーラブルなフレームワークとオープン・エコシステムを備えたeIQ Autoは、精度、性能、安全性、効率性、信頼性というコア・バリューを維持しながら、車両へのリアルタイム・インテリジェンスの統合を容易にします。

eIQ® Autoの開発フロー
eIQ® Autoのユース・ケースの例
S32ファミリ・ハードウェア・アクセラレータ
パートナー・エコシステム
よくある質問 (FAQ)
設計・リソース
ドキュメント

eIQ® Autoの開発フロー

eIQ® Auto機械学習 (ML) ツールキット

MLを最適化してS32車載マイクロコントローラおよびマイクロプロセッサに導入するための包括的なフレームワーク
広範な最適化ツールとModel Zoo

Model ZooはeIQ® Autoリリース・パッケージに含まれています

車載品質オプションを含む、複数の推論エンジンの選択肢を備えた統合API
マルチコアでMLワークロードを実行

eIQ® Autoのユース・ケースの例

NXP eIQ® Auto機械学習 (ML) ソフトウェア開発キットを使用すると、さまざまなMLアルゴリズムを導入して、SDV E/Eアーキテクチャに必要なコンピューティング・リソースを実現することができます。適切な車載マイクロコントローラとマイクロプロセッサを選択することで、この統合MLソフトウェア開発キットは次のユース・ケースに対応します。

車載ユース・ケースの例	製品	アクセラレータ
インテリジェント・データ・オーケストレータ車両を介してAI/MLやその他のタスクをインテリジェントに管理し、デターミニスティックなタスク実行を実現します	S32G	Arm® A53 (Neon)
仮想センサハードウェア・センサを置き換えたり、モーター内部など、以前はアクセスできなかった場所に導入したりできます	S32車載プロセッシング・プラットフォーム	eIQ® Neutron (NPU) Arm® R52 (Neon) Arm® A53 (Neon) DSPAI/MLアクセラレータ Arm® M7
予知保全個々の車両からのリアルタイム・データを利用して、フリート内の異常を防止します	S32車載プロセッシング・プラットフォーム
イメージング・レーダーカメラやLiDARへの依存度を低減したレーダーベースの物体分類	S32G	Arm® A53 (Neon)
イメージング・レーダーカメラやLiDARへの依存度を低減したレーダーベースの物体分類	S32R45	Arm® A53 (Neon)
オーディオ ADASのために、ノイズの多い環境で緊急車両のサイレンを識別し、サイレン音の位置を特定します	S32G	Arm® A53 (Neon)
オーディオ ADASのために、ノイズの多い環境で緊急車両のサイレンを識別し、サイレン音の位置を特定します	SAF9100	DSP AI/MLアクセラレータ

S32ファミリ・ハードウェア・アクセラレータ

eIQ® Neutronニューラル・プロセッシング・ユニット (NPU)

専用のAI/ML推論アクセラレータ

インライン逆量子化、活性化、プーリング
消費電力を削減し、システム・メモリ速度への依存を軽減する超小型キャッシュを内蔵
ストライディング、バッチ処理、インターリーブ、連結などの入出力形式に対応する高度な多次元DMA
重み圧縮伸長エンジン
構成可能な結合メモリ

DSP

信号処理、オーディオおよびセンサ・フュージョン

高スループット・ベクトル演算に最適化
デターミニスティックなDSPワークロードに使用
固定小数点演算と浮動小数点演算をサポート

Arm® Neon

Arm Cortex-AおよびCortex-Rシリーズ・コア向けの高度なSIMD (Single Instruction Multiple Data) アーキテクチャ拡張。

パートナー・エコシステム

eIQ Auto ML SDKに関するよくある質問 (FAQ)

eIQ Autoでサポートされている機械学習モデルのフォーマットは何ですか？

eIQ Autoは、TensorFlow（ProtobufとKeras）、PyTorch、ONNX交換フォーマット、TensorFlow Liteの各モデルをサポートしています（サポートは基盤となるプラットフォームとバックエンドによって異なります）。

eIQ Autoでサポートされている推論エンジンは何ですか？

eIQ Autoは、複数のオープンソース製品、ハードウェア固有のエンジン、ASPICEプロセスで開発された独自のオプションなど、さまざまな推論エンジンをサポートしています。すべてのエンジンは、eIQ Autoのモデル準備に対応した共通のワークフローおよびランタイムAPIによって統合されています。

eIQ Autoでは、機械学習モデルを複数のプロセッサ・コアで実行できますか？

はい。eIQ Autoランタイムは、複数のランタイムと複数のプロセッサ・コアを使用した異種実行に対応しています。多くのシナリオがサポートされ、eIQ Autoモデル準備ツールを使用して構成し、eIQ Autoランタイム・ライブラリで実行できます。

1つのモデルを分割し、各部分を同じコアまたは異なるコアで実行できます。
複数のモデルを異なるコアで同時に実行できます。

eIQ Autoはx86プロセッサでの実行をサポートしていますか？

はい。コアとなるeIQ Autoランタイム・ライブラリと特定の推論エンジンがx86 Linuxでサポートされており、組込み環境への導入前に、ホスト・プロセッサ上でeIQ Auto APIを使用してアプリケーションのプロトタイプ作成と評価を完全に実行可能です。

eIQ Autoは、ディープ・ラーニング（ニューラル・ネットワーク）を超えた機械学習開発をサポートしていますか？

はい。eIQ Autoには、ディープ・ラーニングと従来の機械学習アルゴリズムの両方をサポートするインターフェースがあり、eIQ Autoランタイムによって実行されるカスタム操作もサポートされています。

eIQ Autoには、MLモデルとアプリケーションのサンプルが付属していますか？

はい。eIQ Autoのインストールには、ホストでのモデルの準備からランタイム・アプリケーションの検証まで含めたエンドツーエンドの開発フローを示す一連のチュートリアル、ランタイムのより高度な機能を示す一連のデモ、追加のアプリケーション・サンプルを含むModel Zooが付属しています。

設計・リソース

S32G、i.MX、S32Vプロセッサ向けのeIQ機械学習ソフトウェアおよびeIQ Auto

タイプ：オンデマンド

eIQ機械学習ソフトウェアとeIQ Autoについて学び、S32G、i.MX、i.MX RT、S32Vプロセッサ向けの推論エンジン・オプションについて詳しく理解できます。

組込みプロセッシング向けディープ・ラーニングとニューラル・ネットワークの簡素化

タイプ：オンデマンド

NXP eIQ® Autoディープ・ラーニング・ツールキットの実装と構成について学習し、ハードウェアのカスタマイズのノウハウがなくてもDLを最適化および実装できるようになります。

NXP eIQ® Autoで車載用組込みプロセッサにディープ・ラーニング・アルゴリズムを簡単に導入

タイプ：オンデマンド

NXP eIQ® Autoディープ・ラーニング・ツールキットを使用して、これらの課題に対処する方法、さらには量産自動車にディープ・ラーニングを導入するための最適化されたワークフローの例をご紹介します。