このブログ・シリーズの第1部では、NXPのi.MX 95ファミリが最新の機能安全をインダストリアル環境から車載環境までの幅広いエッジ・アプリケーションにもたらすことをご紹介しました。 その次の記事である今回は、i.MX 95ファミリがどのようにしてエッジに高度なAI機能をもたらすのかについて解説します。
わずか数年の間に、AIのイノベーションは飛躍的な成長を遂げました。広く知られているのはChatGPTのようなクラウド・ベースの生成AIアプリケーションですが、実際には、このようなアプリケーションは運用に非常に大きなコストがかかり、膨大なエネルギーを消費します。エッジ・プロセッシングは、データと個人情報をデバイス上に保持することで迅速かつ安全に、効率的にデータを管理できる、魅力的なソリューションです。NXPは従来からエッジ・ソリューションを提供してきた実績があり、NXPの最新製品であるi.MX 95ファミリはそれをさらに新たなレベルへと引き上げる性能を備えています。
NXPのi.MX 95アプリケーション・プロセッサは、エッジにパフォーマンスやセキュリティをもたらします。i.MX 95ファミリが今後のAIデザインに適している理由については、こちらをご覧ください。
i.MX 95ファミリは、エッジでの従来型のMLアプリケーションと生成AIアプリケーションの両方に対応する実用的な処理能力を備えています。i.MX 95ファミリには機械学習を高速化するNXPのeIQ® Neutron NPUが組込まれ、さらにArm® Mali GPUとNXPが開発した画像信号プロセッサを搭載し、没入性の高い3Dグラフィックスを実現します。この強力な構成によって、ビデオ会議システムから工場の大型生産機械まで、あらゆる用途に応用が可能です。
このi.MX 95ファミリのブロック図には、SoCの機能とスタック構成の仕様が示されています。 ブロック図をダウンロードすると、拡大図がご覧いただけます。
AIアプリケーションにおけるi.MXのメリット
以下に、i.MX 95 MPUが適しているAI/MLアプリケーションをいくつか紹介します。
- 外観検査と異常検知:工場にAI対応機器を導入することで、人の目よりもはるかに正確かつ高速に対象物を検査できます
- 音声コマンド:スマート・デバイスは幅広い言葉を理解し、複数の話者が話す内容を同時に聞き取り、個性的なアクセントの音声を正確に処理できます
- フェイス・トラッキングとスピーカー・トラッキング:企業向けビデオ会議アプリケーションでは、カメラが発言者を追跡してその姿を捉え続けることで、議論を円滑に進めることができます
- 背景ノイズの除去:スマート・デバイスで、背景ノイズを除去し、エコー・キャンセルを実行できるため、ユーザーの音声コマンドを明瞭に把握し、ユーザー・エクスペリエンスを改善することができます
- 在室状況モニタリング:スマートホームおよびスマートオフィスのセキュリティ・アプリケーションで、人、物体、動物を追跡できます。自動車の乗員モニタリング機能では、運転者の挙動をチェックすることで、たとえば「よそ見運転」をしていないか確認できます
- 患者モニタリング:医療機器で患者のバイタル・サインを監視し、必要に応じて介護者に警告を発することができます
- ホーム/ビル・オートメーション:空調、家電、ホーム・セキュリティなどをネットワークに接続し、エッジAIを利用してシームレスに制御できます
i.MX 95ファミリで構築されたユースケースの大きな差別化要因となるのは、このプロセッサの優れたパフォーマンスと、その電力効率の高さです。eIQ® Neutron NPUは性能と効率性に優れたAI推論エンジンであり、競争力のあるワット当たりTOPS性能をエッジで実現できます。NXPのエネルギー・フレックス・マルチドメイン・アーキテクチャには、安全性と低消費電力性能の高い、リアルタイム・アプリケーションに対応する独立したプロセッシング・ドメインが含まれています。これにより、動的な電力消費モードと低消費電力モードをきめ細かく制御できるため、SoCの大部分に電力を供給しなくてもプロセッサを動作させることができます。
i.MX 95ファミリは、外観検査や異常検出など、さまざまなエッジAIアプリケーションをサポートしています。
AIを利用したエッジでのマシン・ビジョン
i.MX 95 SOCに搭載されたニューラル・プロセッシング・ユニット (NPU)、イメージ・シグナル・プロセッサ (ISP)、ビデオ・プロセッシング・ユニット (VPU) がすべて連携して動作することで、効果的なマシン・ビジョン機能をエッジで実現します。NXPのeIQ Neutron NPUは、ホーム・コントロール・パネル、通路のビデオ監視、ファクトリ・オートメーションまで、最新のビデオ・プロセッシング機能をサポートしています。ユーザーはこのNPUでシーン・セグメンテーション、ライブ・ビデオのアップスケーリング、ノイズ除去などの高度なAIモデルを実行して、高品質のビデオ映像を出力できます。
i.MX 95ファミリは、クラウドに情報を送ることなく複数のビデオ映像ストリームを同時に処理することもできます。MIPI仮想チャネルを備えたMIPI-CSI 4レーン・インターフェースを2つ備えているため、内蔵ISPは最大8個のRAWカメラ・センサをサポートします。低光量下での画質を高めて顔認識の精度を高めることを目的に、このISPは可視光と赤外線光を同時に捉えるRGB-IRカメラをサポートしています。
開発の効率化
お客様が開発プロセスを簡素化できるように、NXPのeIQ® AIソフトウェア開発環境では以下の一般的なプラットフォームがサポートされます。
- TensorFlowおよびLiteRT (fka TensorFlow Lite)
- Pytorch / Executorch
- ONNXおよびONNX RT
さらにこのプラットフォームは、CNN、MLP、RNN、LSTM、TCN、LLM/SLMなど、さまざまなニューラル・ネットワーク構造もサポートします。
ニューラル・ネットワークの構造をさらに簡素化できるよう、eIQ AI/ML開発ソフトウェアにはNVIDIA TAO Toolkit APIが統合されているため、開発者はトレーニングと調整が施された膨大な数のAIモデルを確認して、i.MX 95プロセッサに導入することができます。
開発者はeIQ AIソフトウェア環境で、エッジAIに革新をもたらすために必要なツールを利用できます。
さらにNXPは、開発者が容易に生成AIモデルをカスタマイズして、エッジ・アプリケーション向けに最適化できるようにする取り組みを進めています。NXPではeIQ開発ソフトウェアにGenAI Flowを追加しようとしています。これにより、お客様はその分野に固有のノウハウと社内データに基づいてモデルを安全にトレーニングできます。たとえばこの機能を利用して、LLMにユーザー・マニュアルを学習させると、チャットボットが特定の製品に関するユーザーからの質問に答えられるようになります。
i.MX 95プロセッサが備える広範なAI機能から、NXPの総合的な開発者向けツールまで、このi.MX 95シリーズはスマートホーム、スマートオフィス、自動車、インダストリアル環境、病院などのエッジで、強力なマシン・ビジョン機能を実現できます。
i.MX 95シリーズを今後のプロジェクトで使用することにご興味がある方は、i.MX 95の製品ページで詳細をご確認ください。
また、このブログ・シリーズの第3部では、i.MX 95ファミリがクラス最高のコネクティビティとセキュリティ機能をどのように実現しているのかについてご紹介します。