AIは急速に進化し続けていますが、中でもある特定のトレンドの勢いが加速しています。それは、インテリジェンスが実際にデータが生成される場所へと近づいているということです。ロボティクス、産業オートメーション、スマート・インフラ、自律型システムなどさまざまな分野にわたって、AIは認識から生成、そして行動へと進化しています。システムは、クラウドにデータを往復させることなく、情報を解釈し、意思決定を行い、リアルタイムで対応することがこれまで以上に求められています。
AIが物理世界に進出しており、開発者にとって、電力、メモリ、セキュリティ、システムの複雑さの間でバランスを取りながらインテリジェンスを拡張できるプラットフォームが必要となっています。
現実世界のシステム向けに構築されたスケーラブルなハードウェア、ソフトウェア、エコシステムのサポートにより、エッジでの信頼できるフィジカルAIを加速させましょう。Ravi Annavajjalaが、エッジでのAIアクセラレーションに関する最新のトレンド、課題、および今後の展望について、NXPのEdgeVerse Techcastポッドキャスト（Youtube 、Spotify 、Apple にて公開）で詳しく説明しています。是非お聴きください。
AIの導入が加速するにつれて、エッジAIは業界で共通の関心事となっています。今日のほぼすべてのプラットフォームで、ある程度のAI推論能力が要求されています。しかし、多くの場合、組込み開発者にとって課題となるのは、AIを追加することではなく、既存の電力バジェット、セキュリティ要件、組込みアーキテクチャにAIを問題なく実装できるかどうかです。
消費電力を増大させることなく既存の組込みシステムにインテリジェンスを取り込もうとすると、統合が複雑になるか、またはセキュリティや安全性に関する新たな懸念が生じます。開発者にとって、次のような複数の要因のバランスを同時に図ることがますます必要となっています。
AIの実装では、組込みシステムにおいて最も重要な特性である予測可能な動作、管理可能なパワー・バジェット、および合理化された開発ワークフローを維持しつつ、インテリジェンスを実現することがその成功を左右します。
AIは、もはや単なる独立した認識タスクではなく、コンテキストを解釈し、意思決定を行い、リアルタイムで行動できる全体的なシステムへと進化しています。音声、ビジョン、センサ、制御システムは、エッジでのインテリジェントかつ自律的な動作を実現するために、これまで以上に動的に協調するようになっています。
産業用倉庫の環境で動作するモバイル・ロボットについて考えてみましょう。それには以下のタスクが必要な場合があります。
これらのタスクは非常に重要です。なぜならば、リアルタイムで同時に実行する必要がある場合が多く、エッジでの処理、メモリ、および電力リソースに負荷がかかるからです。アプリケーション・プロセッサが進化し続ける一方で、低レイテンシのAI推論の需要はそれ以上に急速な高まりをみせています。システム・アーキテクチャを刷新することなくAIの能力を高められる手段を見つけることが課題となっています。
専用のAIアクセラレーションは、システム設計に異なるモデルをもたらします。開発者にとっては、プライマリ・プロセッサにすべてのタスクの処理を要求ことするよりも、ニューラル・ネットワークの推論だけでなく、ビジネス・ロジックと物理的アクセスや制御ゲートウェイをつなげる完全なエンド・ツー・エンドのAIワークロードをサポートできるシステム・アーキテクチャが必要です。これには、システムレベルのタスクは引き続きホスト・プロセッサに任せながら、高度なワークロードは特化型のAIアクセラレーション・ハードウェアで実行できるようにする必要があります。
NXPのAra240ディスクリート・ニューラル・プロセッシング・ユニット (DNPU) は、この原則に基づいて設計されています。開発者は、専用AIコンパニオン・プロセッサであるAra240により、システム・アーキテクチャの他の部分からは独立してAIのパフォーマンスを拡張することができます。
コンピュータ・ビジョン、視覚言語モデル (VLM) などのマルチモーダルなトランスフォーマ・ベース・モデル、大規模言語モデル (LLM) といった高度なAIワークロードをDNPUにオフロードしながら、ホスト・プロセッサはコネクティビティ、セキュリティ、ユーザー・インターフェース、およびリアルタイム制御に対応し続けることができます。このアプローチにより、お客様はプラットフォーム全体を再設計することなく、より高度なAI機能を導入できるようになります。このようにアーキテクチャを切り離すことで、次のことが可能になります。
また、ローカルでのAIの処理により、機微なデータを常にデバイス上に保持し、クラウド・リソースへの依存を減らすことができます。Ara240は、NXPのアプリケーション・プロセッサと組み合わせることで、AIモデルやワークロードの変化に合わせて進化できる、より柔軟で将来に備えたエッジAIシステムを構築するのに役立ちます。
ハードウェア・アクセラレーションは、ソリューションの一部にすぎません。開発者には、モデルの開発や最適化を簡素化し、さまざまな処理環境での信頼性の高い実装をサポートするソフトウェア・ツールも必要です。NXPのeIQ® AIソフトウェア開発環境は、モデルの最適化や実装、NXPのマイクロコントローラ (MCU)、マイクロプロセッサ (MPU)、AIアクセラレータにわたるパフォーマンスのチューニング向けのツールを提供し、開発者が実験から本番環境へと進むのに役立ちます。
共通のAIフレームワークとスケーラブルな実装ワークフローのサポートは、開発者が統合の複雑さを軽減し、かつ複数の製品世代にわたってAIへの投資を再利用するのに役立ちます。eIQは、NXPのハードウェア・プラットフォームやエコシステム・パートナーと組み合わせることで、概念実証 (POC) から本番環境のシステムへの移行を加速させます。
開発者は、eIQ AIソフトウェアの一部となることが予定されているAraソフトウェア開発キット (SDK) を使用することで、ベンチマーキングまたは実装向けのモデルをコンパイルし、Hugging FaceのAra240 Model ZooでAra240用に最適化された既存のモデル・バイナリを実行できるようになります。
パワフルなシリコンだけでは、今日のAI開発での課題を解決することはできません。組込みシステムの構築チームには、開発プラットフォーム、ソフトウェアのサポート、システム統合のガイダンス、長期的な製品戦略（ライフサイクル全体を通じたサポート）が依然として必要です。そこで、エコシステムの連携が重要な役割を果たします。
F&S やGateworksなどのシステム・プロバイダは、他のエコシステム・パートナーとともに、プロセッシング・テクノロジを実装可能なプラットフォームへと変換し、設計サイクルの初期段階において複雑さを軽減するのに役立ちます。開発者は、白紙のハードウェア設計から始めるのではなく、メモリ・レイアウト、パワー・マネジメント、熱に関する考慮事項、ソフトウェア・サポート、ライフサイクル計画が既に組み込まれたソリューションを使用して、開発を開始することができます。
AIワークロードが拡張し続けている中、多くの開発者は、これまで別々の領域に存在していた複数の要件を同時に実現しなければならないという、よくある課題に直面しています。最新のシステムでは、Linux環境、AIフレームワーク、コンパイラ、リアルタイムの応答性、機能安全アーキテクチャを1つのプラットフォームに統合することが、これまで以上に求められています。
これは、ロボティクスやインテリジェントな自律型システムにおいて特に顕著であり、これらの領域では、開発者は、複数のカメラ・ストリームの管理、AI推論の実行、ロボット・オペレーティング・システム2 (ROS 2) などのフレームワークのサポート、安全性重視の操作の維持といった要件に同時に対処しなければならない場合があります。
F&Sは、ハードウェア、ソフトウェア、および長期サポートを包括的な開発アプローチに組み込んだ統合組込みプラットフォームを通じて、この課題に対処しています。単にモジュールを提供するのではなく、ハードウェアのカスタマイズ、Linuxボード・サポート・パッケージ (BSP) のサポート、熱設計に関する考慮事項、セキュリティの統合、ライフサイクル管理など、プロジェクトのライフサイクル全体にわたってサポートが提供されます。
その一例として、NXPのi.MX 95アプリケーション・プロセッサとAra240 DNPUを組み合わせて、ロボティクス、マシン・ビジョン、自律型システム、安全性重視のアプリケーションに適したスケーラブルなプラットフォームを構築しています。このアーキテクチャでは、i.MX 95はコネクティビティ、セキュリティ、制御機能といったシステムレベルの役割を担い、Ara240は高度なニューラル・ネットワーク・ワークロードに対応する専用AIアクセラレーションを提供します。
これによって開発者は、慣れたLinuxやROSベースの開発環境から離れることなく、AI、リアルタイムの応答性、機能安全を組み合わせたシステムを構築できます。自律型システムの能力が向上するにつれて、インテリジェンス、制御、信頼のバランスを取ることががますます重要になっています。
F&S ElektroniksystemのAndreas Kopitz氏が、NXPのAra 240とi.MX 95システム・オン・チップ (SoC) を組み合わせて使用し、特にロボティクスおよび自律型システム向けのエッジAI製品の構築を開始する方法について、Edgeverse Techcast（YouTube 、Spotify 、Apple にて公開）で詳しく説明しています。是非お聴きください。
多くの組込み開発者にとって、課題とは単にAI機能を追加することではなく、AI対応システムを本番環境に導入する際の複雑さを軽減することです。Gateworksは、スケーラブルなAIプラットフォームを実際の実装に取り入れることで、NXPのエッジAIおよびロボティクス戦略をサポートしています。産業用ハードウェアをゼロから構築するには、パワー・マネジメント、熱設計、メモリ構成、ソフトウェアの統合、長期的なメンテナンスなどに関して多大な労力が必要になる可能性があります。これらの課題は、AIワークロードが従来のコンピュータ・ビジョンからマルチモーダルな生成AIアプリケーションへと進化するにつれて、より顕著になっています。
Gateworksは、NXPのテクノロジをベースに構築された産業グレードのシングルボード・コンピュータ、AIアクセラレーション・モジュール、開発キットを通じて、このプロセスの簡素化を支援します。その一例がGW11062-1開発キットです。これは、NXP i.MX 95アプリケーション・プロセッサと、NXP Ara240 DNPUを搭載したGateworks GW16168 AIアクセラレータを組み合わせたものです。この統合プラットフォームは、特にフロンティアAIモデルのサポート向けに、高度なエッジAIアプリケーションの評価および実証のためのすぐに使用できる環境を提供します。開発者は開発の労力を削減し、市場投入までの時間を大幅に短縮できるようになります。
i.MX 95とAra240を組み合わせることにより、コネクティビティ、セキュリティ、ユーザー・インターフェース、制御などのシステム機能は従来のようにホスト・プロセッサで実行され、AI推論のワークロードは専用のアクセラレーション・ハードウェアにオフロードされる、スケーラブルなアーキテクチャが可能になります。このアプローチにより、開発者はシステム・アーキテクチャ全体を再設計することなく、AIの能力を向上させることができるようになります。
Gateworksは、実装対応のハードウェアとソフトウェアを提供することで、自律型モバイル・ロボットや産業オートメーション、スマート・エネルギー・システム、インテリジェント・インフラストラクチャなどさまざまなアプリケーションで、開発者がPOCから本番環境へより迅速に進めるようにします。
Hailey Terrones氏が、Gateworksとともに加速するAIの未来の展望を掘り下げ、インダストリアルAIがどのようにクラウドのデモを超えて現実世界のミッション・クリティカルなエッジ・システムに移行しているのかをEdgeVerse Techcast（YouTube 、Spotify 、Apple にて公開）で詳しく説明しています。是非お聴きください。
エッジAIは、POCのデモを超えて現実世界のシステムに移行しています。
開発者は、セキュリティ、安全性、パフォーマンス、電力の制約の間でバランスを図りながら、厳密な応答時間内で見る、聞く、感じる、理解する、決定することが可能な製品を構築することが求められています。
これらの期待に応えるには、コンピューティング・リソースの追加以上のことが必要です。これには、拡張を前提に設計されたアーキテクチャと、開発者がアイデアから実装可能なシステムへと進むのに役立つエコシステムが必要です。
業界の姿勢は、単にAI機能を追加することから、物理世界で認識し、推論し、行動できるシステムを実現することへと移行しています。インテリジェンスと、電力、メモリ、セキュリティ、安全性、システム全体の複雑さなどの組込み設計の現実とのバランスを図ることがその成功を左右します。
エッジAIの未来は、単にモデル・サイズやベンチマークのパフォーマンスによって定まるわけではありません。それは、現実世界の問題を解決し、市場投入までの時間を短縮する、セキュアかつスケーラブルな省電力システムにインテリジェンスをどれほど効率的に取り込めるのかによって定まります。
C.H. Chee is a Product Marketing leader at NXP Semiconductors with extensive experience in embedded computing, AI and semiconductor and system solutions. He helps bridge technology and market needs by defining product requirements and enabling customer success across multiple markets.