Araソフトウェア開発キット

ARA-SDK

Ara AIソフトウェア開発キット (SDK) は、Ara-1およびAra-2ディスクリート・ニューラル・プロセッシング・ユニット (DNPU) およびモジュールへのAIモデルの導入を効率化します。CNN、大規模言語モデル (LLM)、視覚言語モデル (VLM) など、さまざまなモデル・アーキテクチャをサポートする拡張可能なコンパイラを備えています。このSDKを使用することにより、効率的なデータフロー最適化、柔軟な量子化方法、複数のデータ型のサポートを通じて、エッジAIアプリケーションの高パフォーマンスと低レイテンシを確保できます。

ソフトウェア詳細

図

図を選択する。:

機械学習の導入フロー

ARA-1-DNPU-BD

NXPアプリケーション・プロセッサとAra DNPUの接続

ARA-1-DNPU-BD-2

Ara DNPUおよびアプリケーション・プロセッサのホストとドライバの統合

ARA-1-DNPU-BD-3
図を取得する PDF

主な特長

  • AIグラフの効率的なデータおよびコンピューティング・フローを自動的に決定する最適な実行計画
  • CNNから複雑なビジョン・トランスフォーマや大規模言語モデルまで、さまざまなモデルをサポートする拡張可能なコンパイラ
  • プログラミング可能なコンピューティング・エンジンにより、新しいモデル演算子にも簡単に対応
  • 複数のデータ型のサポート - INT8（Ara-1、Ara-2）、INT4、およびMSFP16（Ara-2のみ）を処理
  • データフロー用に最適化されたソフトウェア定義のテンソル分割およびルーティング
  • 柔軟な量子化方法

対応製品

  • ARA-2-DNPU: Ara-2：リアルタイム生成AI向けディスクリートNPU
  • ARA-1-DNPU: Ara-1：エッジAIに最適化されたディスクリートNPU

設計・リソース

ハードウェア

クイック・リファレンス ボードタイプ.
フィルタ

サポート

お困りのことは何ですか？?

  • Narrow your search
検索