AIのそもそもの活用方法について検討している人たちがいる一方で、NXPはその先を見据え、「どうすればAIを安全で信頼性が高く責任ある方法で活用できるのか」を問い続けています。そこでは「責任あるAI」が中心的な役割を果たし、テクノロジ、政府、および経済界のリーダーとの連携が実現します。
あなたが友達と会って夕食をするために車を運転中で、大好物の食事を楽しみに興奮気味であるとします。それらの友人たちと会うのは久しぶりなので、最高の身だしなみを心がけています。しかし、運転の途中で突然車からアラームが鳴り続け、それがどうしてなのかわかりません。しっかりと運転しているにもかかわらず、車のドライバー監視システム (DMS) に漫然運転のアラート通知が表示されています。
知らない間にこのような状況が発生する理由は、車両のコンピュータ・ビジョンに搭載された人工知能 (AI) モデルで使用されているトレーニング・データによるものです。どうやらAIモデルのトレーニング・データに、女性のドライバーは「身だしなみに気を取られる」傾向があるというバイアスがあり、なんらかの理由でライブ入力を誤認識したようです。これは、トレーニング時における人々の微妙な偏見の結果として起こります。
エッジAIの開発を取り巻く課題や規制環境について理解しましょう。責任あるエッジAIのイネーブルメントに関するホワイトペーパーをお読みください。
責任あるエッジAIの開発におけるリスク
これはAIでのデータの分析や予測に伴うリスクの事例であるのみならず、AIやMLのシステムにおける公平性および堅牢性の問題と、それらが現代の生活に及ぼす影響についての事例でもあります。トレーニング・データに存在する誤ったバイアスのために個人が金融サービスを拒否される場合があるのと同じように、エッジAIもまた、適切な対策やリスク・アセスメントが講じられなければ差別を引き起こす可能性があります。インテリジェント・エッジは、物理的な世界とデジタルの世界をつなげるうえで極めて重要な役割を果たします。生成AIとロボティクスが融合したフィジカルAIは、クラウドのみでは実現せず、エッジ・デバイスを介してのみ作成できます。したがって、エッジAIでの不整合のリスクについては、人への被害や差別を防ぐために慎重に精査を重ねる必要があります。
世界は、日常生活におけるAIの活用において重要な局面を迎えています。2025年1月のBoston Consulting Groupの調査 によると、経営責任者レベルの75%がAIを2025年の優先すべき戦略のトップ3に挙げています。同時に、4分の1以上の従業員に対してAI活用のスキルアップを実施できた企業は3分の1未満にとどまっており、これは教育と意識向上の差し迫った必要性を浮き彫りにしています。
工場は、エッジAIの開発の進展に伴い、よりスマートかつより自律的な形へと進化しています。
責任ある方法としてのエッジAI
多くの企業がAIのそもそもの活用方法について検討している一方で、NXPではその先を見据えて、「どうすればAIを安全で信頼性が高く責任ある方法で活用できるのか」を問い続けています。そこでは「責任あるAI」が中心的な役割を果たし、テクノロジ、政府、および経済界のリーダーとの連携が実現します。
責任あるAIは、1つの独立した別個のテクノロジでもなければ、ポリシーやベスト・プラクティスの集合体でもありません。責任あるAIは、機械学習、生成AIや言語モデル、時系列データ、コンピュータ・ビジョン、音声認識、すべての種類のインテリジェント・ソフトウェア、センサ、ハードウェアなど、技術的か非技術的かを問わずあらゆる局面に浸透しています。AIのリスクは企業や個人に影響を与えるものであり、責任あるAIは両者を平等に取り扱う必要があります。
エッジAIは、私たちの日常生活の背景で、家をよりスマートにすることで暮らしに変化をもたらしています。
したがって、責任あるAIの実践には、協調性のある包括的な取り組みが必要となります。NXPでは、エッジAIのイネーブルメントの視点からこの課題について考察しました。私たちは、インテリジェント・エッジのリーダーとして、責任あるAIのイネーブルメントに関するホワイトペーパーを執筆しました。
このホワイトペーパーは、欧州AI規制法などの最近の規制をより理解および解釈しやすくすること、エッジAIのリスクについて議論および対処すること、SoCベンダーの役割と責任を明確に示すこと、およびNXPがソフトウェアやツールを通じてどのように責任あるAIに貢献しているかの概要を示すことを目的としています。たとえば、前述のDMSの事例においては、NXPはeIQ®ツールキットの一部として、実装前のモデル・トレーニングの段階でのバイアスの検出に役立つ説明可能なAI (XAI) ソフトウェアを開発しています。これにより、差別を防ぎ、堅牢性を確保し、開発者がリスクを早期に特定して説明を受けることができるようになります。
エッジAIは、自動化や生産性の向上、安全で持続可能な輸送、よりリソース効率に優れたコンピューティングなど、さまざまな方法で人類に恩恵をもたらします。責任あるイネーブルメントは、潜在的な危害を最小限に抑えながらエッジAIのメリットを最大限に引き出すために重要な役割を果たします。
責任あるAIのイネーブルメントに関するホワイトペーパーは、Davis Sawyer、Wil Michiels、Jolijn Martens、Wouter van der Loopが共同執筆しました 。
