ラズベリーパイAIキット

ラズベリーパイ AI キットはどのように機能しますか?

Raspberry Pi AI キットは、M.2 HAT+ アダプターを介して専用のニューラル プロセッシング ユニットを Raspberry Pi 5 の PCIe インターフェイスに接続することで機能します。このキットは、わずか 70 ドルで 1 秒あたり 13 テラ演算の AI 処理能力を実現し、メイン CPU に負荷をかけることなく、リアルタイムの物体検出、姿勢推定、画像セグメンテーションを可能にします。{7}}このスタンドアロン アクセラレーション モジュールは AI 推論をローカルで処理するため、以前はクラウド コンピューティングや高価なハードウェアが必要だった高度なコンピューター ビジョン モデルを Pi 5 で実行できるようになります。

市場のタイミングは重要です。 Raspberry Piは、AIとIoTハードウェアに焦点を当てた22の製品発売により、2024年度に2億5,950万ドルの収益を報告しており、エッジコンピューティングへの戦略的賭けを示しています。企業が AI ワークロードをクラウドからエッジ デバイスに移行するにつれて、スマート カメラ、ロボット工学、産業オートメーション プロジェクトに取り組む開発者にとって、この手頃な価格のキットがどのように動作するかを理解することが重要になります。

ハードウェアの内部: 物理アーキテクチャ

AI キットは、連携して動作する 3 つの統合コンポーネントで構成されています。 Hailo-8L ニューラル プロセッサがコアに位置し、実際の AI 計算が行われます。このモジュールは M.2 2242 フォーム ファクタを使用し、標準の PC コンポーネント規則に従って M キー エッジ コネクタを介して接続します。

M.2 HAT+ は、Hailo チップと Raspberry Pi の PCIe Gen 3 インターフェイス間のブリッジとして機能します。これは、2 つの異なるハードウェア言語間で信号を変換するトランスレーターと考えてください。集中的な AI 操作中の過熱を防ぐために、モジュールと HAT+ の間にサーマル パッドがあらかじめ取り付けられています。-ニューラル処理は大量の熱を発生するため、この詳細は重要です。

接続シーケンスは次のようになります: Raspberry Pi 5 → PCIe FPC ケーブル → M.2 HAT+ → Hailo-8L チップ。すべてを 1 つのボードに統合する新しい AI HAT+ とは異なり、AI キットはこのモジュラー M.2 アプローチを使用し、必要に応じて NVMe ストレージを柔軟に交換できるようにします。

実際に重要なパフォーマンス指標

TOPS の生の数字だけではすべてがわかりません。 Hailo-8L はワットあたり 3 ～ 4 TOPS の効率を達成しており、これが、5 倍のコストのシステムと同等のパフォーマンスを発揮する理由の説明になります。実際のテストでは、より実践的な洞察が得られます。

640x640 ピクセルのビデオ フィードで YOLOv8s オブジェクト検出を実行すると、Hailo{7}}8L を搭載した Pi 5 は、PCIe Gen 3 が有効な場合に 80 FPS を達成します。これは Gen 2 モードの 2 倍のパフォーマンスです。消費電力は著しく低いままです。 Hailo アクセラレーションを備えた Pi 5 8 GB システム全体は、アクティブな AI 推論中に約 10 W を消費します。これは、一般的な携帯電話の充電器に匹敵します。

温度管理は実際に効果的であることが証明されています。 Seeed Studio のベンチマーク テストでは、プリインストールされたサーマル ソリューションのおかげで、スロットルが発生することなく、長時間のセッションにわたって安定したパフォーマンスが示されました。-これは、熱制限がボトルネックになることが多い GPU- ベースの推論とは対照的です。

データフロー: カメラから推論結果まで

Pi 5 が AI キットを通じてライブ ビデオを処理すると、実際に何が起こるかを次に示します。カメラ モジュールはフレームをキャプチャし、CSI インターフェイスを介して生の画像データを Raspberry Pi の CPU に送信します。 CPU は、Hailo アクセラレータにデータを渡す前に、最小限の前処理-通常はフォーマット変換と解像度調整のみ{4}}を実行します。

PCIe Gen 3 バスは、この前処理されたデータを最大 8 GT/s の速度で Hailo{6}}8L に転送します。次に、ニューラル プロセッサは、その特殊なアーキテクチャを使用して実際の推論を実行します。 Hailo-8 アーキテクチャには、外部 DRAM を必要としない自己完結型 RAM が組み込まれているため、システム メモリからデータを常にフェッチする従来の AI アクセラレータと比較してレイテンシが大幅に短縮されます。

結果は同じ PCIe 接続を介して戻ります。 CPU は、生のピクセルではなく、構造化データ-オブジェクトの座標、分類信頼スコア、検出されたポーズ-を受け取ります。次に、Python スクリプトはこれらの結果を解釈して、アラートの送信、映像の録画、モーターの起動、データベースの更新などのアクションをトリガーします。

rpicam- アプリ ソフトウェア スタックは統合レイヤーを提供します。現在、rpicam- アプリは、Hailo と緊密に統合されている主要なソフトウェアですが、Picamera2 のサポートが追加されています。これは、わずか数行のコードで、ニューラル ネットワークを介してカメラ入力をシームレスにパイプするスクリプトを作成できることを意味します。

現実世界の実装: スマート セキュリティ カメラのケース

キットの機能を示す具体的な例を見てみましょう。 VEEB Projects は、ビデオ通話中に誰かが後ろから近づいてくるとユーザーに警告する AI 搭載の検出システムである「Peeper Pam」を構築しました。物体検出を使用して、家具や植物を無視して人間を識別します。{1}

その実装には、AI キットを備えた Raspberry Pi 5、カメラ モジュール 3、Raspberry Pi Pico W、およびアナログ電圧計といった基本コンポーネントが必要でした。このシステムの開発にはわずか 3 日しかかかりませんでしたが、最大の技術的課題は Pi 5 と Pico W 間の効率的な通信のための Web ソケットの実装でした。

このアーキテクチャは、スマート エッジ コンピューティングを実証します。 Pi 5 は、すべての AI 処理をローカルで処理し、人間の存在について各フレームを分析し、信頼スコアを計算し、アラートをトリガーします。{2}}軽量の Pico W は、継続的にポーリングするのではなく、単に信号をリッスンするだけで電力を節約し、ネットワークのオーバーヘッドを削減します。アナログ メーターは瞬時に視覚的なフィードバックを提供し、不確実性を考慮して 0 (人が検出されない) から 1 (確実な検出) まで段階的に変化します。

このプロジェクトの消費電力はカメラを含めて約 12-15W で、常時ビデオ ストリーミングを必要とする同等のクラウドベースのソリューションよりもはるかに少ないです。ローカル処理により、映像がデバイスから流出しないため、プライバシーの懸念も解消されました。

-ステップごとのセットアップ プロセス-

AI Kit を運用するには、5 つの異なるフェーズが必要です。各フェーズには特定の要件と、回避すべき一般的な落とし穴があります。

フェーズ 1: ハードウェアの組み立て

最新の 64 ビット Raspberry Pi OS を実行する Raspberry Pi 5 から始めます。 M.2 HAT+ を GPIO ヘッダーに取り付けて、適切な位置に配置します。 PCIe FPC ケーブルを Pi と HAT の両方に接続します+-ケーブルには特定の方向があるため、無理に押し込むとコネクタが損傷します。付属のスタンドオフを使用して、Hailo-8L モジュールを M.2 スロットに固定します。

フェーズ 2: PCIe Gen 3 を有効にする

Pi 5 は、安定性を高めるためにデフォルトで PCIe Gen 2 に設定されています。 /boot/firmware/config.txt を編集し、dtparam=pciex1_gen=3. を追加するだけで、推論パフォーマンスが 2 倍になります。再起動して lspci -vv|で確認します。 grep "LnkSta:" を実行して、Gen 3 がアクティブであることを確認します。

フェーズ 3: ソフトウェアのインストール

Hailo ソフトウェア スタックをインストールします: sudo apt update と sudo apt install hailo{0}}all。このパッケージには、HailoRT ランタイム、Hailo をサポートする rpicam- アプリ、ニューラル ネットワーク モデルのサンプルが含まれています。インストールには約 2GB のディスク容量が必要で、通常のブロードバンド接続では 10 ～ 15 分かかります。

フェーズ 4: 検証テスト

含まれている物体検出デモを実行します: rpicam-hello -t 0 --post-}process-file /usr/share/rpi-camera-assets/hailo_yolov6_inference.json。検出されたアイテムの周囲に境界ボックスが描画され、リアルタイムのオブジェクト検出が表示されます。- 60 FPS を超えるフレーム レートは、Gen 3 が適切に動作していることを示します。

フェーズ 5: カスタム モデルの導入

独自のトレーニング済みモデルの場合は、Hailo Dataflow コンパイラーを使用して、TensorFlow または PyTorch モデルを Hailo の HEF 形式に変換します。コンパイラは量子化と最適化を自動的に処理しますが、キャリブレーションには代表的なデータセット サンプルが必要になります。生成された .hef ファイルをデプロイし、rpicam- アプリ パイプラインと統合します。

市場の状況: エッジ AI の高速化が今重要な理由

エッジ AI チップ市場は爆発的な成長を遂げています。世界のAIチップ市場は2024年に1,231億6,000万ドルに達し、2029年までに3,115億8,000万ドルに達し、24.4%のCAGRで成長すると予測されています。これは単に数値が大きくなったというだけではなく、-AI 処理が行われる場所における根本的な変化を表しています。

高速化チップを開発した企業である Hailo は、重要な検証を確保しました。このスタートアップは 2024 年 4 月に 1 億 2,000 万ドルを調達し、現在、自動車、セキュリティ、小売、産業オートメーションの分野にわたる 300 を超える顧客にサービスを提供しています。多くの AI チップスタートアップが失敗した市場で同社が生き残ったことは、エッジに焦点を当てたソリューションの存続可能性を物語っています。-

競争環境は興味深いトレードオフを浮き彫りにしています。 Hailo-10H は、Intel の Core Ultra Meteor Lake NPU の 11 TOPS や AMD の Ryzen 8040 の 16 TOPS と比較して、INT4 のパフォーマンスは 40 TOPS で、INT8 の 20 TOPS に相当します。しかし、米国の半導体企業が2023年1月から9月までに調達した資金はわずか8億8100万ドルで、2022年の17億9000万ドルから減少しており、Hailoの成功を注目に値させる厳しい資金調達環境を示している。

特に Raspberry Pi エコシステムでは、AI と IoT への注力により、2026 年までアクセサリの売上が前年比 15-20%- 成長すると予測されています。AI キットは、Raspberry Pi が大規模なユーザー ベースと販売ネットワークを活用して専門の競合他社に対抗できる市場に参入することを示しています。

AI キットに関するよくある誤解

誤解: 「13 TOPS はあらゆる AI モデルを実行することを意味する」

現実には重大なニュアンスが含まれています。 Hailo-8L は、コンピュータ ビジョン、物体検出、セグメンテーション、姿勢推定のための畳み込みニューラル ネットワークに優れています。チップには LLM 推論に十分な VRAM が不足しているため、大規模な言語モデルでは問題が発生します。 13 TOPS という数値は INT8 演算に適用されますが、多くのトランス モデルは FP16 または FP32 の精度を期待しています。

誤解: 「GPU が速いだけだ」

ニューラル アクセラレータは根本的に異なるアーキテクチャを使用します。 GPU は汎用の並列処理設計に従っており、柔軟性は高くなりますが、効率は低くなります。- Hailo-8 のデータフロー アーキテクチャは、特にニューラル ネットワークのプロパティを活用し、外部 DRAM への依存を排除​​します。この特殊化により、特定のタスクでは GPU ソリューションよりも 20 倍優れた電力効率が可能になりますが、非 AI ワークロードでは柔軟性が低下することも意味します。

誤解: 「どんなカメラでも接続すれば-すぐに使える」-

このキットは複数のカメラをサポートしていますが、統合には特定のソフトウェア サポートが必要です。当初、Rpicam- アプリのみが深い Hailo 統合を提供していましたが、後に Picamera2 もサポートされました。 USB Web カメラは動作しますが、別のコード パスが必要です。 MIPI CSI カメラは最も緊密な統合を提供しますが、特定のカメラ モデルとの互換性を確認する必要があります。

誤解: 「バッチ サイズが大きいほど常にパフォーマンスが向上する」

テストにより、興味深い制限が明らかになりました。バッチ サイズ 2 (80 FPS) からバッチ サイズ 8 (120 FPS) までパフォーマンスは向上しますが、PCIe 帯域幅の制約により、バッチ サイズ 16 では 100 FPS に低下します。これは、ニューラル プロセッサ自体ではなく、Pi 5 の PCIe Gen 3 x1 インターフェイスが大きなバッチのボトルネックになることを示唆しています。

よくある質問

AI キットは ChatGPT または同様の LLM を実行できますか?

事実上、現在の形ではありません。 Hailo-8L には大規模な言語モデル用のメモリ容量が不足しており、通常はモデルの重み付けのためだけに 4 ～ 16 GB の専用 RAM が必要です。ただし、1B パラメーターの下でより小さい量子化モデルは、重大なパフォーマンス制限付きで実行される可能性があります。分散 Llama プロジェクトは、4 台の Pi 4 ユニット間で LLaMA 3 8B を毎秒 1.6 トークンで実行することを示していますが、これは AI キットの高速化を活用していません。

AI Kit と AI HAT+ の違いは何ですか?

AI キットは、M.2 HAT+ アダプター ボードに接続される M.2 モジュールを使用します。 AI HAT+ は、Hailo チップを完全な HAT ボードに直接統合しており、13 TOPS ($70) と 26 TOPS ($110) のバリエーションがあります。 26 TOPS バージョンでは、Hailo-8L の代わりに Hailo-8 が使用されます。どちらも同じソフトウェアとライブラリを使用するため、どちらを選択するかは、他の目的で M.2 スロットが必要かどうかによって決まります。

消費電力はクラウド推論と比較してどうですか?

劇的に低くなります。アクティブ AI 推論を備えた完全な Pi 5 システムは約 10 W を消費し、継続的に実行すると 1 日あたり約 240Wh になります。クラウド推論には、継続的なビデオ ストリーミング (2 ～ 4 Mbps のアップロード) に加えて、処理のための API 呼び出しが必要となり、通常はデータセンターでより多くの帯域幅コストとエネルギーを消費します。 24 時間年中無休のセキュリティ カメラ アプリケーションの場合、ローカル処理により帯域幅とクラウド API 料金を毎月 20 ～ 40 ドル節約できる可能性があります。

1 台の Raspberry Pi 5 で複数の AI キットを使用できますか?

PCIe インターフェイスが 1 つだけある単一の Pi 5 上では直接ではありません。ただし、Jeff Geerling 氏は、PCIe スイッチと拡張ボードを使用して複数のアクセラレータを接続し、さまざまな Hailo および Coral チップで合計 51 TOPS を達成するデモを行いました。ただし、この構成は正式にはサポートされておらず、外部電源が必要です。

リアルタイム アプリケーションではどの程度のフレームレートを期待する必要がありますか?{0}}

それはモデルの複雑さと入力解像度によって異なります。 640x640 解像度の YOLOv8s は、バッチ サイズに応じて 80{12}}120 FPS を達成します。 MobileNet のような単純なモデルは、200+ FPS に達します。 YOLOv8x のような重いモデルでは、30 ～ 40 FPS に低下する可能性があります。比較すると、人間の視覚は 24 ～ 30 FPS でスムーズに動きを認識するため、ほとんどのリアルタイム アプリケーションには快適なパフォーマンスのヘッドルームがあります。

カスタムモデルをトレーニングするのはどのくらい難しいですか?

トレーニング フェーズは、標準の TensorFlow または PyTorch ワークフローを使用してデスクトップ コンピュータまたはクラウド インスタンスで行われます。{0}}Hailo チップはトレーニングに参加しません。変換プロセスには、Hailo Dataflow Compiler を学習する必要があります。Hailo Dataflow Compiler には学習曲線が必要ですが、包括的なドキュメントが含まれています。ニューラル ネットワーク トレーニングにすでに慣れている場合は、最初のカスタム モデルを実行できるようになるまでに 2 ～ 3 日かかることが予想されます。コンパイラーは量子化を自動的に処理しますが、代表的なキャリブレーション データセットが必要になります。

他のシングルボード コンピュータでも動作しますか?{0}

AI キットは、特に Raspberry Pi 5 の PCIe インターフェイスとフォーム ファクターをターゲットとしています。ただし、基盤となる Hailo-8L M.2 モジュールは標準コンポーネントです。 M.2 スロットを備えた Seeed Studio の reComputer R1000 などのデバイスは、Hailo モジュールに対応できますが、ソフトウェア スタックを移植する必要があります。 M.2 スロットを備えた他の SBC (Rock 5B、Orange Pi 5) も理論的には動作しますが、ソフトウェア統合に多大な労力を必要とします。

実際に人々はどのようなプロジェクトを構築しているのでしょうか?

コミュニティはさまざまなアプリケーションを作成しました。プロジェクトには、物体認識を使用したスマート錠剤ディスペンサー、種識別機能を備えた野生動物カメラ、物体をカウントする乱雑なデスクアラートが含まれます。姿勢推定により、運動フォームを監視し、繰り返しをカウントするフィットネス追跡アプリケーションが可能になります。産業ユーザーは、品質管理検査、コンベヤー ベルト上の製品のカウント、リアルタイムのビデオ フィードでの安全違反の検出のためにキットを導入しています。-

意思決定: AI キットが意味をなすとき

Raspberry Pi AI キットは、特定のシナリオで威力を発揮します。これは、バッテリ電源でのリアルタイム コンピュータ ビジョンが必要な場合や、クラウド接続が信頼できない組み込み環境で必要な場合に最適です。-スマート ドアホン、野生動物カメラ、産業用検査システム、ロボット アプリケーションは、厳しいレイテンシ要件と電力バジェットを備えた継続的な AI 処理を必要とするスイート スポット タスクです。{3}

要件が異なる場合は、代替案を検討してください。主に LLM または自然言語処理に興味がある場合は、別のハードウェアが必要になります。-おそらくデスクトップ GPU またはクラウド API アクセスです。レイテンシが重要ではない時々発生する AI タスクの場合、推論あたりのコストは高くなりますが、クラウド サービスのほうがコスト効率が高いことが証明される可能性があります。{3}{4}

70 ドルという価格設定により、このキットは、学習には十分手頃な価格でありながら、量産プロトタイプには十分強力な実験プラットフォームとして位置づけられています。 Raspberry Pi は AI 機能を戦略的に重視しており、2024 年には 22 の製品が発売されるため、ソフトウェア エコシステムは成熟を続け、時間の経過とともに投資の価値が高まります。

高品質の電源、カメラ モジュール、冷却付きケース、十分な速度クラスの microSD カードなどのサポート コンポーネントに、さらに 100 ～ 150 ドルの予算を立ててください。システムの総コストは 200 ～ 250 ドルですが、完全なカスタマイズの自由を提供しながら、商用 AI カメラ システムを 50 ～ 70% 削減します。

エッジ AI 市場の軌跡は、今がこれらのツールを使用してスキルを構築する戦略的な時期であることを示唆しています。キャリアの選択肢を模索している学生、製品のプロトタイピングを行うメーカー、産業導入のためのテクノロジーを評価するエンジニアのいずれであっても、Raspberry Pi AI キットの動作方法を理解することで、次の 10 年のスマート デバイスを支えるコンピューティング アーキテクチャを実践的に体験することができます。{1}