エッジAI端末の可能性

エッジAI端末は、下の画像のような、省電力、省スペース、高耐久のAI推論用マシンです。

製品によりますが、-30℃〜70℃ぐらいの動作範囲をもっています。防塵、防水性にも優れ、様々な環境で使用できます。最近では車載での利用が増えています。私も建設機械メーカーとの案件で利用しました。工場などの生産現場でも活躍すると思います。また、先日のブログ記事で紹介した、ヒューマノイドにもJetsonは搭載されています。物体検出や画像異常検知などの画像処理や、音声処理などをクラウドなどのインターネット接続なしにエッジで処理できます。

このようなエッジAI端末は、NVIDIA 製のJetsonというシリーズのGPUを搭載していることが多いです。Jetsonもどんどん性能を伸ばしていて、数年前のJetson Xavier NXから現行のJetson Orinでは、5倍程度の速度の差があるそうです。

エッジAI端末によって、ケーブルのコネクタなどのインターフェースは多彩です。色々な製品を比較すると良いでしょう。上図の写真の製品はContec という日本メーカーのものですが、多くのエッジAI端末は台湾製です。日本から利用する場合は、電子商社を経由して取り寄せることになると思います。展示会などで話しておくとスムーズかも知れません。

以下は、やや専門的になります。エッジAI端末のOSはJetson Linux となります。Ubuntuをベースにしたものです。JetPackというミドルウェアを利用し、PyTorchなどのディープラーニングフレームワークを動作させるには、Docker を経由して操作することになります。導入する際には、このあたりの技術への知見が必要になるでしょう。PytorchやTensorFlowなどは特に工夫することもなく、そのまま動きます。このあたりは安心です。

Jetsonの公式サイトはこちらになります。かなり専門的な内容となるので、わからないことがあればぜひご相談ください。