サイト内の現在位置

エッジAIの処理速度を最大8倍に
漸進的物体検知技術

NECの最先端技術

2021年11月16日

IoTの進展によってたくさんのモノがインターネットに接続する時代、コンピューティングは現場に設置したエッジ端末で処理することが求められるようになりました。
NECが発表した「漸進的物体検知技術」は、AIチップを搭載したエッジ端末の処理速度を革新的に向上させる技術です。その仕組みやメリットについて、研究者に詳しく話を聞きました。

エッジAIチップの潜在性能を引き出す技術

バイオメトリクス研究所
主幹研究員
竹中 崇

― 「漸進的物体検知技術」とは、どのような技術なのでしょうか?

竹中:処理能力に制約が生じるエッジ環境においても、さまざまな画像認識AIの基本処理である物体検知を、認識精度を維持しながらスピーディに動かすことができる技術です。

AIチップを搭載したエッジ端末は、今後世界の幅広いシーンでの導入が期待される非常に重要なデバイスです。特にスマートシティにおける交通管制や物流における荷物管理など、映像認識を活用するDXの最前線においては欠かせない存在となるでしょう。

通信コストを低減し、現場でリアルタイムに処理することができるエッジ端末は、センシングしたデータを効率的かつ安全に活用するための基盤となるコンピュータです。世界的にも、2025年までに29億台のAIチップを搭載したエッジ端末が実装されるとみています。

しかし、エッジ端末はカメラの近くや屋外などのセンサ周囲に設置する小型端末であるため、どうしても処理能力には制約が生じます。たとえば屋外では雨風をしのぐために密閉する必要があるため、排熱を促すファンをつけることができず、十分な電力を使うことができません。

屋内型の端末であっても、設置場所の広さや耐久性の制約から十分な廃熱や冷却ができず、あまり多くの電力を使うことができません。通常、認識AIを稼働させる場合にはサーバー用のGPUを使っておよそ300Wほどの電力をかけて処理をしていきますが、エッジ端末では、特に屋外のファンレス型だと、せいぜい10~20Wの使用が限度です。

そのような制約のなかにあって、認識精度を維持しつつ、どれだけスピーディに処理できるかということがこれまでの課題となっていました。
漸進的物体検知技術は、この問題の解決に一つの道筋を示す技術です。エッジAIチップがもつ潜在的な性能を可能な限り引き出す技術として開発しました。

認識精度を保ったまま最大8倍の高速化を実現

バイオメトリクス研究所
主任
渡邊 義和

― どのような仕組みで、消費電力の制約下で、認識精度を維持しつつ、スピーディに処理を行うという課題を解決したのでしょうか?

渡邊:複数の物体検知AIモデルを活用し、だんだんと漸進的に精度が上がるような枠組みを設計しました。

今回は、高速な物体検知AIモデルと高精度な物体検知AIモデルの二つを活用して実証に成功しています。高速なモデルで映像から物体のあるエリアをラフに絞り込み、その後に高精度なモデルで対象物を正確に検知するというものです。

このような2段階での処理自体は従来も存在していたのですが、重要な点は、1段目の処理と2段目の処理の間に、画像を集約するという独自の仕組みをつくりあげたことです。

AIチップは多数の演算リソースをもち、並列処理することに長けています。そのため、一回の実行を少数の小さな画像で行うよりも多数の大きな画像で行ったほうが効率よく高速に処理できます。

これまでの2段階処理では、1段階目の処理で見つけた物体候補をそのまま2段階目の処理に回していたため、チップ内の演算リソースをごく一部しか使用できていませんでした。そのため、処理が遅くなっていたのです。

今回の私たちの技術では、1段階目の処理結果を集約した大きな画像をつくり、一度に2段階目の処理に渡すような仕組みをつくりあげました。これにより、AIチップの演算リソースを有効に活用することができます。

映像から車両のナンバープレートを検出する実験では、高い精度は保ったまま、高精度なモデルを単独で使う場合と比べて、最大8倍の高速化を確認することができました。これにより、処理量あたりの消費電力を下げることに成功しています。

竹中:認識精度と速度はトレードオフの関係にあるため、従来手法では一方を優先すると他方が犠牲になっていました。私たちが開発した手法では、二つ以上のモデルを活用することで認識精度と速度を両立させることができます。

渡邊:また、モデルは置き換えることも可能です。より高精度なモデルが生まれたり、より高速なモデルが生まれたりすれば、そちらに変更してアップデートをかけることもできます。

場合によっては、三つのモデルを使うことがあっても良いかもしれませんし、1段階目の処理結果によって2段階目の処理(使用するモデルなど)を切り替えることがあってもよいかもしれません。集約して最終処理をするという新しい枠組みをつくることで、一段階上の視座に立ったエッジAIの高速化システムを構築することができたことが、今回の技術における大きなポイントです。

さまざまな検知対象に対応

― 今回の技術は、社会のなかでどのように役立っていくのでしょうか?

竹中:まず、エッジAIの高速化を実現することで、エッジ端末を活用したさまざまなソリューションを加速させることができると考えています。また、高速化が実現できたということは、そのぶん1台で多数のカメラやセンサと接続可能になるということです。

これにより、エッジAIを活用したDXの普及にも貢献していけると考えています。具体的なソリューションとしては、例えば車両やそのナンバープレートの検知をもとにして、スマートシティにおける交通量の把握や交通管制などに応用ができるはずです。

もう一つ大きな可能性があると考えているのは、倉庫や施設などのファシリティマネジメントです。本システムは多様な物体検知AIモデルに対応できるので、さまざまな検知対象に適用することが可能です。

たとえば、人物の姿勢を検知するAIモデルを活用すれば、倒れている人物を検知することもできるようになります。カメラ映像からリアルタイムに問題を発見するエッジコンピューティングの利点を上手く活用できると考えています。他にも、私たちの技術や導入先のニーズにあわせてさまざまなソリューションをご提供できるはずです。

渡邊:導入先のニーズにあわせて、パラメータを自動で調整できるような仕組みも実現できないかと考えています。データをインプットすれば、自動的に高速で動くようなシステムです。できるだけユーザーの皆さんに負担をかけずに展開できるような方法も同時に検討を進めているところです。

竹中:目下のマイルストーンとしては、来年度にNECのエッジAI基盤製品に組み込んで販売することをめざしています。ユーザーの皆さんにご満足いただけるものをめざして、これからも鋭意開発をつづけていきたいと考えています。

ET/IoT Technology AWARD 2021
Embedded Technology 優秀賞受賞

今回ご紹介しました「漸進的物体検知技術」 が、ET/IoT Technology AWARD 2021のEmbedded Technology 優秀賞を受賞しました。
詳細はこちら:new windowET/IoT Technology AWARD 2021 | ET & IoT 2021 (jasa.or.jp)

11月17日(水)からパシフィコ横浜で開催される『ET&IoT 2021エッジテクノロジーは次なるステージへ ~産業DXを実現する要素技術と応用分野のすべてがココに~』へ出展しています。
詳細はこちら:new windowET & IoT 2021 (jasa.or.jp)

お問い合わせ