Lattice Blog

Share:

エッジで高まるインテリジェンスの需要に応える

Meeting Demand for More Intelligence at the Edge
Posted 08/21/2018 by Deepak Boppana

Posted in

ここ数十年間で、システム設計は1つの処理トポロジからその他のトポロジ、集中型から分散型アーキテクチャへと進化し、常に理想のソリューションを探し求めています。計算要件が急増するにつれて、産業はクラウドベースの計算を中心にした、より集中型のアプローチへと移行してきました。今日のビジネスは、実質的に無制限の計算とストレージリソースがあり、高い信頼性と低コストで利用できるクラウド上で高性能な計算と分析を行う傾向にあります。

企業が機械学習技術を採用し、高いレベルの人工知能(AI)を展開するにつれ、クラウドでの計算リソースはほとんどの組織計画の中でますます重要な役割を果たすと思われます。しかし、クラウドは全てのアプリケーションで理想的なソリューションではありません。通常、AI向けの機械学習では2つの段階があります。1つ目はシステムが大量の既存データを収集・分析し、新しい機能を学習する段階です。たとえば、何千枚もの画像を見たあとシステムはジェスチャを認識する方法を学習します。これは高度な数値計算になります。画像認識のようなアプリケーション向け機械学習のニューラルネットワークはテラバイトのデータとEFLOPSの計算能力を必要とします。したがって、それらのタスクは通常、データセンタ内で実行されます。

機械学習の次の段階は、推論と呼ばれます。ここで機械は、現場で起動し、システムの機能を新しいデータに当てはめることでタスクへの理解とジェスチャの定義を深めます。典型的な例として、顔検出機能は、現場での例を分析し、学習したことを合体させることで人の顔を認識するインテリジェンスを向上します。

多くの場合で、この数値計算の分析もデータセンターで行われます。しかし、多くの要因が積み重なり、ネットワークエッジにおける計算、帯域幅、電力要求が再定義されます。“常時オン”のセンシング技術の需要は増え続けています。今日のカメラは、製造ラインで異常を見つけたり、車の速度や車線を監視したり、モバイルアプリケーションで特定のジェスチャや顔の特徴を見分けたりするため、24時間365日利用されています。この“常時オン”のデータをデータセンタに送り返すことはセキュリティーの観点で新しい課題が生じます。設計者は取り込んだ画像をクラウドに送ることをあまり好みません。プライバシーのリスクが増えることと、システムのレイテンシ拡大を恐れているためです。その代わりに、これらのタスクをローカルで行うので、ローカルでの計算要件と場合によっては電力消費を押し上げます。その結果、それがバッテリ駆動のモバイル製品にとって大きな課題となっています。

電力要件を押し上げ、帯域幅のニーズを増やし、ユーザーがプライバシーのリスクに晒されることなく、ネットワークエッジにより多くの計算能力をもたらすにはどうしたら良いでしょうか?このジレンマを解決するひとつの方法は、FPGA固有の並列処理機能、とくに新世代の低消費電力オペレーション向け低密度FPGAの利用です。これらのデバイスは、広範な組込みDSPリソースと、電力・フットプリント・コストの点で圧倒的な優位を誇る高度な並列アーキテクチャを組み合わせています。ラティスのECP5 FPGAは1W以下で起動できる一方で、iCE40 UltraPlusのようなデバイスはmW幅でニューラルネットワークを加速します。同時に、より優れた処理速度やより低い電力消費のために正確性をトレードオフすることで、高レベルの設計柔軟性をもたらします。たとえば、ラティスのECP5 FPGAのDSPブロックは、浮動小数点演算を使ったGPUよりも少ない電力/MHzで固定小数点演算を計算できます。さらにデバイスは、コンシューマや産業アプリケーションでよく見られる厳しいフットプリントの要件を満たす、極めて小型のパッケージで利用可能なのです。

エッジ製品の成功において、重要な役割を果たすと見られるもう1つのキーとなる要因は、AIベースで、1W以下のソリューションの試作開発を加速できる開発エコシステムの利用です。このニーズに応えるため、当社は推論向けに初めての包括的な技術スタックであるLattice sensAIを発表しました。これは超低消費電力のAIアプリケーションを市場にもたらすために必要な、モジュラーハードウェアキット、ニューラルネットワークIPコア、ソフトウェアツール、リファレンスデザイン、およびカスタム設計サービスを備えています。柔軟なFPGAハードウェアおよびソフトウェアを組み合わせたsensAIは、エッジデバイスにおけるデバイス上のセンサーデータ処理と分析の統合を加速します。さらに、sensAIデモとオブジェクト検出やキーフレーズ検出をなどの一般的なAI使用例を使って、短い開発サイクルでカスタムソリューションを構築できます。

明らかに、エッジにおけるAIベースソリューションの需要増加には多くの新しい課題があります。どのようにして、プライバシーを危険にさらしたり帯域幅と電力の制限を超えることなく、より高いレベルの計算電力を製品にもたらすことができるでようか?必要なハードウェアキット、IPコア、ソフトウェアツール、リファレンス設計とカスタム設計サービスなしで、新しいAIベースのソリューションを迅速に市場投入することができるでしょうか?ラティスの低消費電力で小型のFPGAと新しいsensAI技術スタックは、エッジAIの急速な進化において重要な役割を果たすことを乞うご期待ください。

Share:

Like most websites, we use cookies and similar technologies to enhance your user experience. We also allow third parties to place cookies on our website. By continuing to use this website you consent to the use of cookies as described in our Cookie Policy.