【東大発AIベンチャー】深層学習モデルの量子化により、データ処理速度を最大5倍にすることに成功

最先端のAI・ロボティクスの技術を活用したソリューション提供を行うTRUST SMITH株式会社(本社:東京都文京区、代表: 大澤 琢真)は、 深層学習モデルの量子化により、データ処理速度を最大5倍にすることに成功した。本技術により、これまで膨大な処理が難しいとされたエッジAIで、深層学習モデルの実装を可能する。

  • 開発の背景

昨今のディープラーニング(深層学習)の技術革新は、人工知能(AI)の急速な発展を支えるととともに、その進歩により自動運転、音声認識、画像処理など様々な分野への実用化を推進してきた。

しかし、それらの最先端の深層学習モデルの多くは、人間の神経細胞の仕組みを模したニューラルネットワークを多層に用いるというモデル構造の特性上、その処理に膨大な計算量を要することが知られている。

そのため、電力、ストレージ、メモリ、プロセッサ速度などあらゆる計算リソースに制約がかかるモバイルデバイスやIoTデバイス等では、ディープラーニングの技術を使用することが難しいとされてきた。このようなデバイス側の制限は、IoT分野での深層学習技術の発展の大きな障害の一つとなっていると言える。

  • 本技術について

TRUST SMITH株式会社は、最新の量子化技術を活用することで、深層学習モデルの精度を維持しながら、モデルの軽量化を行うことに成功した。

従来、深層学習では、学習させたモデルをそのまま推論モデルとして利用しており、積和演算の多さ対応するため、推論を実行するのにGPU等の強力な演算装置が必要不可欠だった。

今回の量子化技術により、これまで一般的だった32bitの浮動小数点数で数値を取り扱っていた演算手法に対し、最低2bitまで演算に必要なbit数の削減を実現した。

同社が開発した量子化技術を適用すれば、あらゆる深層学習モデルに対してそのデータ処理速度を最大5倍まで向上させることができる。

また同技術は、組み込み分野での応用を見据え、Pythonで量子化したモデルをC言語で実行するための独自のライブラリとして開発している。

今後は、あらゆる深層学習モデルへの利用範囲の拡大や、AIアクセラレーターへの対応を進めることで、応用範囲の拡大やより高度な実用化に努めていく方針だ。

将来的には、モデルの量子化作業を自体を自動化したり、ユーザー自身がモデルを量子化できるような仕組みの構築を目指す。

  • 今後の展望

本技術により、今までエッジAIでは扱えなかった大規模なモデルが、低スペックのマシンで動作するようになる。省電力が求められるドローンの画像処理やリアルタイム性が求められる工場機器への応用など、あらゆる場面での実用化が期待される。

同社は、これまで数多くの製造業や物流業の企業様と、ファクトリーオートメーションや自動倉庫の実現に向け、あらゆる技術開発に着手してきた。

今後は、本技術を工場や物流施設におけるのあらゆるカメラやセンサーに搭載し、より高次元な工場のスマート化・IoT化に取り組んでいく。

理想の完全自動化スマートファクトリーの実現へ

お客様の抱える課題やご要望に合わせて、最適なご支援ができますよう尽力致します。
まずは気軽にお問い合わせください。

SMITH & FACTORY

〒113-0033
東京都文京区本郷4丁目1−1 菊花ビル7F

よかったらシェアしてね!
目次
閉じる