技術コラム

第9回 AI・人工知能EXPO【春】参加レポート④

はじめに

第9回 AI・人工知能EXPO【春】参加レポート第四弾は、『クラウド環境とオンプレ環境によるハイブリッドAI開発』についてご紹介です。
今回が最後の報告レポートです。

第四弾 クラウド環境とオンプレ環境によるハイブリッドAI開発

 

💡 展示のアピールポイント 💡

  • AIモデル開発(学習)環境をクラウド環境に構築することで、環境構築コストや物理スペースの削減が可能
  • 推論をオンプレミス環境『Kakip(※)』で実行することで、低消費電力・低発熱・低レンテンシな推論を実現

※『Kakip』とは、ユリ電気商会様の製品である、AIシングルボードコンピュータ(AI-SBC)です。
『Kakip』に関する詳細はこちらから ⇒ https://www.yuridenki.co.jp/products/kakip/

展示詳細

システム構成

本システムの特徴は、学習環境をクラウドに構築し、推論環境をオンプレで構築したところにあります。
クラウド環境はAWSを使用し、DeepEyeをクラウド環境に構築しました。
また、推論環境はユリ電気商会様の製品である『Kakip』を使用し、DeepEyeで作成したAIモデルをダウンロードして推論実行しました。

 

 

クラウド環境でのAI開発

学習環境をクラウド上に構築することで、学習用に必要なGPUマシンを置くための物理スペースが不要になり、限られた環境化でもAI開発を行うことができます。

また、学習に使用されるGPUはプロダクトライフサイクルが短く、1~3年で新しいGPUへの買い替えを必要とします。

クラウドでのAI環境構築は、これらの問題を解決することが可能です。

 

クラウド環境でのAI開発

学習環境をクラウド上に構築することで、学習用に必要なGPUマシンを置くための物理スペースが不要になり、限られた環境化でもAI開発を行うことができます。

また、学習に使用されるGPUはプロダクトライフサイクルが短く、1~3年で新しいGPUへの買い替えを必要とします。

クラウドでのAI環境構築は、これらの問題を解決することが可能です。

 

オンプレ環境でのAI推論

推論環境をオンプレで構築するメリットは、遅延時間の短さと、セキュリティの担保にあります。

ネットワークを介したクラウド環境での推論の場合、データ転送に時間がかかってしまうことでのスループットの低下や、データが不正流失してしまうインシデント発生など、リスクを伴います。

そのため、推論環境をオンプレで構築する場合が多いです。

環境構築するための設置スペースは必要になりますが、『Kakip』のような小型のAIエッジデバイスを使用することで、これらの課題を解決することができます。

最後に

本展示は、「クラウド環境とオンプレ環境によるハイブリッドAI開発」をテーマに、クラウドにAI開発環境を構築するメリットをお伝えしました。
改めて、今回の展示のアピールポイントのおさらいです。

💡 展示のアピールポイント 💡

  • AIモデル開発(学習)環境をクラウド環境に構築することで、環境構築コストや物理スペースの削減が可能
  • 推論をオンプレミス環境『Kakip(※)』で実行することで、低消費電力・低発熱・低レンテンシな推論を実現

展示レポート第四弾は以上です。
弊社は今後も技術力で産業界を支えてまいります。