技術コラム
第9回 AI・人工知能EXPO【春】参加レポート④

はじめに
第9回 AI・人工知能EXPO【春】参加レポート第四弾は、『クラウド環境とオンプレ環境によるハイブリッドAI開発』についてご紹介です。
今回が最後の報告レポートです。
第四弾 クラウド環境とオンプレ環境によるハイブリッドAI開発
💡 展示のアピールポイント 💡
- AIモデル開発(学習)環境をクラウド環境に構築することで、環境構築コストや物理スペースの削減が可能
- 推論をオンプレミス環境『Kakip(※)』で実行することで、低消費電力・低発熱・低レンテンシな推論を実現
※『Kakip』とは、ユリ電気商会様の製品である、AIシングルボードコンピュータ(AI-SBC)です。
『Kakip』に関する詳細はこちらから ⇒ https://www.yuridenki.co.jp/products/kakip/
展示詳細
システム構成
本システムの特徴は、学習環境をクラウドに構築し、推論環境をオンプレで構築したところにあります。
クラウド環境はAWSを使用し、DeepEyeをクラウド環境に構築しました。
また、推論環境はユリ電気商会様の製品である『Kakip』を使用し、DeepEyeで作成したAIモデルをダウンロードして推論実行しました。
クラウド環境でのAI開発
学習環境をクラウド上に構築することで、学習用に必要なGPUマシンを置くための物理スペースが不要になり、限られた環境化でもAI開発を行うことができます。
また、学習に使用されるGPUはプロダクトライフサイクルが短く、1~3年で新しいGPUへの買い替えを必要とします。
クラウドでのAI環境構築は、これらの問題を解決することが可能です。
クラウド環境でのAI開発
学習環境をクラウド上に構築することで、学習用に必要なGPUマシンを置くための物理スペースが不要になり、限られた環境化でもAI開発を行うことができます。
また、学習に使用されるGPUはプロダクトライフサイクルが短く、1~3年で新しいGPUへの買い替えを必要とします。
クラウドでのAI環境構築は、これらの問題を解決することが可能です。
オンプレ環境でのAI推論
推論環境をオンプレで構築するメリットは、遅延時間の短さと、セキュリティの担保にあります。
ネットワークを介したクラウド環境での推論の場合、データ転送に時間がかかってしまうことでのスループットの低下や、データが不正流失してしまうインシデント発生など、リスクを伴います。
そのため、推論環境をオンプレで構築する場合が多いです。
環境構築するための設置スペースは必要になりますが、『Kakip』のような小型のAIエッジデバイスを使用することで、これらの課題を解決することができます。
最後に
本展示は、「クラウド環境とオンプレ環境によるハイブリッドAI開発」をテーマに、クラウドにAI開発環境を構築するメリットをお伝えしました。
改めて、今回の展示のアピールポイントのおさらいです。
💡 展示のアピールポイント 💡
- AIモデル開発(学習)環境をクラウド環境に構築することで、環境構築コストや物理スペースの削減が可能
- 推論をオンプレミス環境『Kakip(※)』で実行することで、低消費電力・低発熱・低レンテンシな推論を実現
展示レポート第四弾は以上です。
弊社は今後も技術力で産業界を支えてまいります。