最終更新日:
エッジAIとは、クラウドではなく、カメラや機器、現場の端末などの手元でAIの処理を行う形です。
エッジAIでは、学習を終えたモデルを、工場の機器、カメラ、車両、スマートフォンなど、データが生まれる場所の近く(エッジ)に置き、推論を行います。データをクラウドに送らずに処理できるため、応答が速く、通信が切れても動き続けられます。小さく軽くしたモデルが使われます。
製造の現場での外観の検査、店舗のカメラでの混雑の把握、設備の異常の検知など、すぐに判断が要る場面や、通信の環境が限られる場面に向いています。映像などのデータを外に出さずに済むため、情報の扱いの面でも利点があります。
機器の計算の力には限りがあるため、使えるモデルの大きさや精度に制約があります。台数が多いと、モデルの更新や故障の把握など、現場の機器の管理の手間が増えます。どの処理を手元で行い、どの処理をクラウドで行うかを分けて設計します。
関連する用語
- 推論学習を終えたAIのモデルに新しいデータを入れて、予測や分類、文章の生成などの答えを出させる処理です。
- SLM(小規模言語モデル)LLMに比べてモデルの規模を小さく抑え、少ない計算資源で動かせるようにした言語モデルです。
- クラウドサーバーやソフトウェアなどの機能を、インターネットを通じて必要な分だけ利用する形態です。
- LLMOps・MLOpsAIのモデルを本番の業務で使い続けるために、開発・公開・監視・改善の流れを整える取り組みです。
- AI-OCRAIを使って、紙の書類や画像に書かれた文字を読み取り、データに変える技術です。
- AIの評価(評価用データ・評価指標)AIが業務で使える水準にあるかを、決めたデータと物差しで確かめることです。