推論

AIの処理は、データから規則を学ぶ「学習」と、学んだモデルを使って答えを出す「推論」に分けられます。英語では inference と書きます。たとえば、需要予測のモデルに来週の条件を入れて予測値を出すことや、生成AIが質問に答えることは、推論にあたります。

学習はまとまった計算をときどき行うのに対して、推論は業務の中でくり返し行われます。そのため、運用の費用や応答の速さは推論の処理の重さで決まることが多く、クラウドで動かすか、手元のサーバーや端末で動かすかの判断にも関わります。

生成AIの分野では、答える前に段階を踏んで考える能力を指して「推論」と呼ぶこともあり、英語の reasoning にあたります。記事を読むときは、処理の段階を指すのか、考える能力を指すのかを分けて読むと、意味がつかみやすくなります。