--- title: "いまのAIが得意なこと・苦手なこと：予測と説明の違い｜アメリア・テクノロジー株式会社" url: https://www.ameliatechnology.co.jp/blog/ai-limits/ description: "いまのAIは、よく当たる予測ができても、その背後の法則を理解しているとは限りません。ハーバード大学とMITの研究者による論文を手がかりに、AIが得意なこと・苦手なことと、業務で使うときの注意点をまとめます。" updated: 2026-10-21 publisher: "アメリア・テクノロジー株式会社" --- # いまのAIが得意なこと・苦手なこと：予測と説明の違い いまのAIは、よく当たる予測ができても、その背後の法則を理解しているとは限りません。ハーバード大学とMITの研究者による論文を手がかりに、AIが得意なこと・苦手なことと、業務で使うときの注意点をまとめます。 2025.08.13 更新 2026.10.21 [AIの基礎知識](https://www.ameliatechnology.co.jp/blog/category/basics/) 執筆 [石田誠](https://www.ameliatechnology.co.jp/blog/author/ishida/)（グループCTO） ## この記事の要点 - 惑星の軌道をほぼ正確に予測できるモデルでも、ニュートンの重力の法則を身につけてはいなかったという研究があります - 研究者は、モデルが課題ごとの近似のルールで答えている可能性を指摘しています - 業務では、学習したデータと使う場面の条件が近いかを確かめ、理由の判断は人が持つことが大切です ## 予測が当たることと、理由を理解していることは別 いまのAIは、過去のデータに似た場面では高い精度で予測できますが、その背後にある法則を理解しているとは限りません。予測がよく当たることと、なぜそうなるかを理解していることは、分けて考える必要があります。 予測と理解の違いを確かめた研究として、ハーバード大学とマサチューセッツ工科大学（MIT）の研究者による論文があります。この記事では、論文で確かめられた内容を紹介し、業務でAIを使うときの考え方につなげます。 ## どのような研究か 紹介するのは、2025年7月に公開された論文「What Has a Foundation Model Found? Using Inductive Bias to Probe for World Models」です。著者は、ハーバード大学の Keyon Vafa 氏と、MIT の Peter G. Chang 氏、Ashesh Rambachan 氏、Sendhil Mullainathan 氏の4人で、機械学習の国際会議 ICML 2025 で発表されました。 出典：[What Has a Foundation Model Found? Using Inductive Bias to Probe for World Models（arXiv）](https://arxiv.org/abs/2507.06952) 論文は、天文学の歴史を例に問いを立てています。ケプラーは惑星の観測データから軌道を正確に予測する法則を見つけましたが、なぜその軌道になるのかを説明したのは、のちのニュートンの万有引力の法則でした。大量のデータで次に来るものを予測するよう学んだAIは、ケプラーのように予測が得意なだけなのか、ニュートンのように背後の仕組み（論文の言葉では「世界モデル」）まで身につけているのか、というのが研究の問いです。 予測と説明の違い（論文が例に挙げた天文学の歴史） - **ケプラー**：惑星の観測データから、軌道を正確に予測する法則を見つけました - **ニュートン**：なぜその軌道になるのかを、万有引力の法則で説明しました - **研究の問い**：AIは予測が得意なだけか、背後の仕組み（世界モデル）まで身につけているか ## 実験の内容と結果 研究では、予測の精度とは別に、モデルが背後の法則に沿って答えるかを確かめる方法を考案し、物理などいくつかの分野で試しています。 ### 惑星の軌道を学んだモデル 研究者は、シミュレーションで作った約1,000万の惑星系の軌道のデータで、約1億900万のパラメーターを持つ Transformer のモデルを学習させました。 出典：[What Has a Foundation Model Found?（arXiv HTML版）](https://arxiv.org/html/2507.06952) 結果は次のとおりです。 - 学習した課題である、惑星の次の位置の予測は、ほぼ正確にできた - 少しのデータで「惑星にかかる力を答える」という新しい課題に合わせると、答えは大きく外れた - モデルの答えから力の法則を式として取り出すと、ニュートンの法則とは一致せず、データの組ごとに異なる式になった 研究者は、モデルが一つの法則を身につけたのではなく、場面ごとに異なる近似のルールで答えているように見える、と述べています。 ### 汎用のLLMでの試み 論文の付録では、o3、Claude Sonnet 4、Gemini 2.5 Pro といった汎用のLLMにも、軌道のデータと一部の力の値を示して残りを答えさせています。いずれの場合も、答えから取り出した式はニュートンの法則とは異なっていました。ただし、研究者はこの試みを小規模な実験と位置づけています。 ### ほかの分野での結果 物理のほかに、簡単な位置の移動を表すデータや、ボードゲームのオセロでも同じ方法で確かめています。いずれも、モデルは正しい次の手や動きを高い割合で出せる一方で、盤面などの背後の状態を正しくとらえてはいない、という傾向が見られました。 ## 研究から読み取れること 研究が示しているのは、学習した課題でよく当たるモデルでも、背後の法則を身につけているとは限らない、ということです。課題に合わせた近似で答えているモデルは、条件が変わったり、別の問いを立てたりすると、思わぬ形で外れることがあります。 一方で、結果を広げすぎないことも大切です。実験は研究者が用意した特定の設定で行われたもので、すべてのAIや業務に同じことが当てはまると示したわけではありません。AIの仕組みは改良が続いており、論文が扱っていない方法で学んだモデルの性質は、別に確かめる必要があります。 ## いまのAIが得意なこと・苦手なこと 一般に、いまのAIは、学んだデータに似た条件でパターンをとらえる作業が得意で、条件が大きく変わる場面や、理由の説明が求められる場面では注意が要ります。 得意な使い方の例： - 過去の傾向が続く前提での需要や売上の予測 - 書類や問い合わせの分類、帳票の読み取り - 文章の下書き、要約、翻訳 注意が要る使い方の例： - 新商品や新しい市場など、過去のデータが少ない、または条件が違う場面での予測 - 「なぜそうなるのか」の説明や、原因と結果の判断 - 前例のない状況での方針の決定 機械学習のモデルの選び方による違いは[機械学習とディープラーニングの違いと、業務での使い分け](https://www.ameliatechnology.co.jp/blog/machine-learning-vs-deep-learning/)でも取り上げています。 ## 業務で使うときの考え方 業務でAIを使うときは、予測の精度だけで判断せず、使う場面の条件と、人が担う判断の範囲を決めておくことが大切です。 1. 学習したデータと、実際に使う場面の条件が近いかを確かめる 2. 市場や商品、業務の手順が変わったときは、精度を見直す時期を決めておく 3. 予測の結果は判断の材料として使い、理由の判断や最終の決定は人が持つ 4. AIの答えを確かめる担当と手順を、運用の中に組み込む AIを万能の道具として扱うのではなく、得意な部分を任せ、苦手な部分を人が補う形にすると、業務の中で長く使いやすくなります。 ## 当社のご支援 当社は、経営の目標から逆算して、AIに任せる範囲と人が判断する範囲を決めるところからご支援しています。使いどころの見きわめは[AI・DXコンサルティング](https://www.ameliatechnology.co.jp/service/consulting/)、作ったAIをいまのシステムにつなぎ、精度を見ながら運用・改善する段階は[AIインテグレーション](https://www.ameliatechnology.co.jp/service/integration/)をご覧ください。 - AIの限界 - 世界モデル - 研究紹介 ## この記事に出てくる用語 - [機械学習](https://www.ameliatechnology.co.jp/glossary/machine-learning/) - [HTML](https://www.ameliatechnology.co.jp/glossary/html/) - [LLM（大規模言語モデル）](https://www.ameliatechnology.co.jp/glossary/llm/) - [ディープラーニング](https://www.ameliatechnology.co.jp/glossary/deep-learning/) この記事を書いた人 [石田誠](https://www.ameliatechnology.co.jp/blog/author/ishida/) グループCTO インターネットの黎明期から、ホスティング事業の立ち上げや、インフラ・セキュリティのプロジェクトに携わってきました。現在は、AWS・Azure へのクラウド移行の支援と、業務アプリケーションの要件定義から実装までを担っています。 このコラムは一般的な情報の提供を目的としたもので、個別の状況への助言ではありません。製品・サービスの名前と内容は、記事の更新日の時点のものです。 ## あわせて読みたい - [ハルシネーションとは。生成AIのもっともらしい誤りとの付き合い方](https://www.ameliatechnology.co.jp/blog/hallucination/) - [生成AIと、これまでのAI（予測・分類）の違い](https://www.ameliatechnology.co.jp/blog/genai-vs-predictive-ai/) - [AIのニュースによく出る用語：生成AIからAIエージェントまで](https://www.ameliatechnology.co.jp/blog/ai-terms/) [AIの基礎知識のコラムを見る](https://www.ameliatechnology.co.jp/blog/category/basics/) [コラムの一覧に戻る](https://www.ameliatechnology.co.jp/blog/) ## 次の一歩 ### 資料で全体をつかむ AI開発の例（無料・PDF）。帳票の読み取り、配車計画、需要予測、対話型のAIエージェント、セキュリティ解析、動画生成の6つの例と、ほかにご相談いただける分野をまとめた資料です。 [資料を受け取る](https://www.ameliatechnology.co.jp/download/ai-examples/) ### まずは30分、オンラインで話してみる 何に使うかが決まっていない段階でも構いません。30分のオンライン相談は無料です。 [無料で相談する](https://www.ameliatechnology.co.jp/contact/) ## ご関心に合わせて、お選びください。 [情報を集めている方へ会社案内、AI開発の例、セキュリティ診断の報告書の見本をお送りします。資料をダウンロード](https://www.ameliatechnology.co.jp/download/)[課題が見えている方へオンラインで30分、お話をうかがいます。費用はかかりません。無料で相談する](https://www.ameliatechnology.co.jp/contact/)[進め方を決めたい方へ2〜4週間で、優先順位と計画をまとめるAI活用の診断です。診断について見る](https://www.ameliatechnology.co.jp/pricing/#diagnosis) --- 出典：アメリア・テクノロジー株式会社「いまのAIが得意なこと・苦手なこと：予測と説明の違い｜アメリア・テクノロジー株式会社」 https://www.ameliatechnology.co.jp/blog/ai-limits/