最終更新日:
自然言語処理とは、人がふだん使う言葉(自然言語)を、コンピューターで分析したり作り出したりする技術です。
自然言語処理は、文章を単語に区切る、意味の近さを測る、文章を分類する、要約する、翻訳する、といった処理を扱う分野です。英語では Natural Language Processing と書き、NLPと略されます。LLM(大規模言語モデル)も自然言語処理の研究から生まれたもので、生成AIの土台になっています。
業務では、問い合わせの文章の分類、アンケートの自由記述の集計、契約書や議事録の要約、文書の検索などに使われます。LLMの登場で、一つのモデルに指示を変えて与えるだけで多くの処理ができるようになり、用途ごとにモデルを作る手間が小さくなりました。
言葉は業界や社内で意味が変わることが多く、専門の用語や略語の扱いで精度が下がることがあります。社内の用語集や過去の文書を使って確かめ、誤りの起きやすい場面を把握しておきます。個人情報を含む文章を扱うときは、扱いの決まりも確かめます。
関連する用語
- LLM(大規模言語モデル)大量の文章を学び、次に来る言葉を予測することで文章を作るAIのモデルです。
- エンベディング(埋め込み)文章や画像などの意味を、数値の並び(ベクトル)に置き換えたものです。
- ディープラーニングニューラルネットワークを何層にも重ねたモデルで、データから特徴を学ぶ機械学習の方法です。
- 推論学習を終えたAIのモデルに新しいデータを入れて、予測や分類、文章の生成などの答えを出させる処理です。
- 説明可能なAI(XAI)AIの答えに、どの情報がどう効いたのかを人が理解できるようにする技術や考え方です。
- 転移学習ある課題で学んだモデルの知識を、別の課題の学習に生かす方法です。