LLMとは？「自然な文章」と「正しい答え」の違いを知る

LLMは、言葉の並び方を学んだモデル

LLM（Large Language Model：大規模言語モデル）は、膨大なテキストデータから言葉のつながりや文脈に応じた使われ方を学習したモデルです。要約や翻訳、下書きの作成、質問への応答など、幅広い用途で活用されています。

文章を生成する基本原理は、手元の文脈を手がかりに「次に続く可能性が高いトークン」を順番に選ぶことです。トークンとはモデルが言語を処理する最小単位で、単語そのものの場合もあれば、単語の一部で区切られることもあります。選んだトークンを文脈の後ろへ付け足し、さらに次のトークンを予測する処理を繰り返して文章を伸ばしていきます。

この図は生成の根底にあるコアな流れを示したものです。実際のAIサービスでは、推論ステップを整える処理や、Web検索・計算ツールといった外部機能と組み合わせて動くケースも珍しくありません。「言語モデル単体ができること」と「前後のシステムを含めたサービス全体ができること」を切り分けて把握するのが理解の近道です。

「続きが自然であること」を具体例で考える

たとえば「雨が降っているので、出かけるときは」という文章の続きを考えてみましょう。「傘を持っていく」と続けても自然ですし、「傘を忘れないようにする」としても文脈に合います。前後のつながりとして自然な選択肢は、決してひとつだけではありません。

一方で、「この製品の保証期間は何年？」という問いには、製品仕様に基づいた確かな事実が存在します。たとえ質問のトーンに合わせた丁寧な回答文が生成できたとしても、それだけで保証書の年数を正しく調べた保証にはなりません。言い回しの自然さと根拠の有無は、別の基準で確かめる必要があります。

検索とLLMの役割の違い

検索システムの役割は、知りたい内容に関係する文書を探し出すことです。これに対してLLMは、与えられた情報をもとに文脈を組み立てる役割を担います。検索機能を備えたAIサービスは、このふたつの仕組みを連携させて動いています。

回答に出典リンクが添えられていても、文面がそのまま正しいとは限りません。必ず元リンクを開き、該当箇所の記述と回答を見比べることが欠かせません。たとえば「無料で利用可能」と書かれていても、無料期間の期限や対象プランなどの限定条件まで目を通す必要があります。

ハルシネーションを減らす指示の工夫

事実とは異なる情報や、提示された資料に存在しない内容を、あたかも正しいかのように出力する現象をハルシネーション（幻覚）と呼びます。実在しない架空の機能名や参考文献をもっともらしく挙げてしまう例が代表的です。

対策としては、参照する資料を直接渡す、回答の根拠となった箇所を引用させる、判断できない点は「不明」と答えるよう明記する、といったアプローチが効果的です。ただし、これらの指示を徹底しても誤りをゼロにできるわけではありません。

次の資料だけを使って、保証期間を説明してください。
根拠になる文章を示してください。
資料に書かれていない場合は「この資料では確認できません」と答えてください。
推測で年数を補わないでください。

【資料】
ここに保証書の該当箇所を貼り付ける

上記のプロンプトは、回答の根拠を資料内に限定するための指定例です。保証書のテキストを添付したからといって、100%正しい答えが返る保証にはなりません。回答で示された対象機器や購入条件が、手元の原本と合致しているかを必ず人の目で照合してください。

AIの回答を受け取ったときに確認すべき3つのこと

1. どこから分かるか。 元資料の該当箇所を確認します。
2. いつの情報か。 価格、仕様、提供状況は日付も確認します。
3. 条件が合うか。 プラン、地域、バージョンなどの対象を確認します。

アイデア出しやたたき台の作成であれば、表現の多少のブレを許容できる場面も多いでしょう。しかし、社外へ公開する資料やプログラムの実装に使う情報については、あらかじめ検証の手順を決めておくことが欠かせません。まずはひとつの回答について、元資料と突き合わせる作業から始めてみてください。