生成AIの答えは、正しい内容も誤った内容も、同じように自然な文で出てきます。文の自然さや言い切りの強さは、正しさの目安になりません。仕事で使うときは、用途に応じて確かめる深さを決め、数字・固有名詞・法令・出典は必ず原典を開いて確かめるのが基本です。
確かめる作業は、答えを最初から疑い直すことではありません。答えの中から「確かめる対象」に印をつけ、その部分だけを原典と突き合わせます。ここでは、誤りが出る仕組み、用途ごとの確かめる深さ、対象ごとの確かめ方、要約・議事録・メール文案で使うときの注意を順に整理します。
もっともらしい誤りが出る仕組み
文は、確率的な関係から組み立てられる
個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（2023年6月）は、生成AIサービスの中には自然な文章を出力できるものもあるが、その文章は確率的な相関関係にもとづいて生成されるため、応答に不正確な内容が含まれるリスクがあるとしています。
総務省と経済産業省の「AI事業者ガイドライン（第1.2版）」（2026年3月）の別添も、生成AIで顕在化したリスクとして「ハルシネーション」と「誤情報を鵜呑みにすること」を挙げています。ハルシネーションは、生成AIが事実と異なることをもっともらしく回答することを指すと説明されています。同じ別添は、AIが同じ基準で運用されていても、モデルの確率的な性質から場面によって異なる判断を下すことがあるとも書いています。
人がAIの答えを信じすぎる
誤りが出ることに加えて、受け取る人の側にも偏りがあります。AI事業者ガイドラインは、自動化されたシステムや技術への過度の信頼や依存が生じる現象を「自動化バイアス」と呼び、AIに過度に依存するリスクに注意を払うよう求めています。必要な対策の例として、AIの評価や判断を人間が承認する際には、承認する理由や根拠を人間自身が独自に考えてから承認すべきことなどが提案されていると注記しています。
AIの答えに「よさそうだ」と感じたら、そのまま使う前に、その根拠を自分で言えるかを確かめるということです。
確かめている人は、まだ多くない
総務省「令和8年版 情報通信白書」によると、2025年度の個人向け調査で、日本で何らかの生成AIサービスを「使っている（過去使ったことがある）」と答えた人は58.8%でした。利用経験がある人に、AIを適切に使うために気を付けていることを尋ねたところ、日本で最も多かったのは「生成内容が正しいか、他の方法で確認している」の38.2%で、「生成内容の根拠や判断理由を確認している」が27.4%でした。一方、「特にない」は24.6%でした。
用途ごとに、確かめる深さを決める
すべての答えを同じ深さで確かめる必要はありません。誤りが残ったときに誰が困るかで、深さを決めます。
| 用途 | 例 | 確かめる深さ |
|---|---|---|
| 自分用の発想・下調べ | 企画の切り口を出す、調べる言葉を探す | 使う案だけを、あとで原典に当たる |
| 社内向けの下書き・要約 | 社内メモ、資料の要約、議事録の下書き | 元の資料や記録と突き合わせる |
| 社外に出る文書 | 取引先へのメール、提案書、公開する文章 | 数字・固有名詞・日付・約束の内容をすべて原典で確かめる |
| 判断の根拠になる情報 | 法令・制度の説明、契約に関わる内容、統計の数字 | 原典を開き、該当する箇所まで確かめる。判断が要るものは担当の部署や専門家に確かめる |
| 人の評価に関わる使い方 | 応募書類の評価、社員の評価の参考 | AIの答えだけで判断しない。社内の決まりに従う |
人の評価に関わる使い方について、AI事業者ガイドラインは、AIの出力を特定の個人や集団の評価の参考にする場合には、AIを使っていることを評価の対象者に通知することや、自動化バイアスも考慮して人間による合理的な判断のもとで説明責任を果たすことを、AI利用者（AIを事業に使う事業者）にとって重要な事項として挙げています。個人で決められることではないので、会社の決まりを確かめてください。
確かめる手順
手順1：答えの中の「確かめる対象」に印をつける
答えを読み終えたら、次のものに印をつけます。誤りが混じりやすく、誤っていたときの影響が大きいものです。
- 数字：金額、割合、件数、年数
- 固有名詞：人名、会社名、製品名、団体名、地名
- 日付と期限：施行日、締め切り、発表日
- 法令と制度：法律名、条文の番号、制度の名前と要件
- 引用と出典：「◯◯によると」という形の記述、資料名、URL
印のついていない部分は文の組み立てや言い回しなので、内容が自分の知っている事実と合っているかを読んで確かめれば足ります。
手順2：出典は、実在と中身の両方を確かめる
AIが出典を示した場合も、そのまま信じず、次の2点を確かめます。
- その資料が実在するか：URLを開く、資料名で検索する。開けない、見つからない出典は使わない
- その資料に、本当にそう書いてあるか：該当する箇所を探し、数字や表現が答えと一致しているかを見る
検索した結果をもとに答える仕組みのAIでも、確かめる必要は変わりません。AI事業者ガイドラインは、外部の情報の検索を組み合わせる仕組み（RAG）によってハルシネーションの抑制や根拠の透明性の向上が「期待されている」としていますが、なくなるとはしていません。別添でも、こうした仕組みを使う場合は、検索・参照するデータの最新性と信頼性の確保に留意するよう求めています。
手順3：数字は、原典の表で「いつ・誰の・何の」数字かを確かめる
数字は、値そのものだけでなく、次の4点を原典の表で確かめます。
| 確かめること | 見るところ |
|---|---|
| いつの数字か | 調査の年度、公表日、何年版か |
| 誰を対象にした数字か | 調査の対象（年齢、業種、企業規模など） |
| 何の数字か | 設問の文言、項目の定義 |
| 単位 | ％か件数か、円か千円か |
たとえば、前出の情報通信白書で、生成AIサービスの利用経験がある人の割合は58.8%です。ただし、この年度の調査は対象に新たに15歳から19歳を加えており、20歳以上に限ると52.2%だったと注記されています。前の年度の調査は20歳以上が対象だったため、前年と比べるなら20歳以上の数字を使うほうが条件がそろいます。AIの答えが「58.8%」とだけ示していたら、この違いは分かりません。
統計の数字は、官公庁の統計なら政府統計の総合窓口（e-Stat）や各省庁の公表資料で、原典の表を開いて確かめます。
手順4：固有名詞は、本人や当事者の発表で確かめる
会社名は、正式な表記（「株式会社」の位置など）まで確かめます。会社の公式サイトのほか、国税庁の法人番号公表サイトでは、法人の商号や所在地を調べられます。人名と役職は、会社の公式発表で確かめます。役職や組織は変わるため、いつの情報かも見ます。
手順5：法令は、現行の条文と所管の官庁の資料で確かめる
法令は改正されます。AIの答えがいつ時点の条文にもとづいているかは、答えを読んだだけでは分かりません。法律名と条文の番号は、e-Gov法令検索などで現行の条文を開いて確かめます。
条文の読み方や運用は、所管の官庁が出しているガイドラインやQ&Aで確かめます。自社の状況に当てはめてどう判断されるかは、AIの答えでも条文だけでも決められないことがあります。判断が要るときは、社内の法務や人事の担当、専門家に確かめてください。
手順6：確かめた結果を残す
社外に出す文書や、判断の根拠にする情報は、何をどの原典で確かめたかを短く残しておきます。後から「この数字はどこから来たのか」と聞かれたときに、すぐに答えられます。
要約・議事録・メール文案で使うときの注意
要約
要約で起きやすい誤りは、元の文章にあった条件が落ちることと、元の文章にないことが足されることです。
- 「〜の場合を除く」「〜に限り」といった条件や例外が残っているか
- 否定の文が肯定になっていないか
- 数字や日付が元の文章と一致しているか
- 元の文章に書かれていない結論や理由が加わっていないか
要約を使うときは、元の文章を手元に置き、要約の文ごとに対応する箇所を探します。対応する箇所が見つからない文は、削るか元の文章に合わせて直します。
議事録
会議の録音や文字起こしからAIで議事録の下書きを作る場合は、決定事項、担当、期限の3つを、会議の参加者が確かめてから共有します。要約と同じく元の記録にない結論が足されていないかを見るほか、話し合っただけの案が決定事項として書かれていないかを確かめます。議事録に何を残すかの整理は、議事録と発言録の違いで説明しています。
なお、会議の内容を入力してよいかは、使う前に社内の決まりで確かめておく必要があります。入力してよい情報の考え方は、生成AIを仕事で使う前に確かめることで整理しています。
メール文案
メールの文案では、宛名、日付、金額、添付の有無に加えて、自分がしていない約束が書き足されていないかを確かめます。「明日までにお送りします」「無料で対応いたします」のような一文は、文としては自然でも、送ればそのまま相手への約束になります。
言い回しが丁寧すぎたり、逆に強すぎたりしないかも、相手との関係を知っている自分が読んで直します。
読み違えやすいところ
「出典が付いているから正しい」
出典の資料名やURLそのものが誤っていることも、資料は実在しても答えの内容が書かれていないこともありえます。手順2のとおり、実在と中身の両方を確かめるまでは、出典が付いていないのと同じに扱います。
「何度か聞いて同じ答えなら正しい」
答えが一致することは、正しさの裏付けになりません。正しいかどうかは、原典と突き合わせて初めて分かります。
「AIに『本当に正しいですか』と聞けば確かめられる」
確かめ直しを頼んでも、その答えも同じ仕組みで作られます。AIに聞き直すのは、確かめる対象を洗い出す助けにはなりますが、原典で確かめる代わりにはなりません。
「事実と自分の考えが混ざっていても、AIが整えてくれる」
AIに渡した段階で事実と推測が混ざっていると、整った文になって区別がつきにくくなります。渡す前に、事実と解釈を分けておくと、答えのどこを確かめればよいかもはっきりします。分け方は事実と解釈を分ける方法で整理しています。
「自分の経歴を書かせるだけなら、確かめなくてよい」
職務経歴書のように自分のことを書かせる場合も、経歴にない数字や役割が自然な文で紛れ込むことがあります。確かめ方はAIで書いた職務経歴書の直し方で説明しています。
生成AIの答えを仕事で使うときは、用途で確かめる深さを決め、数字・固有名詞・法令・出典に印をつけて、原典と突き合わせます。まずは次にAIの答えを使うとき、答えの中の数字と固有名詞に印をつけ、1つずつ原典を開くところから始めてください。ほかの記事は業務効率・ITの一覧にまとめています。
