自社ツールの動作確認をしていたときの話です。
打ち合わせの案内文を自動で作る機能を試したところ、「お世話になっております。UMEO CREATE 伊藤です」から始まる、非の打ちどころのない文面が出てきました。日時も丁寧で、Google Meetの参加URLまで入っている。そのまま送れる完成度でした。
ところが、そのURLはどこにもつながらない会議室でした。形だけそれらしく作られた、実在しないURLだったのです。客先に送る直前で気づきましたが、あのまま送っていたら「入れませんでした」という連絡をもらうことになっていました。
AIは「分かりません」と言ってくれません。むしろ、分からないときほど堂々とします。この記事では、なぜそうなるのかと、会社で使うときに何をすればいいのかを3つの手順に整理します。
なぜ嘘をつくのか。テストで空欄を埋めるのと同じ
生成AIがやっていることは、乱暴に言えば「次に来そうな言葉を選び続ける」だけです。文章として自然につながる語を、確率の高い順に並べていく。この仕組みに、正しいかどうかを判定する工程は入っていません。
テストを思い出すと分かりやすいです。分からない問題に出くわしたとき、空欄で出せば確実に0点だから、とりあえず「これかな」と書いて出す。あの動きに近いことを、AIはものすごく流暢な文章でやります。
厄介なのは、当てずっぽうの答えほど自信ありげに見えることです。人間なら「たぶん」「自信ないけど」と迷いが文章ににじみますが、AIの文章は正解のときと同じ調子で出てきます。内容ではなく書きぶりで判断すると、必ず騙されます。
この現象には名前がついていて、ハルシネーションと呼びます。IPA（情報処理推進機構）の資料には、完全に防ぐ方法はまだ分かっていないと明記されています。有料プランに変えても、設定をいじっても消えません。付き合い方を決めるしかない相手です。
手順1. 先に「知らないなら知らないと言って」と釘を刺す
いちばん手軽なのが、指示文に一行足しておく方法です。
- 分からないことは推測で答えないでください。分からないと答えてください
- 自信がないことは、その旨を書いてください
- 不確かな内容は断定しないでください
これを入れておくと、無理に答えを作りにいく動きが少し抑えられます。
ただし、正直に書いておきます。これで100パーセント嘘がなくなるわけではありません。 効果があるのは「知ったかぶりを少しだけ防ぎやすくなる」程度です。ここを「この一文で安全になります」と言い切ってしまう説明を見かけますが、そう思って使うほうがむしろ危ないと考えています。
手順2. 出典は「出させる」ではなく「開く」
次の一手が裏取りです。ここでよくある勘違いが、「出典を出してください」と頼んで、URLが出てきた時点で安心してしまうこと。
AIは存在しないURLも作ります。 冒頭の会議室リンクと同じで、URLらしい形をした文字列を組み立てているだけの場合があります。出させたら、必ず開いてください。そして開いた先が、本当に自分の知りたかったことの出典になっているかまで見ます。
対象ごとに、確認先を決めておくと迷いません。
- お店や施設 → Googleマップで実在するか見る
- 制度や補助金 → 公式サイトの公募要領を自分で開く
- 社内のルールや数字 → 元の台帳・規程にあたる
補助金については以前も書きましたが、AIに「この補助金いくらですか」と聞くと改定前の古い金額が返ってくることがあります。当時実際に確認したケースでは、上限200万円の枠に対して500万円という改定前の数字が返ってきました。AIが悪意で嘘をついたのではなく、ネット上に古い解説記事が大量に残っているからです。
コツはひとことで言えます。聞くのではなく、読ませる。 公式のPDFを自分でダウンロードして渡し、「このファイルの中から答えて」と指示する。これだけで、古い記憶を持ち出す余地がかなり減ります。
手順3. 最終判断を任せない分野を、先に決めておく
3つ目は運用のルールです。次の4つは、調べる入り口には使っても、判断そのものは任せないと決めておくことをおすすめしています。
1. 医療・健康 — 診断は問診・検査・経験の総合判断で、AIは可能性を述べられるだけです
2. お金・投資・税金 — 会社ごとの事情が結論を左右します
3. 法律・契約 — 条文を知っていることと、この契約でどうすべきかは別物です
4. 最新の情報 — 制度改定や料金改定は、AIの手元にある情報が古い可能性が常にあります
理由は共通しています。AIは、判断が間違っていても責任を取らないからです。 海外では、社内で導入したチャットボットの誤った回答をめぐって、企業側の責任が問われた事例も報じられています。間違えたのがAIでも、責任を負うのは会社です。
国が出している「AI事業者ガイドライン」も、AIを使う側の義務として責任をもってAI出力結果の事業利用判断を行うことを挙げています。裏を返せば、判断を放り投げるような使い方は、そもそも想定されていません。
顧問の税理士さんや社労士さんがいる会社なら、この線引きはむしろ楽です。AIは調べる入り口、最終判断は先生に。 これで両方が生きます。
「うちはAIを使っていないから関係ない」も、実は関係がある
もうひとつだけ。「まだAIは導入していないから、この話はうちに関係ない」と考えている方にも、ひとつ知っておいてほしいことがあります。
自分が使わなくても、AIが書いた文章や動画は毎日目に入ってきます。 健康の話やお金の話を扱った、それらしい記事や動画。よく調べると根拠が見当たらないものが混ざっています。使う・使わないを選べる段階は、実はもう過ぎています。
まとめ。AIだけを特別扱いしない
ここまで注意点を並べましたが、怖がって遠ざけてほしいわけではありません。
検索で出てきたページも、どこの誰が書いたか分からないブログかもしれない。だから私たちは、大事なことなら別の情報源でも確かめます。AIも、それと同じ扱いをすればいいだけです。 特別に危険なのではなく、特別に信用してはいけないだけ。
社内ルールに落とすなら、この3つで足ります。
1. 指示文に「分からないときは分からないと言って」を足す
2. 出典は開くところまでやる。数字と日付は必ず一次情報で確認する
3. 医療・お金・法律・最新情報は、最終判断を人が持つ
新人が作った書類を上司が確認してから客先に出す。あの手間をAIにもかける、というだけの話です。それさえ守れば、AIは十分に頼れる働き手になります。
出典（2026年9月4日時点）
指針や制度は改定されます。数字や版数は必ず一次情報でご確認ください。
- AI事業者ガイドライン 第1.2版 本編（総務省・経済産業省、2026年3月31日）
https://www.soumu.go.jp/main_content/001064279.pdf
- AI利用者のためのセキュリティ豆知識（IPA セキュリティセンター、2026年3月）
https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html
【群馬・北関東の中小企業・ひとり社長のAI導入をサポート】
UMEO CREATE（ウメオクリエイト）では、群馬県（高崎・前橋・太田・伊勢崎・吉岡町など）を中心に、中小企業や個人事業主・ひとり社長様向けの「AI導入・業務自動化・DX伴走コンサルティング」を行っています。
「自社の業務でもAIを使える？」「何から手をつければいいかわからない」「面倒な事務作業を自動化したい」といったご相談は、お気軽に公式LINEまたはWebサイトのお問い合わせフォームよりご連絡ください。
