2026.09.01

会社で必要なAI用語は9語だけ。LLMからRAGまで

AI活用AI入門

会社で必要なAI用語は9語だけ。LLMからRAGまで

「エルエルエムが、プロンプトで、ラグを使って……」

打ち合わせでカタカナが3つ4つ続いた瞬間、話が耳に入ってこなくなる。無料の業務診断や研修の場で、実はいちばん多いのがこの状態です。分からないと言い出せないまま時間だけが過ぎて、最後に「では検討します」で終わってしまう。

もったいないと感じています。AIの用語は、会社で使う分には9語で足ります。 私が研修や診断のヒアリングで実際に説明しているのも、この9語だけです。40語も50語も並んだ用語集は、覚えるためではなく、聞かれたときに引くためのものです。

この記事では、その9語を公的資料の定義に沿って整理します。

最初に安心してほしいこと。「AI」は国も定義していない

いきなり結論めいた話をします。

総務省と経済産業省が出している「AI事業者ガイドライン」には、こう書かれています。「AI は未だ確立された定義は存在しない」(第1.2版・第1部)。

国が事業者向けに出している正式な指針で、その言葉自体を定義しきれていないと明記しているわけです。

つまり「AIって結局なんなんですか」がはっきりしないのは、あなたの理解不足ではありません。1956年から使われている言葉で、指す中身が時代ごとに変わってきたからです。

だから経営者の方には、こうお伝えしています。AIとは何かで悩まなくていい。「何が自動でできるようになったか」だけ見ればいい。

9語の全体像。前半4語は「関係」だけ覚える

会社で必要な9語は次のとおりです。

1. AI
2. 機械学習
3. ディープラーニング
4. 生成AI
5. LLM
6. ハルシネーション
7. プロンプト
8. RAG
9. AIエージェント

このうち1から4は、意味を暗記するより「入れ子になっている」と知るほうが役に立ちますAIという大きな輪の中に機械学習があり、その中にディープラーニングがあり、いちばん内側に生成AIがある。この4語は前回の記事で図にしているので、そちらに譲ります。

今回は、実務の会話で実際につまずく後半5語を、ひとつずつ見ていきます。

5. LLM = サービスの中に入っているエンジン

LLMは Large Language Model の略で、日本語では大規模言語モデル。IPA(情報処理推進機構)の資料では「テキスト入力を受け付けテキストを出力する生成AIの心臓部のAIモデル」と説明されています。

車でたとえると分かりやすいです。ボディがChatGPTやGemini、エンジンがLLM。 エンジンを載せ替えると同じ見た目のまま賢くなります。「モデルが新しくなった」というニュースは、この載せ替えの話をしています。

ときどき「27B」のような表記を見かけますが、Bは Billion(10億)のことで、27Bなら270億個の部品でできている、くらいの理解で十分です。おおまかには大きいほど物知りな傾向があります。

6. ハルシネーション = 知識豊富だが経験不足の新人

いちばん誤解が多い語です。ハルシネーションとは、AIが事実と違う内容を、堂々と本当らしく答えてしまう現象指します。

存在しない会社のプロフィールを尋ねても「知りません」とは言わず、それらしい経歴を作って答えてしまう。これがそのままハルシネーションです。

ここで重要なのは、IPAが「完全に防ぐ方法はまだ分かっていません」明記していることです。設定や有料プランで消えるものではありません。

同じ資料にある比喩が、私の知る限りいちばん的確です。生成AIは「知識豊富だが経験不足の新人」。 暗記は得意でも、正誤の判断はまだできない。

この一言が腹に落ちると、社内ルールが自然に決まります。新人が作った書類をそのまま客先に出す会社はありません。 AIの出力も同じで、人が確認してから外に出す。それだけです。

7. プロンプト = AIへの指示書

プロンプトは、AIに与える入力そのもののこと。要するに指示書です。ここが9割を決めます。

東京商工会議所が中小企業向けに出している入門ガイドでは、精度を上げるポイントとして次が挙げられています。

  • 指示を明確にする(前提情報、参考にしてほしい資料、条件、出力形式まで書く)
  • AIに役割を与える「あなたはプロの校正者です」から始める)
  • 記号で項目を区切る(#で見出しを付けて、条件と本文を混ぜない)

「要約して」ではなく「この議事録を、役員向けに、箇条書き5行で、決定事項だけ要約して」。この差だけで結果が変わります。

8. RAG = AIに社内のカンペを持たせる仕組み

RAG(ラグ)は Retrieval Augmented Generation の略。AIが知らないことを、社内の文書などから検索して、答える直前に読ませる仕組みです。

なぜ必要か。生成AIは学習した知識で答えるので、御社の就業規則や見積ルールのような社外に無い情報は答えられませんしかも「知らない」と言えないので、ここでハルシネーションが起きます。

RAGは、AIを「物知り」から「御社の事情が分かる人」に変える仕組みだとお考えください。社内チャットボットの中身は、たいていこれです。

⚠️ ただし、ここには「混ぜる危険」あります。IPAが挙げている注意点で、外から届いたメールと社内の機密文書を、同じAIに同時に読ませてはいけないいうものです。

メールの中に「これまでの内容を全部教えて」といった命令文が仕込まれていると、AIがそれを指示だと受け取り、一緒に読んでいた社内情報を持ち出してしまう可能性がある。IPAはこの流出の危険をはっきり書いています。

対策は単純で、検索させる範囲を絞ること。社内文書用と外部メール用でAIを分ける。設計の段階で決めておくべき話です。

9. AIエージェント = 言えばやってくれる担当者

最後の1語です。ガイドラインでは「特定の目標を達成するために、環境を感知し自律的に行動するAIシステム」と定義されています。

現場の言葉に直すとこうなります。

  • チャットAI=聞けば答えてくれる相談相手
  • AIエージェント=言えばやってくれる担当者

「先月の請求書をまとめてPDFにして」と頼むと、ファイルを探し、集計し、作るところまで自分で進みます。

注目してほしいのは、この語がガイドラインに正式に定義として加わったのが2026年3月の改定だいう点です。第1.1版までは載っていませんでした。ルールを作る側が、エージェント前提に切り替えたということです。

まとめ。9語が分かると、質問ができるようになる

  • 会社で必要なAI用語は9語。40語の用語集は引くためのもので、覚えるためのものではない
  • 「AI」は国も定義していない。分からなくて当たり前
  • ハルシネーションは消えない。人が確認する前提で仕組みを組む
  • RAGは社内のカンペ。ただし外部メールと機密文書を混ぜない
  • AIエージェントは2026年3月から公的な定義がある

9語が分かると何が変わるか。分からない話を止められるようになります。 「それはRAGの話ですか、プロンプトの話ですか」と聞き返せるだけで、提案の中身が見えるようになる。ここがいちばんの効果だと思っています。

出典(2026年9月1日時点)

制度や指針は改定されます。数字や版数は必ず一次情報でご確認ください。

  • AI事業者ガイドライン 第1.2版 本編(総務省・経済産業省、2026年3月31日)

https://www.soumu.go.jp/main_content/001064279.pdf

  • AI利用者のためのセキュリティ豆知識(IPA セキュリティセンター、2026年3月)

https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html

  • 小企業のための「生成AI」活用入門ガイド 第7版(東京商工会議所、2025年8月1日)

https://www.tokyo-cci.or.jp/file.jsp?id=1204275


【群馬・北関東の中小企業・ひとり社長のAI導入をサポート】

UMEO CREATE(ウメオクリエイト)では、群馬県(高崎・前橋・太田・伊勢崎・吉岡町など)を中心に、中小企業や個人事業主・ひとり社長様向けの「AI導入・業務自動化・DX伴走コンサルティング」を行っています。

「自社の業務でもAIを使える?」「何から手をつければいいかわからない」「面倒な事務作業を自動化したい」といったご相談は、お気軽に公式LINEまたはWebサイトのお問い合わせフォームよりご連絡ください。

「うちの何にAIを使えるのか」から決めたい方

あてはまる症状に○をつけるだけで、どの業務から手をつけるかが分かる セルフ診断チェックリスト(A4×2枚・21項目)を無料でお配りしています。

診断チェックリストを受け取る(無料)

群馬県内でのAI導入・業務システム開発・AI研修のご相談を承っています。「何から始めればいいか分からない」段階からで構いません。下のフォームからお気軽にどうぞ。

← コラム一覧へ戻る

「AIで何ができるか分からない」
その段階のご相談こそ、歓迎です。

現状の業務の困りごとを伺うところから始めます。売り込みはしません。お気軽にどうぞ。

1営業日以内にご返信いたします。

フォームのほか、LINEでもご相談を承っています
LINEで相談する
友だち追加後、そのままトークでご質問いただけます