AI入門| AIpedia編集部

生成AIの仕組みをわかりやすく解説|GPT・拡散モデル・RAGとは?【初心者向け】

生成AIの仕組みを初心者向けにわかりやすく解説。Transformer/GPTの仕組み、拡散モデル(画像生成)、RAG、ファインチューニングなどの技術を図解的に説明します。

「ChatGPTはどうやって文章を作っているの?」「画像生成AIの仕組みは?」そんな疑問を持つ方のために、生成AIの仕組みを専門用語をできるだけ使わずに、わかりやすく解説します。技術の基本を理解することで、AIツールをより効果的に活用できるようになります。

生成AIとは何か?

従来のAIとの違い

生成AI(Generative AI)とは、新しいコンテンツを「生成」できるAIのことです。従来のAIとの違いを簡単に整理しましょう。

種類できること
従来のAIデータの分類・予測・判定スパムメール判定、画像認識、レコメンド
生成AI新しいコンテンツの作成文章生成、画像生成、音楽生成、動画生成

従来のAIは「このメールはスパムですか?」「この画像に猫は写っていますか?」といった判定はできましたが、新しいものを作ることはできませんでした。生成AIは、学習したデータのパターンを理解し、それをもとに全く新しいコンテンツを作り出すことができます。

生成AIの種類

種類入力出力代表的なサービス
テキスト生成AIテキストテキストChatGPT, Claude, Gemini
画像生成AIテキスト/画像画像Midjourney, DALL-E, Stable Diffusion
音声生成AIテキスト音声ElevenLabs, VOICEVOX
動画生成AIテキスト/画像動画Runway, Sora, Kling
音楽生成AIテキスト音楽Suno, Udio
コード生成AIテキストプログラムGitHub Copilot, Cursor

テキスト生成AIの仕組み(GPT/Transformer)

「次の単語を予測する」のが基本

ChatGPTなどのテキスト生成AIの基本原理は、実はとてもシンプルです。

「これまでの文脈から、次に来る可能性が最も高い単語を予測する」

これを繰り返すことで、文章を一語ずつ生成しています。

例えば、「今日の天気は」という文の次に来る単語として、AIは以下のように確率を計算します。

  • 「晴れ」: 35%
  • 「曇り」: 20%
  • 「雨」: 15%
  • 「良い」: 10%
  • その他: 20%

最も確率が高い「晴れ」を選んで出力し、次は「今日の天気は晴れ」の続きを予測する...これを繰り返して文章全体を生成します。

Transformerアーキテクチャ

この「次の単語予測」を高精度に行うための仕組みがTransformer(トランスフォーマー)です。2017年にGoogleの研究者が発表した画期的な技術で、現在のほぼすべてのテキスト生成AIの基盤となっています。

Transformerの核心: 注意(Attention)メカニズム

人間が文章を読むとき、全ての単語に均等に注意を払うわけではありません。文脈に応じて、重要な単語により多くの注意を向けます。

例えば、「昨日買った赤いリンゴを今朝食べたら、とても甘かった」という文を読むとき、「甘かった」がどの単語と関連しているかを理解するために、「リンゴ」に強い注意を向けます。

Transformerの「注意メカニズム」は、この人間の注意の仕組みを数学的にモデル化したものです。

仕組みを例え話で説明すると:

想像してみてください。あなたは大きな図書館にいます。

1. 質問(Query): あなたは「果物の味について知りたい」という質問を持っている 2. 鍵(Key): 図書館の各本には「この本はこういう情報がある」というラベルがついている 3. 価値(Value): 本の中身そのもの

あなたは自分の質問と各本のラベルを照合して、最も関連性の高い本に注目し、その中身を参照する。これがAttentionメカニズムの基本的な考え方です。

Transformerはこの注意メカニズムを「自己注意(Self-Attention)」として、文中の全ての単語ペア間で計算します。これにより、文脈の理解が飛躍的に向上しました。

GPTとは何か?

GPTは「Generative Pre-trained Transformer」の略です。

  • Generative: 生成する(新しいテキストを作り出す)
  • Pre-trained: 事前学習済み(大量のテキストで学習している)
  • Transformer: 上で説明したTransformerアーキテクチャを使っている

つまりGPTは、「Transformerを使って大量のテキストで事前学習した、テキスト生成モデル」ということです。

学習の3段階

GPTのようなモデルは、以下の3段階で賢くなります。

第1段階: 事前学習(Pre-training)

インターネット上の膨大なテキスト(書籍、Webページ、論文など)を使って、「次の単語を予測する」タスクで学習します。この段階で、言語の基本的な構造、常識、知識を獲得します。

  • 学習データ: 数兆語のテキスト
  • 学習にかかるコスト: 数億〜数十億円
  • 習得するもの: 言語の文法、一般知識、推論能力

第2段階: 指示チューニング(Instruction Tuning / SFT)

事前学習だけでは、ただ「次の単語を予測する」だけで、質問に答えたり指示に従ったりすることはできません。そこで、人間が作った「質問と回答のペア」で追加学習を行います。

  • 学習データ: 数万〜数十万件の質問・回答ペア
  • 習得するもの: 指示に従う能力、Q&A形式での対話能力

第3段階: 人間のフィードバックによる強化学習(RLHF)

AIの回答に対して人間が「良い/悪い」を評価し、より人間の好みに合った回答を生成するよう調整します。この段階で、AIが有害な回答を避け、有益で安全な回答を生成するようになります。

  • 方法: 人間の評価者がAIの回答をランキング
  • 習得するもの: 有用性、安全性、誠実さ

コンテキストウィンドウとは?

AIがOneの会話で処理できるテキストの量を「コンテキストウィンドウ」と呼びます。これは「AIの短期記憶の容量」のようなものです。

モデルコンテキストウィンドウ目安(文字数)
GPT-4o128,000トークン約10万文字
Claude 3.5200,000トークン約15万文字
Gemini 2.5 Pro1,000,000トークン約75万文字

コンテキストウィンドウが大きいほど、長い文書の分析や長時間の会話の文脈を維持できます。ただし、ウィンドウが大きくなるほど処理コストも増加します。

画像生成AIの仕組み(拡散モデル)

拡散モデル(Diffusion Model)とは?

Stable DiffusionやDALL-Eなどの画像生成AIで使われている「拡散モデル」の仕組みを解説します。

基本的な考え方: ノイズを除去して画像を作る

拡散モデルの仕組みは、以下の2つのプロセスで理解できます。

学習時(Forward Process / 拡散過程): 1. きれいな画像を用意する 2. 少しずつノイズ(砂嵐のようなもの)を加えていく 3. 最終的に完全なノイズ(ランダムな色の点の集まり)になる

生成時(Reverse Process / 逆拡散過程): 1. 完全なノイズからスタートする 2. 学習した「ノイズの除去方法」を使って、少しずつノイズを取り除く 3. 最終的にきれいな画像が現れる

例え話で理解する拡散モデル

想像してみてください。あなたは彫刻家です。

1. 学習: まず、完成した彫刻を見て、「粘土の塊からどうやってこの形を彫り出すか」を何千回も練習する 2. 生成: 新しい粘土の塊(ノイズ)を受け取り、学習した技術を使って少しずつ形を整えていく 3. テキストの指示: 「猫の彫刻を作って」と言われたら、猫の特徴を意識しながら彫り進める

この「テキストの指示に従って彫る」部分が、テキスト条件付き画像生成の仕組みです。

テキストから画像を生成する仕組み

「猫がピアノを弾いている油絵」というプロンプトから画像が生成されるまでの流れを見てみましょう。

1. テキストの理解: テキストエンコーダ(CLIPなど)がプロンプトの意味をベクトル(数値の列)に変換 2. ノイズの生成: ランダムなノイズ画像を作成 3. 条件付きノイズ除去: テキストの意味を参照しながら、ノイズを段階的に除去 - 「猫」→ 猫の形が現れる - 「ピアノを弾いている」→ ピアノと手の動きが現れる - 「油絵」→ 油絵のようなテクスチャが適用される 4. 画像の完成: 数十ステップのノイズ除去を経て、最終画像が完成

GAN(敵対的生成ネットワーク)との違い

拡散モデル以前は、GAN(Generative Adversarial Network)が画像生成の主流でした。

比較項目GAN拡散モデル
仕組み2つのAI(生成器と判別器)が競い合うノイズの追加と除去を学習
画像品質高いが不安定非常に高く安定
多様性モード崩壊のリスク高い多様性
学習安定性不安定(調整が難しい)安定
生成速度速いやや遅い(改善中)
テキスト条件付け困難容易

現在の主流は拡散モデルですが、高速化のためにGANの技術を組み合わせるハイブリッド手法も研究されています。

RAG(検索拡張生成)の仕組み

RAGとは何か?

RAG(Retrieval-Augmented Generation / 検索拡張生成)は、AIの回答精度を大幅に向上させる技術です。

AIの弱点: 学習データにない最新情報や専門的な社内情報については回答できない(ハルシネーション=嘘をつく原因にもなる)

RAGの解決策: 質問に関連する情報を外部データベースから検索し、その情報をもとにAIが回答を生成する

RAGの仕組み(3ステップ)

ステップ1: 検索(Retrieval)

ユーザーの質問に関連する情報を、あらかじめ用意したデータベース(ナレッジベース)から検索します。

  • 社内文書、マニュアル、FAQ、議事録などを事前に登録
  • 質問の意味とデータベースの内容を数学的に比較
  • 最も関連性の高い情報を複数取得

ステップ2: 拡張(Augmentation)

検索で見つかった情報を、ユーザーの質問と一緒にAIに渡します。

「以下の参考情報をもとに質問に回答してください。参考情報: [検索結果] 質問: [ユーザーの質問]」

ステップ3: 生成(Generation)

AIが参考情報をもとに、正確で文脈に沿った回答を生成します。

RAGの例え話

RAGを図書館の司書に例えてみましょう。

  • RAGなしのAI: 頭の中の知識だけで質問に答える物知り博士。博士の知識が古かったり、知らない分野では間違った答えを言ってしまう
  • RAGありのAI: 質問を受けたら、まず関連する本や資料を調べてから答える司書。自分の知識に加えて、最新の資料も参照するので正確

RAGが使われている場面

  • 社内チャットボット: 社内マニュアルやFAQを検索して回答
  • カスタマーサポート: 製品ドキュメントを参照して顧客の質問に回答
  • Perplexity AI: Web検索結果を参照して回答を生成(RAGの代表例)
  • NotebookLM: アップロードした文書をもとにQ&Aを行う

ファインチューニングの仕組み

ファインチューニングとは?

ファインチューニングは、既存のAIモデルを特定の目的に合わせて追加学習させる技術です。

例え話: 医学部を卒業した医師(汎用的な医学知識)が、皮膚科の専門研修を受けて皮膚科の専門医になる(特定領域に特化)のがファインチューニングです。

RAGとファインチューニングの使い分け

比較項目RAGファインチューニング
目的外部知識の参照モデル自体の能力改善
データ更新即時反映可能再学習が必要
コスト比較的安い学習コストがかかる
必要データ量少量からOK数百〜数千件必要
適している場面最新情報・社内情報特定のスタイル・専門知識
ハルシネーション対策◎(根拠を提示)△(改善するが完全ではない)

RAGが向いているケース:

  • 最新の情報を使いたい
  • 社内のドキュメントを参照させたい
  • 回答の根拠(ソース)を示したい
  • コストを抑えたい

ファインチューニングが向いているケース:

  • 特定の文体やトーンで書かせたい
  • 専門用語や業界知識を正確に使わせたい
  • 特定の形式(JSON、特定のテンプレート等)での出力を安定させたい

プロンプトエンジニアリングの基礎

なぜプロンプトが重要なのか?

AIモデルの性能を最大限に引き出すためには、適切な指示(プロンプト)を与えることが重要です。同じモデルでも、プロンプトの書き方次第で回答の品質が大きく変わります。

基本テクニック

1. 役割を与える(Role Prompting)

「あなたはプロのマーケターです」のように役割を設定すると、その分野の専門家としての回答が得られます。

2. 具体的に指示する

曖昧な指示ではなく、出力形式、文字数、対象読者、含めるべき要素を具体的に指定しましょう。

3. Few-shot(例を示す)

期待する出力の例を1〜3つ示すと、AIがパターンを理解してより正確な出力を生成します。

4. Chain-of-Thought(段階的に考えさせる)

「ステップバイステップで考えてください」と指示すると、AIが推論過程を明示しながら回答するため、複雑な問題での精度が向上します。

5. 制約を明示する

「500文字以内で」「専門用語を使わずに」「表形式で」など、出力の制約を明確にしましょう。

よくある誤解と正しい理解

誤解1:「AIは考えている」

AIは人間のように「考えて」いるわけではありません。統計的なパターンマッチングに基づいて、最も確率の高い出力を生成しています。「知能」や「意識」があるわけではなく、極めて高度なパターン認識と生成を行う計算システムです。

誤解2:「AIは全てを記憶している」

AIモデルは学習データの全てを「記憶」しているわけではありません。学習データからパターン(重み・パラメータ)を抽出し、そのパターンをもとに新しい出力を生成します。特定のデータをそのまま再現することもありますが、それは「記憶」ではなく「パターンの一致」です。

誤解3:「AIは間違えない」

AIはしばしば事実と異なる回答を自信満々に生成します(ハルシネーション)。これはAIが「事実を知っている」のではなく「最も確率の高い単語の並びを生成している」ためです。AIの回答は必ずファクトチェックを行いましょう。

誤解4:「大きいモデルほど必ず良い」

パラメータ数が多い大きなモデルが常に優れているわけではありません。タスクによっては小さなモデルの方が適している場合もあります。また、モデルの学習データの品質や学習方法も重要な要素です。

誤解5:「AIが仕事を奪う」

AIは特定のタスクを自動化しますが、人間の仕事の全てを代替するわけではありません。多くの場合、AIは人間の仕事を「補助」し、生産性を向上させるツールとして機能します。AIを使いこなす能力が、これからの時代の重要なスキルとなります。

生成AIの最新トレンド

マルチモーダルAI

テキスト、画像、音声、動画など複数のモダリティを同時に処理できるAIが主流になっています。GPT-4o、Gemini 2.5などがその代表です。

AIエージェント

単に質問に答えるだけでなく、ツールを使い、計画を立て、複数のタスクを自律的に実行する「AIエージェント」が急速に発展しています。

小型・高効率モデル

スマートフォンやPCでローカルに動作する小型モデルの性能が向上しています。プライバシーを保ちながらAIを活用できるため、注目を集めています。

オープンソースAI

Meta(LLaMA)、Mistral、DeepSeekなどのオープンソースモデルの性能が商用モデルに迫っており、AIの民主化が進んでいます。

まとめ

生成AIの仕組みを理解することで、AIツールをより効果的に活用できるようになります。重要なポイントをおさらいしましょう。

  • テキスト生成AI(GPT等): 「次の単語を予測する」を繰り返して文章を生成。TransformerのAttentionメカニズムが核心技術
  • 画像生成AI(拡散モデル): ノイズを段階的に除去して画像を生成。テキストの意味を参照しながら画像を作る
  • RAG: 外部データベースから関連情報を検索し、それをもとにAIが回答を生成する技術。ハルシネーション対策に有効
  • ファインチューニング: 既存モデルを特定の目的に合わせて追加学習させる技術
  • プロンプトエンジニアリング: AIへの指示の書き方で回答品質が大きく変わる

技術の基本を押さえた上で、実際にAIツールを使いながら理解を深めていくのが最も効果的な学習方法です。まずは無料で使えるChatGPT、Claude、Geminiなどを試してみましょう。