生成AIの仕組みと限界 — ChatGPTはなぜ間違えるのか

導入

ChatGPTに「富士山の高さは？」と聞いたら「3,875メートルです」と自信満々に答えた――正解は3,776メートルなのに、なぜAIは間違えてしまうのでしょうか。ここでは生成AIの基本的な仕組みと限界、そして類似技術との違いを確認していきます。

くわしく知ろう

生成AIとは、テキストや画像などを確率的に生成する技術のことです。膨大なデータから「次に来そうな言葉」を予測しながら文章を組み立てていくため、意味を理解しているわけではなく、パターンの組み合わせで回答を作り出しています。ChatGPTや画像生成AIが代表例で、文章作成・翻訳・プログラミング支援など幅広い用途で活用されています。

この仕組みゆえに起こるのが「ハルシネーション（幻覚）」と呼ばれる現象です。AIが事実と異なる情報をあたかも正しいかのように生成してしまうことを指し、冒頭のような誤った回答が典型例にあたります。

似た用語として混同されやすいのが、RPA・IoT・BIです。RPAは請求書処理などの決まった手順を自動化する技術で、新しい文章や画像を「生成」する機能はありません。IoTはモノをインターネットに接続して情報を収集・制御する技術、BI（Business Intelligence）は蓄積されたビジネスデータを分析し経営判断に活かすツールであり、いずれも生成AIとは目的が異なっています。

具体例

「文章で指示を入力すると、AIが自動で新しい文章や画像を作り出す」というのが生成AIの使い方です。一方、RPAは毎月届く請求書を決まったフォルダに保存するような定型作業を自動化する技術であり、「生成」とは役割がまったく異なることがわかります。

まとめ・試験ポイント

• 生成AI＝テキストや画像を新たに生成する技術
• ハルシネーション＝AIが事実と異なる情報を自信を持って出力する現象
• 生成AIの回答は必ずファクトチェック（事実確認）が必要
• RPA＝定型業務の自動化、IoT＝モノのインターネット、BI＝データ分析ツール
• 試験ではこれら4つの技術の区別がよく問われる