なぜAIはこんなに電気を食うのか?エンジニアなら知っておきたい、学習・推論・インフラの消費電力入門| Qbook

カテゴリで絞り込む

トレンドワード

テストツール
more
テストケース生成ツール
テスト自動化ツール
テスト自動化×品質判断ツール
テスト管理ツール
生成AIテスト設計ツール
AI仕様書インスペクションツール
Qbookについて
Facebook x

〈

〉

なぜAIはこんなに電気を食うのか?エンジニアなら知っておきたい、学習・推論・インフラの消費電力入門

なぜAIはこんなに電気を食うのか?エンジニアなら知っておきたい、学習・推論・インフラの消費電力入門
コラム

更新日:

2026.10.02
x hatenabookmark
0

執筆: 大木 晴一郎

ライター

ChatGPTへの1回の質問に対して、Google検索の約10倍の電力が使われると一般的にいわれていますが本当でしょうか? AIツールを日々使うからこそ、その裏側にある電力の現実は知っておきたいところです。AI需要の拡大などを背景に、データセンターの消費電力は増加しており、一部の地域では送電網への接続や電力設備の確保が現実的な制約になりつつあります。昨今は、AI向けデータセンターの電力確保や電力インフラへの投資がニュースで頻繁に取り上げられるようになりました。そこで今回は、モデルの学習・推論フェーズの違い、GPUの並列処理、冷却に必要な電力まで、エンジニアの視点からAIインフラのエネルギー消費について見ていきたいと思います。

もくじ
  1. 「AIは検索の10倍電気を使う」って本当?
    1. 1回、AIに質問すると「何ワット時」使う?
    2. 数字が資料ごとに「違う」理由
    3. 大切なのは「1回」より「回数」
    4. 世界で膨らむデータセンター需要
  2. AIの電気はどこで使われるのか
    1. 「学習」ではモデルを作るのに電力を消費
    2. 「推論」ではモデルを使うのに電力を使う
    3. 「GPU」はなぜ電気を大量に"食う"のか
    4. 冷却・電源・通信にも電気が必要
  3. 電力制約時代のAI開発を考える
    1. データセンターは「メガワット」から「ギガワット」へ
    2. 電力と通信をつなぐ「ワット・ビット連携」
    3. エンジニアが減らせる推論コストがある?
    4. 「AIを使わない」では済まされない時代へ
  4. まとめ

1. 「AIは検索の10倍電気を使う」って本当?

1-1. 1回、AIに質問すると「何ワット時」使う?

「ChatGPTへの1回の質問はGoogle検索の約10倍の電力を使う」という説明が、AIの電力問題を紹介する際によく使われているようです。

この比較は、IEAが2024年に公表した『Electricity 2024』でも示されています。同報告書では、当時の推計に基づき、一般的なGoogle検索を1回約0.3Wh、ChatGPTへのリクエストを1回約2.9Whとして比較しています。ただし、これはOpenAIが実測して公表した固定値ではありません。Whは「ワット時」と読み、一定時間に使った電力量を表す単位です。10WのLED電球を1時間点灯すると10Whになります。

その後、半導体や推論ソフトウェアは急速に効率化しました。2025年、GoogleはGemini Appsに送られたテキストプロンプトの中央値について、1回当たり0.24Whと公表しています。この値はAIアクセラレーターだけでなく、CPU、メモリ、待機中の機器、冷却や電力設備も含めたものです。数値上はIEAが示したGoogle検索1回約0.3Whという推計に近いものですが、対象時期や測定方法が異なるため、両者をそのまま比較することはできません。

したがって、「AIは常に検索の10倍」とは断言できません。IEAが2024年に示した当時の推計が、現在も広く引用されている面があります。とはいえ、0.24WhもGeminiの特定時点の中央値であり、すべての生成AIに共通する数字ではない点には注意が必要です。

1-2. 数字が資料ごとに「違う」理由

AIへの1回の質問あたりの消費電力が資料ごとに異なる理由は、「1回の質問」の中身が同じではないからでしょう。短い回答と長い資料の分析では入力・出力トークン数が異なり、画像や動画の生成も別の計算量を必要とします。この前提が一定ではないため、数値だけを単純に比較することはできません。

また、使用するモデルの規模や構造も重要になってきます。小型モデルで足りる処理に大型モデルを使えば計算資源が増え、推論時に通常より多くの計算や中間トークンの生成を行うモデルでは、最終的な回答が短くても処理量が増える場合があります。

さらに、測定範囲も統一されていません。GPUだけを数えるのか、CPU、メモリ、待機中の機器、冷却、電源損失まで含めるのかでも結果は変わります。Googleの試算でも、AIアクセラレーターだけなら0.10Wh、周辺設備込みでは0.24Whとなっています。比較する際は、モデル、入出力の長さ、測定範囲、時期を確認する必要があるでしょう。数字だけで判断せず、前提条件を確認することが重要です。

1-3. 大切なのは「1回」より「回数」

そして、1回当たりの消費電力が下がれば問題が解決するとも限らないのです。処理効率が10分の1になっても、利用回数が20倍になれば総消費電力は増えます。Googleは、Geminiのテキストプロンプト中央値について12カ月でエネルギー消費を33分の1に減らしたと説明していますが、それほど急速に効率化しても、利用者や呼び出し回数がさらに急速に増え続ければ、データセンター全体の電力需要は膨らみ続けることになるのです。

AIエージェントのような仕組みでは、この傾向が顕著です。ユーザーからは1回の依頼に見えても、内部では計画、検索、評価、再検索、文章生成のためにモデルが何度も呼ばれ、外部ツールとの通信も発生します。エンジニアは、チャット画面上の1往復だけでなく、一つの業務を完了するまでのモデル呼び出し回数、総入力トークン、総出力トークン、再試行回数まで含めて「一単位」として考える必要がありそうです。

1-4. 世界で膨らむデータセンター需要

先述したIEAによると、世界のデータセンターが消費した電力は2024年に約415TWhで、世界全体の電力消費の約1.5%でした。IEAの基本シナリオでは、データセンターの消費電力は2030年に約945TWhへ増え、2024年の2倍を超えると予測されています。

その後、IEAは2026年4月に、世界のデータセンター電力需要が2025年に前年比17%増加し、AI向けデータセンターではそれを上回るペースで増加したと報告しました。こうした動きからも、1処理当たりの効率改善と全体需要の増加は両立し得ることがわかります。

需要は特定地域に集中しており、送電線や変電所が対応できなければ、地域の電力インフラが制約を受ける可能性も出てきています。

2. AIの電気はどこで使われるのか

2-1. 「学習」ではモデルを作るのに電力を消費

生成AIの「学習」とは、大量の文章や画像などを読み込み、モデルを作る工程です。モデルは入力から答えを予測し、正解との差である誤差を計算し、その誤差が小さくなるように内部のパラメーターを更新します。この処理を膨大なデータに対して何度も繰り返します。

大規模モデルでは多数のGPUやAIアクセラレーターを接続し、長時間、並列稼働させています。本学習だけでなく、実験、失敗した試行、追加学習、評価にも計算資源が必要です。ただし学習は、モデルを使うたびに行われるわけではありません。完成したモデルを多数の利用者に提供する段階では、次に説明する推論が中心になります。

2-2. 「推論」ではモデルを使うのに電力を使う

学習済みモデルに質問や画像を入力し、文章、コード、予測結果などを生成する処理が「推論」です。チャットAIを使うときにデータセンターで繰り返されているのは、主にこの処理です。

通常、1回の推論がモデル全体の学習より多くの電力を使うわけではありません。しかし、公開サービスでは、世界中の利用者から昼夜を問わずリクエストが届きます。企業システムに組み込まれれば、プログラムがAPIを通じて自動的に呼び出すこともあります。学習が「建設工事」なら、推論は毎日発生する「運営費」であり、普及するほど推論電力の管理が重要になっていきます。

2-3. 「GPU」はなぜ電気を大量に"食う"のか

CPUは少数の高性能なコアで多様な処理を柔軟に行うのが得意です。一方、GPUは多数の演算器を使い、同じ種類の計算を大量に並列実行するのが得意です。AIでは大量の行列演算が発生するため、GPUや専用AIアクセラレーターが使われ、大量の演算器と高速メモリを動かす結果、消費電力と発熱が大きくなります。

LLM(Large Language Model/大規模言語モデル)の推論は、大きく「プリフィル」と「デコード」に分けられます。プリフィルは入力された文章をまとめて処理する段階で計算能力が重要です。デコードは回答を1トークンずつ順番に生成する段階でモデルの重みや過去の情報を参照します。そのため、デコードは、条件によっては計算性能よりメモリ帯域の影響を強く受けます。特に少数リクエストを処理する場面では、モデルの重みや過去の情報をメモリから読み出す効率が、速度と消費電力を左右しやすくなります。

このように逐次処理を得意とするCPUよりも、多数の演算器を使って並列計算を行うGPUや専用AIアクセラレーターは、高い演算性能を発揮する一方、高負荷時には大きな電力を消費し、それに伴って大量の熱を発生させます。

2-4. 冷却・電源・通信にも電気が必要

データセンターではGPUのほか、CPU、メモリ、ストレージ、ネットワーク、UPS、配電設備、照明も電力を使い、半導体が出した熱を外へ逃がす冷却設備も稼働します。IEAの整理では、一般的なデータセンターの電力消費のうち平均約60%をサーバーが占めます。冷却の割合は、効率的なハイパースケール施設では約7%ですが、効率の低い施設では30%を超える場合があるといいます。

データセンター全体の効率を示す代表的な指標がPUE(Power Usage Effectiveness)です。PUEは、大きく言うと、施設全体の消費電力をIT機器の消費電力で割って求め、1に近いほど付帯設備による損失が少ないことを示しています。

Uptime Instituteの2026年調査では、データセンターの業界平均PUEは1.52でした。ただし、施設の年代や規模、立地によって数値は大きく異なります。また、PUEは施設全体の電力効率を示す指標であり、モデルやIT機器そのものの計算効率を直接示すものではありません。

3. 電力制約時代のAI開発を考える

3-1. データセンターは「メガワット」から「ギガワット」へ

データセンターの受電規模は施設によって大きく異なりますが、近年のAI向け大規模施設では100MWを超える計画が相次ぎ、複数施設を合わせてGW級の電力を想定する構想も登場しています。

問題は世界全体の電力量だけでなく、特定地域に巨大な電力需要が集中し、送電線や変電所の容量を圧迫することです。IEAは、データセンターなら2〜3年で稼働できる一方、電力インフラの整備にはより長い計画期間が必要だと指摘しています。そのため、AI向けデータセンターの増加に対して、電力インフラの拡充が追いつかない可能性があります。

3-2. 電力と通信をつなぐ「ワット・ビット連携」

電力不足への対応策の一つとして、電力・通信インフラの整備状況を踏まえてデータセンターの立地を検討し、両インフラを一体的に整備する考え方があります。将来的には、地域や時間帯の電力事情に応じて、処理を柔軟に振り分ける仕組みも重要になると考えられます。

日本では経済産業省と総務省が、電力・通信・データセンター事業者を一体的に捉える「ワット・ビット連携」を進めています。2025年6月に公表された取りまとめでは、電力の供給地点、通信インフラ、データセンターの立地を連携して整備する方向性が示されました。

3-3. エンジニアが減らせる推論コストがある?

エンジニアがまず見直せるのは、用途に対してモデルが大きすぎないかという点です。定型的な分類や短い要約なら、小型モデルで十分な場合があります。入力コンテキストや出力トークンを必要以上に長くしないことも重要です。

量子化、キャッシュ、バッチ処理、効率的な推論エンジンの採用など、ソフトウェア側の工夫も有効です。ACL 2025で発表された研究では、同研究の実験条件において、ワークロードに合わせた推論最適化により、未最適化の環境と比べて総エネルギー消費を最大73%削減できたと報告されています。

3-4. 「AIを使わない」では済まされない時代へ

AIの消費電力が増えているからといって、単純に「AIを使わない」という結論にはならないでしょう。AIはすでに、開発やテスト、検索、業務の自動化など、さまざまな場面で使われ始めています。

大切なのは、AIを使うか使わないかではなく、どの処理に、どの規模のAIを使うかを考えることです。高性能なモデルが必要な場面もあれば、小型モデルや従来のプログラムで十分な場合もあります。

AIの電力問題は、データセンターだけの問題ではありません。モデルの選択やサービス設計など、エンジニアの判断ともつながっています。これからは、AIの便利さを生かしながら、必要な場所で必要な分だけ使う視点が重要になりそうです。

4. まとめ

AIの消費電力は、「1回あたりの質問でどれだけ電力を使うか」だけで語れるものではありません。今後は、学習と推論、モデル規模、GPU、冷却設備、利用回数、電力供給までを一つのシステムとして捉える必要がありそうです。

関連記事

お役立ち資料

ソフトウェアテスト効率化 カオスマップ(2026年版)

ソフトウェアテスト効率化 カオスマップ(2026年版)

ソフトウェアテスト効率化カオスマップは、ソフトウェアテストに関連するサービスを提供する事業者や、テスト自動化ツールをはじめとした各種ツール・サービスについて、独自の調査をもとに整理・分類したものです。テスト効率化や品質向上を検討する際に、現在利用可能な選択肢を俯瞰し、自社に適したサービスやツールを検討するための参考資料としてご利用ください。

テスト計画プロセス/テンプレート(ISO/IEC/IEEE 29119対応)

テスト計画プロセス/テンプレート(ISO/IEC/IEEE 29119対応)

ISO/IEC/IEEE 29119(以下、29119規格)に対応したテスト計画に関するテンプレートを公開しています。「テスト計画」とは、テストの設計、実装、実施、管理といった、テストのすべての指針を定めるものです。ぜひ、実務での計画立案にご活用ください。 >「テスト計画」テンプレートの書き方 ポイント解説(29119規格対応)

ソフトウェアテスト実施はじめてガイドブック

ソフトウェアテスト実施はじめてガイドブック

実際に「テスト実施」・「不具合報告」をする際の正しい流れを解説したガイドブックです。ソフトウェアテストを初めて実施する人に向けて、その作業内容や用語、心構えをまとめています。

テストツール

テストのプロであるQbook監修の講師陣が提供する

Qbookの品質教育サービス

もっと見る

開催中の講座

一般向け

これから学びたい方・スキルアップを目指す方

テストのプロが監修した、様々なテーマに沿ったセミナーを随時開催。誰でも参加可能で、最新情報を学べます。

企業向け講座

企業向け

社員教育をご検討中の方

事前ヒアリングに基づき、9つのテーマ、20を超える講座をベースにお客様の品質課題に合わせたカリキュラムをカスタマイズしご提案・ご提供します。

eラーニング

一般向け

資格・試験対策をしたい方

独学だけでは理解しづらいテストの要点をeラーニングで解説。資格取得に向けてサポートいたします。

バルデミー

企業向け

社員教育をご検討中の方

オンライン学習と演習を組み合わせた、より実践的で質の高いソフトウェアテストのオンライン教育プログラムです。