生成AIの費用は4つの区分で見積もる

製造業で生成AIを使う費用は、次の4区分に分けると見積もりの漏れが減ります。

区分内容費用の決まり方見落としやすい点
1. ライセンス対話型AIサービスや業務アプリの利用料利用者数×月額使わない人の分も払い続ける
2. API従量自社システムからLLMを呼び出す費用入出力の量(トークン)×単価長い文書を毎回渡すと急増する
3. RAG構築社内文書の取り込み、検索の仕組み、画面の開発構築工数、検索基盤の費用文書の整理・変換の工数
4. 運用評価、文書更新、権限管理、問い合わせ対応人件費が中心毎年続く。構築費を上回ることがある

トークンとは、LLMが文章を処理する単位で、日本語ではおおむね1文字前後に相当します(モデルにより異なる)。API従量の費用は、質問の文字数だけでなく、RAGで一緒に渡す参照文書の量で決まります。

1年目、2年目、3年目の費用構成を積み上げ棒で示し、年を追うごとに構築費が減り運用費の比重が増えることを示す概念図 1年目2年目3年目 RAG構築 API従量 ライセンス 運用 (金額は概念を示すもので実額ではない)
生成AIの費用の4区分。初期に目立つのは構築費だが、年数を重ねると運用費の比重が大きくなる。

見落とされる運用費:評価・文書更新・権限管理

構築が終わった後に毎年かかる運用費は、見積もりから漏れやすい部分です。製造業では特に次の3つが重くなります。

  1. 評価:回答が正しいかを定期的に確かめる作業です。評価用の質問セットを維持し、モデルの更新や文書の追加のたびに正答率を測り直します。品質や安全に関わる業務では、専門家の確認工数が必要です。
  2. 文書更新:手順書の改訂、設備の更新、品番の追加のたびに、RAGが参照する文書を差し替えます。旧版を外し忘れると、AIが古い手順を答えます。手順書の改訂が多い工場ほど、この工数が大きくなります。
  3. 権限管理:部署・役職・取引先ごとに閲覧できる文書が違う場合、その権限をRAG側でも再現し、異動や組織変更のたびに更新します。

これらは主に人件費で、クラウドの請求書には出てきません。そのため、PoCの段階では見えず、本番運用に入ってから予算不足になる原因になります。

公表されている費用予測と、その前提

生成AIの費用について、よく引用される数字が2つあります。

生成AIの導入アプローチ別のコスト(Gartner)
500万〜2,000万ドル
Gartner予測(2024年8月発表、Intelligent CIO掲載)
トークン等のAI運用コストが利用を制約したと回答した割合
約20%
McKinsey「The state of AI in 2026」(97カ国1,719人、2026年8月)

Gartnerは2024年8月、生成AIプロジェクトの少なくとも30%が2025年末までにPoC後に放棄されると予測し、その理由にデータ品質の低さ、リスク管理の不備、コストの増大、事業価値の不明確さを挙げました。同時に、導入アプローチによって500万〜2,000万ドルのコストがかかるとしています。この金額は、既製サービスをそのまま使う場合から、自社でモデルを作り込む場合までを含む幅で、大企業の全社的な取り組みを想定したものと読むのが妥当です。中小規模の工場が1業務のRAGを作る費用と同じ物差しで比べるべきではありません。

McKinseyの2026年の調査では、約20%がトークンなどのAI運用コストが利用を制約したと答えています。利用が増えるほど従量課金の費用が増え、予算の上限で利用を絞るという事態が実際に起きていることを示します。

費用を抑える設計上の工夫

費用の多くは、設計で変えられます。

工夫効く区分内容
参照文書を絞るAPI従量RAGの検索で上位数件だけを渡し、文書全体を渡さない
モデルを使い分けるAPI従量要約や分類は小さく安いモデル、難しい推論だけ高性能モデル
ライセンスを用途で分けるライセンス全員に高機能版を配らず、利用頻度の高い人に絞る
文書管理と連動させる運用文書管理システムの改訂をRAGに自動反映させ、手作業の差し替えをなくす
評価を自動化する運用評価用質問セットの採点を一部自動化し、専門家は差分だけ見る

文書管理との連動は、データ基盤の整備と重なります。手順書がMESの品番・工程・改訂番号と結びついていれば、改訂のたびに参照範囲を自動で切り替えられます。この考え方は作業手順書RAGの作り方、オンプレで動かす場合の費用はローカルLLMのハードウェアと費用、AI全般の運用費はAIの運用コストで扱っています。

よくある質問

1業務のRAGを作るといくらかかりますか?

文書の量と形式、権限の複雑さ、求める精度で大きく変わるため、一律の相場は示せません。見積もりを取るときは、4区分それぞれの金額と、運用費の前提(評価の頻度、文書の改訂件数)を明示してもらってください。

クラウドとオンプレミスはどちらが安いですか?

利用量が少ないうちはクラウドの従量課金が有利なことが多く、利用量が多く安定している場合や、データを社外に出せない場合はオンプレミスが選択肢になります。オンプレミスでは、GPUの購入費に加えて運用の人件費を含めて比較してください。

費用を経営に説明するときのポイントは?

初年度の構築費だけでなく、3年程度の運用費を含めた総額で示すことです。運用費を後から追加で求めると、計画の信頼を失います。効果の示し方は生成AIのROIの測り方と合わせて準備してください。

この記事に出てくる用語

用語集(日・英・中)をすべて見る

この特集について

製造業の生成AI、どこまで任せられるか

文書検索、手順書の生成、品質報告のドラフト。人が承認する範囲と任せてよい範囲の線引き 全91本

  1. 製造業の生成AI活用の全体像:業務別12ユースケースと導入の順番
  2. 製造業の社内文書RAG入門:手順書・図面・品質記録を検索する5層構成
  3. Siemens Industrial Copilotの全体像:5系統の提供状況と狙い
  4. 生成AIの情報漏えい対策:製造業が決めるべき入力禁止情報とログ管理の7項目
特集の記事をすべて見る →

この記事を書いた人

株式会社サオス

株式会社サオス 製造DX部

DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。