オンプレAIに数百万円を出す前に、確かめる2つ

「社外にデータを出したくないので、社内にAIを置きたい」。下期に入ってから、この相談が続いている。しかも相談に来る時点で、もう見積もりを取っていることが多い。

ベンダーの公開記事を並べると、GPU入りのサーバーで50〜500万円、構築支援で100〜300万円あたりが相場だ。いちばん安い構成でも200万円前後になる。その金額を出す前に確かめることが2つある。自分が見てきた限り、大半の会社は1つめで止まる。

「社外に出せない」が契約で崩れるかどうか

確認するのは2点だけ。いま使っているのが法人向けの契約かどうかと、入力したデータがどこに保管されるか。

ゼットリンカーが2026年9月にまとめた各社の設定比較を見ると、Claude は Team と Enterprise、それに API が既定で入力データを学習に使わない側になっている。OpenAI も、Enterprise と API は学習に使わないと書いている。一方、個人向けの有料プランは既定が逆で、設定で切る必要がある。

効くのは契約の種類だ。同じサービスでも、社員が個人でアカウントを作った状態と、会社として法人プランやAPIを契約した状態では、既定がそのまま逆になる。「社外に出せない」と言っている会社の多くは、この前者の状態を言っている。契約を替えれば消える心配で、数百万円は要らない。

契約を替えても消えないなら、残っているのは「送信そのものが許されない」という話になる。そこから先は、初めてオンプレを検討する価値がある。

もう1つ、混ざりやすい区別がある。「学習に使わない」と「保存しない」と「外部に送らない」は別の条件だ。学習を切っても、処理のための送信と、安全性チェックのためのログは残る。規程に「AIに機密を入れない」と書くだけで済ませている会社は、たいていこの3つを1つだと思っている。書き分けるならここで、学習の設定と、ログがどこに何日残るかは分けて書く。

止まったときに誰が直すか

2つめは、買ったあとの話だ。

クラウドのAIが止まったらベンダーが直す。社内に置いたAIが止まったら自社で直す。この違いが、見積もりの金額には出てこない。

社員数十人の会社で、その担当を誰にするか。総務か、情シスを兼務している人か。名前が挙がっても、その人が辞めた翌月に誰が引き継ぐかまで決まっている会社は少ない。買う前にここの答えが出ないなら、数百万円かけて「壊れたら止まる仕組み」を持つことになる。

MoMo のコスト解説には「月10万円以上のAPI費用がかかる規模なら1〜2年で回収できる」という計算が載っている。電気代と保守までは入っているが、動かし続ける人の時間は入っていない。中小企業でいちばん足りないのはそこなので、この計算はそのまま使えない。

社内に置いた日から自社の宿題になるもの

ここまで書くと、相談の場でこう返ってくる。機密を扱うのだから、多少高くても社内のほうが安全でしょう。自分も昔は同じ順番で考えていたので、言いたいことは分かる。ただ、社内に置いた時点で引き受ける仕事がある。

アカウントの権限を誰がどう切るか。脆弱性が公表されたとき、誰が何日以内に当てるか。これまではクラウドのベンダーが黙ってやっていた。社内に置いた日から、それを自社の誰かがやる。

安全側に振ったつもりで、逆に振れることがあるのはこのためだ。置き場所を社内にしても、権限管理が甘いままなら、社員全員が全部の資料を引ける状態になる。外に出ていないだけで、中では誰でも見られる。社外への送信を止めるより、社内の権限を切るほうが手間がかかる。

オンプレが要る2つの場面

社内に置くことが本当に要る場面は2つしかない。

1つは、現場がオフラインになる作業。電波の届かない倉庫や工場、走っている車の中で使うなら、クラウドは選べない。

もう1つは速さだ。客を前にしてその場で答える仕事や、ラインを流れてくる物を弾く仕事では、待てるのは1秒あるかどうか。3秒考え込んだ時点で、人が横から手を出して終わる。

どちらにも当たらないなら、当面は法人契約のクラウドで足りる。オフラインと速さの2つが要る場面の見分け方は、AIの用途を決めるのは、モデルの賢さじゃなくレイテンシに詳しく書いた。

見積もりを取る前に

「機密だからオンプレ」は、いちばん高くつく思考停止だ。機密を守る意思は正しいのに、守り方の選択肢を1つしか見ていない。

今週やるなら、いま社内で使われているAIの契約を数えるところまででいい。何人が個人のアカウントで使っていて、法人契約が何本あるか。それが分かった時点で、見積もりが要る会社かどうかはだいたい決まる。

参考：ゼットリンカー「生成AIに学習させない設定まとめ｜Claude・ChatGPT・Gemini・Copilot【2026年9月】」／株式会社MoMo「オンプレミスLLMの価格相場と導入コスト完全ガイド」／土門大貴「中小企業にローカルLLMは必要か。規模別に判断する4つの問い」（note）