AIを社内で動かしても、ログが外に送られていたら？ローカルLLMとクラウドの比べ方

「顧客の資料を外へ送りたくない。社内のパソコンでAIを動かせば、利用料も抑えられるのでは」。ローカルLLMを検討するとき、まず分けたいのは、情報をどこまで送ってよいかと、その環境を誰が維持するかです。ローカルLLMとは、ここでは自社の端末や社内サーバーで動かす大規模言語モデルを指します。

社内で動かせば送信範囲を狭められますが、安全性も安さも設置場所だけでは決まりません。四つの配置を整理し、価格がまだ分からない段階でも使える入力表で比較します。

例えば、要約は社内のAIが行っていても、障害時のログに入力全文が入り、外部の監視サービスへ送られていたらどうでしょう。処理場所だけを見ていると、この送信を見落とします。費用も同様で、API利用料がなくなっても、機材の更新や保守をする人の仕事は残ります。

機材を買った後の毎月の仕事まで、36か月へ広げる

説明用に、社内案の初期費を税抜45万円、毎月の機材・環境費を2.2万円、更新・確認の担当費を1.6万円と仮定します。比較するクラウド案は、毎月のサービス費3.1万円、担当費1.7万円という仮定です。製品の見積り額や実測値ではありません。

仮の比較	36か月の計算	税抜の試算結果
社内案	450,000＋36×（22,000＋16,000）	1,818,000円
クラウド案	36×（31,000＋17,000）	1,728,000円

この条件では社内案が90,000円高くなります。社内案の毎月の合計を35,500円まで下げれば同額になる計算です。ここを安くするために更新や品質確認を消してよいかは別の判断です。機材交換、停止対応、税、割引などを加える場合は、両案で同じ期間と範囲へそろえます。

この算術は固定例の計算教材で確認できます。導入候補では、更新後の再評価、担当者不在時の対応、検索資料の権限管理を実際に誰が行うかまで見積りへ戻します。外部へのログ送信や、障害時に外部AIへ切り替わる案があれば、社内設置の一言でまとめず、別のデータ経路として確認します。

AIを置く場所と、データが通る経路

同じ社内画面から使えても、処理する場所は違います。画面に入力する文章だけでなく、検索して添付する社内文書、回答、操作ログまで線でつなぐと、社外へ出る範囲が見えます。「社内向けの画面だから社内処理」と判断しないことが出発点です。

表1｜四つの配置方式と管理の分担（説明例）

配置	主なデータ経路	主な管理の分担
端末内	入力画面とモデルの間で処理	自社が端末・モデル・利用権限を管理
社内サーバー	利用端末と社内サーバーの間で通信	自社がサーバー・ネットワーク・権限を管理
専用クラウド	社内から外部の専用実行環境へ送信	基盤は提供元、モデル・設定等は契約で分担
共有API	社内のアプリから提供元のAPIへ送信	提供元がモデル基盤、自社がアプリ・入力・権限を管理

専用クラウドは、ここでは自社用に分離された実行環境です。物理機器を専有するかは契約条件によって異なり、社外に置く以上、社内だけで処理する構成とは区別します。また、公開重みのモデルは端末でも専用クラウドでも使えるため、モデルの公開条件と実行場所は別々の比較項目です。共有APIは機材管理を任せやすい一方、入力の選別、アプリの認証、連携先の設定は自社側にも残ります。

図1：4配置方式の情報フロー（説明例）。矢印は質問・参照データと回答の往復、枠は配置・管理の範囲です。

公開モデルも、利用条件と動く環境を確かめる

公開された「重み」は、学習によって得られたモデルのパラメーターです。重みを入手できることと、学習用コードや学習データがすべて公開されていることは分けて確認します。実行プログラム、周辺の検索機能、管理画面にも、それぞれのライセンスや契約条件があります（出典：OpenAI「OpenAI open-weight models (gpt-oss)」）。

公開モデルでも、必要なメモリや動作条件は異なります。公表された構成で動いても、長い文書や複数人の同時利用で十分な速さが出るかは実機で確かめます（出典：OpenAI「gpt-oss-120b Model Card」）。

導入担当者向け：gpt-ossの公表構成

OpenAIのgpt-ossモデルカードにはApache 2.0の表記があります。MoEの重みをMXFP4形式で量子化した構成について、120bは80GBのGPU一枚、20bは16GBのメモリ内で実行できる旨が示されています。これは所定の形式・実行条件での説明です。長い文書や同時利用を含む必要メモリは、採用する実行方法で確認します（出典：OpenAI「gpt-oss-120b Model Card」）。

採用時は、モデル名だけでなく配布元、版、量子化形式、実行ソフトを記録し、LICENSEと利用ポリシーを読みます。再配布や変更を伴う提供では、表示・通知等の条件も確認対象です。重みの取得費と、計算資源・保存・保守にかかる費用を分けて確認してください。

表2｜混同しない三つの項目

項目	判断する内容
公開重み	そのモデルの重みを入手し、条件に従って使えるか
ローカル実行	推論処理が実際に自社の端末・社内サーバーで完結するか
通信遮断	検索、ログ、更新、外部ツールを含む外向き通信が制御・検証されているか

公開重みをローカル実行していても、検索先が外部サービスなら情報が社外へ出る可能性があります。反対に、外部送信を許可した用途では、契約条件を確認したクラウドが候補になります。三項目を別々に確認すると、情報が社外へ出る構成を見落としにくくなります。

機材代に、更新・保守と回答を直す時間を加える

比較の単位は、同じ業務を同じ品質で処理するための増分費用にそろえます。既存のパソコンを流用するときも、追加メモリ、故障への備え、他業務との取り合いが生じるなら記録します。クラウドでも、初期設定や権限管理、回答を直す人の時間は省きません。

表3｜機材を含む費用項目表

費用区分	見積り・入力する項目	比較時の注意
初期費用	追加機材、構築、ライセンス、導入時の評価・移行	既存資産の扱いと比較期間をそろえる
機材の運転	平均の増分消費電力、稼働時間、電力単価	機種・構成・測定日時を固定。定格電力だけで実消費としない
外部の利用料	GPUの課金時間、API入出力量、保存・転送等	GPU待機中の課金、再試行、ツール利用も確認
維持と品質	保守契約、更新・監視・障害対応、再評価、人の確認・修正	社内工数も時間単価で換算。委託費との二重計上を避ける

入力表では、月額相当＝初期費用÷比較月数＋月間運用費、一件当たり＝月額相当÷月間件数とします。これは比較のための配賦です。初月の支出や期間総額も別に並べます。電力費は「平均の増分W÷1,000×時間×円/kWh」、API費は「課金対象トークン数÷単価の基準量×単価」で計算します。AI全体の電力や設備のニュースを読むときの目安は、AIの電力とデータセンターの見方にまとめています。

単価を入れると、月7,000件で同額になる例

費用の関係を確かめるため、ここだけは金額も仮に置きます。以下の金額は計算用の仮定です（想定例・税抜）。比較期間は36か月です。

表4　初期費用と月々の費用を入れた比較

月額相当の内訳	社内サーバー	共有API
機材・初期設定など	36万円÷36か月＝1万円	3万6,000円÷36か月＝1,000円
更新・監視などの作業	月4時間×3,000円＝1万2,000円	月1時間×3,000円＝3,000円
電力	月3,000円	API料金に含む
利用件数に応じた料金	この範囲では追加なしと仮定	1件3円
月額相当	2万5,000円	4,000円＋3円×件数

この仮定なら、月100件ではAPIが4,300円、月1万件では3万4,000円です。社内サーバーの2万5,000円と等しくなるのは、（25,000−4,000）÷3＝月7,000件。それより少なければAPI、多ければ社内サーバーの費用が小さくなります。

ただし、月1万件まで同じ機材・電力・保守時間で処理でき、両方式の回答品質と人の確認時間も同じ、という仮定です。社内側の回答修正に余計な時間がかかる、ピーク時に増設が要る、と分かれば分岐点を計算し直します。初期支出も、社内36万円とAPI3万6,000円では違います。

配布シートの「費用分岐の例」で、機材費、月々の作業時間、API単価を自社の条件に置き換えて計算できます。金額がまだ分からない項目は、準備表で見積りや測定の確認先を整理してください。

月100件と1万件を、金額未確定のまま比べる

文書の要約を月100件から1万件へ増やす例で比べます（想定例）。一件につき一回、入力2,000トークン、課金対象の出力500トークン、比較期間36か月と仮定します。トークンは文章を数えるための単位です。実際の数え方や推論用トークンの課金はモデルで異なるため、採用候補の利用記録に置き換えます。両例で品質条件は同じとし、機器価格・消費電力・API単価・工数はまだ入力しません。

表5　利用量だけを変えた入力見本

同じ機材・運用体制のまま処理できるなら、月額固定費を1万件で割った負担は、100件で割った場合の100分の1です。ただし、件数が増えて増設や確認工数が必要になれば、固定費が同じという前提が崩れます。月間件数だけではピーク時の同時利用も分かりません。APIも、出力量や再試行の増加によって費用が変わります。したがって、この段階では「1万件ならローカルが安い」とは決められません。

費用シートには四方式それぞれの入力列、二つの見本、空欄版を用意しました。未入力や「未確定」が残れば合計も未確定にし、ゼロ円として扱いません。外部GPU等を使わない構成の0は、「この説明例では費用が発生しない項目」という明示的な仮定です。見積書、電力の測定記録、作業時間の記録を集め、確認日と根拠を添えて更新します。記入には費用項目表・入力テンプレート（XLSX）を利用できます。

運用まで記入して、最初に検証する候補を絞る

A社で、顧客文書の社外送信を認めず、複数の担当者が要約を使う場合です（想定例）。まず社内サーバーを検証候補とし、情報管理担当が利用権限とログ保存範囲を承認、運用担当が月次の更新確認と更新後の再評価を実施、障害時は手作業へ戻す、と記入します。担当者と検証日を決め、結果は試してから記入します。

社内サーバーを優先する理由は、機密データの経路を社内に保ち、複数人の設定・更新をまとめて管理するという条件です。費用と性能の結果は、検証で確かめます。外部送信を許可できる一般文書だけを月100件扱う条件へ変われば、共有APIも初期機材を持たずに検証する候補になります。どちらも品質と運用が合格してから採用します。

入力以外に、ログや検索結果が外へ出ないか

冒頭のログ送信に加え、外部検索、文書の索引作成、診断情報、自動更新、クラウドへの代替処理も確認します。通信遮断が必要なら、設定画面だけでなく、通常処理・障害時・更新時の通信記録を管理者が確かめます。

社内だけで処理しても、全社員が人事資料を検索できれば権限上の問題は残ります。利用者ごとに参照できる文書を制御し、モデルに渡す前の検索で権限を確認します。モデルの回答だけをアクセス制御に使わず、ログの閲覧者、保存期間、削除、バックアップの復元権限も決めます。資産管理や復旧の点検項目は、IPAのガイドラインを参照しています（出典：IPA「中小企業の情報セキュリティ対策ガイドライン 第4.0版」（PDF））。

クラウドでは「学習に使わない」と「保存しない」を分けて読みます。OpenAI APIは明示的な参加を除き、送信データを学習に使わない一方、標準の不正利用監視ログには最大30日の保存と、法令・保護上の例外があります。アプリケーション状態の保存は機能や設定によって別に決まります。Zero Data Retentionも事前承認や対象機能の条件があるため、一律の保存ゼロとは扱えません。この保存条件はOpenAI APIの説明です。個人向けチャットや第三者の接続先は、それぞれの仕様を確認します（出典：OpenAI「Data controls in the OpenAI platform」）。

外部送信を一切認めない業務に、「学習不使用のAPIだから適合する」という判断はできません。逆にクラウド利用が許される業務では、送信対象、保存、管理者のアクセス、削除、委託範囲を契約・仕様で確認します。禁止対象や承認者が決まっていない場合は、機密データを試さず、情報管理責任者と契約の管理担当に先に確認してください。

同じ要約課題で、品質・速さ・復旧を試す

最初の検証は、持ち出しを許可されたデータか、業務の特徴を再現した架空データで行います。同じ日本語の依頼、同じ参照文書、同じ合格条件を使い、モデル・版・実行設定と試行条件を残します。機密性の条件に合わない構成は、安価でも品質が高くても候補から外します。

文書要約なら、日付・金額・固有名詞を落とさないか、原文にない断定を加えないか、情報不足を示せるかを試します。

速度は最初の表示までと回答完了までを分け、通常時と同時利用時を測ります。失敗、再試行、人の修正時間も記録し、成功した回答だけで比較しません。

復旧は、モデルだけでなく設定・権限・索引等を戻し、業務を再開できることまで試します。

たとえば、A社の検証票に「日付・金額の誤りを認めない」「指定した同時利用数で業務側の待ち時間条件を満たす」「手順に沿って旧版へ戻せる」と記入し、結果欄は未測定にします。数値の合格線や検証件数は、業務責任者が失敗の影響に応じて決めます。公開されたメモリ量やベンチマークだけで、この判定を済ませません。

条件が分かれれば併用も選べます。顧客原文は社内に残し、外部送信を承認した一般的な文章だけをAPIへ渡す方法です。ただし、社内処理に失敗したら自動で原文をクラウドへ送る設計では、分けた意味がなくなります。送信の判断を明示し、判断できない場合は送らず、人へ戻します。

見積りを依頼するときは、対象業務、送れる情報、同時利用人数、必要な品質、運用を担う人を費用表に添えます。この条件がそろって初めて、候補ごとの金額を比べられます。どのモデルを使うかは、精度・速度・費用を自社の仕事で比べて決めます（AIモデルの選び方）。

入力してよい情報と社内の利用ルールを先に整理する場合は、生成AIの情報漏えいを防ぐ7つの社内ルールをご覧ください。

配置を決めた後は、AIで空いた時間をどの仕事へ回すかも考えておきます（AIネイティブ企業とは？仕事と時間の使い方）。

用途・扱う資料・品質条件がまとまり、社内文書の検索や既存業務への組み込みを検討する際は、整理した条件と費用表を添えてご相談ください。

生成AIの導入について相談

参考出典

• OpenAI「gpt-oss-120b Model Card」（MXFP4の実行条件・Apache 2.0表記。2026年9月15日確認）
• OpenAI「Data controls in the OpenAI platform」（学習利用、不正利用監視ログ、機能別の保存条件。2026年9月15日確認）
• OpenAI「OpenAI open-weight models (gpt-oss)」（ライセンス・利用ポリシーと実行費用。2026年9月15日確認）
• IPA「中小企業の情報セキュリティ対策ガイドライン 第4.0版」（2026年3月27日改訂、2026年6月2刷。資産管理・バックアップ・担当体制・外部サービス管理。2026年9月15日確認）（PDF）