AIエージェントを監督する人は、文章の出来だけでなく、次の操作を実行してよい条件（宛先・契約・権限・結果の記録）を確かめ、条件が合わなければ下書きの段階で止めます。
約4分で読めます
文章は自然でも、宛先が違う。AIエージェントに任せるとき人が止める場面
返信の文章が自然でも、宛先や契約条件が違えば送信を止めます。問い合わせの例から、人が判断する場所、送信前の承認、結果が不明なときの調査、誤送信後の対応までを具体的に考えられます。
影山 湧亮 / NeoLogic株式会社 代表取締役。元警視庁。現場業務の整理と生成AI活用・Webシステム開発を一貫して担当。
たとえば、問い合わせに返信するAIを考えてみます。メールを読み、顧客情報を調べ、回答の下書きを作る。ここまでは進んだのに、メールの差出人と顧客台帳の連絡先が違っていたら、どちらへ送るべきでしょうか。
文章が自然に書けているかだけを見ていると、この食い違いを見落とします。以下では、返信業務を例に見ていきます（想定例）。
下書きを作るところから、送るところまで
AIエージェントは、目的に合わせて手順を組み立て、検索や業務システムなどの道具を使って作業を進める仕組みです。問い合わせ対応なら、文章を生成する前に顧客の契約を調べ、足りない情報を見つける、といった複数の作業をつなぎます。
試用では、違う契約を参照する、決めた条件を飛ばす、メール本文に書かれた指示を社内のルールより優先する、といった失敗を想定します。
今回の例では、AIが問い合わせと利用を許された顧客情報を読み、返信の下書きを作ります。人は契約内容と宛先を見て送信を承認し、送信処理の結果を記録します。AIに読ませる範囲と、送信できる権限は分けておきます。
宛先が違ったら、文章の見直しを続ける前に止める
たとえば、担当者の変更を伝えるメールが届き、差出人が顧客台帳にないアドレスだったとします。AIが文章の雰囲気から「新担当者に違いない」と判断し、契約情報を添えて返信するのは避けたい動きです。
この場合は下書きまでで止め、既知の連絡先など社内で決めた方法で担当者変更を確かめます。正しい変更だと分かれば、決めた担当者が台帳を更新して再開します。
宛先が確かめられても、返信に使う料金が契約書と台帳で違えば、そこでまた止めます。どちらが現在の条件かを契約担当者に確かめ、根拠となる版と金額を下書きに添えます。宛先と料金の両方がそろったところで、人が内容を読み、送信を承認します。
| 起きたこと | 続けてよい作業 | 人が確かめること |
|---|---|---|
| 連絡先は一致し、契約の版もそろった | 根拠を添えた下書きの作成 | 金額・期限・宛先を確かめ、送信を承認する |
| 差出人が台帳にない | 確かめる点の整理まで | 担当者変更が正しいか。契約情報を送ってよい相手か |
| 契約書と台帳で料金が違う | 食い違う箇所の提示まで | どちらが現在の条件か。分かるまで金額を回答しない |
表の三つは、文章の出来栄えでは見分けられません。下書きと一緒に、参照した契約と連絡先の照合結果を見られるようにすると、人が調べる箇所を絞れます。
送信結果が分からないときは、履歴を調べる
送信ボタンを押した後に通信が切れ、画面にはエラーが出たとします。相手には届いているかもしれません。すぐに再送すると、同じ案内が二通届く可能性があります。
まず送信済みの記録やメールサービスの結果を調べます。送信済みなら再送せず、未送信と分かってからやり直します。結果が分からないままなら、人が調べる仕事として残します。エラーになった回数だけで、自動再試行を決めないためです。
残す記録も、この調査に使える内容にします。対象の問い合わせ、使った契約の版、承認した人、送信先、送信日時、処理結果です。ログに契約書全文や秘密情報を重ねて保存せず、誰が記録を見られるかと保存期間も決めます。
誤った宛先へ送信してしまった場合は、AIを止めてもメールは元に戻りません。情報管理の担当者へ連絡し、送った内容と影響範囲を調べて、その後の対応を判断します。送信前の承認と、送信後に起きた問題への対応は両方必要です。
入力やログに残してよい情報は、生成AIの情報漏えいを防ぐ7つの社内ルールでも整理しています。
最初は、実際には送らずに確かめる
導入前には、利用を許可された資料や架空データで、通常の問い合わせ、宛先の不一致、料金の不一致、送信結果が分からない場面を試します。下書きがうまくできることに加え、止まるべきところで止まり、担当者が理由を理解して引き取れるかを見ます。
効果を見るときは、一件ごとに下書き、見直し・修正に使った時間と、承認を待った時間を分けて残します。宛先の照合で止まったのか、料金の照合に時間がかかったのか、送信結果を確認できたのかも記録します。起きなかった誤送信の件数を推測するより、止まった理由と再開までの経過を追うほうが、改善する場所を選べます。
McKinseyの2025年の調査（PDF）でも、AIエージェントを試している段階と、業務へ広く展開する段階は区別されています。自社でも、試した一つの作業で何ができたかを確かめてから、任せる範囲を広げます。
NeoLogicの開発でも、AIが進めた作業を業務の決まりごとと照らし、採用する案や修正の優先順位を人が判断します。具体的な分担はAIネイティブ開発｜人の確認と品質・引き継ぎで紹介しています。
まず一つの問い合わせを選び、連絡先や契約が食い違った場面を試してください。誰が何を調べれば再開できるかまでたどれると、AIに任せる範囲が具体的になります。
参考出典
あわせて読む
丁寧な返信のために、契約書までAIに渡しますか？情報漏えいを防ぐ7つの社内ルール
問い合わせの返信案に、どの情報を入れてよいか。社員が使う7つのルールと、管理者が確かめる契約・保存・権限設定を対応付けます。条件が不明なときの相談先や、誤入力時の連絡もひな形へ書き込めます。
売上日と請求日が違ったら？AIネイティブ開発で発注者が確かめること
売上日と請求日では、同じ取引でも集計する月が変わります。この例と月末日のテストから、AIが進める作業と人が決める業務の条件を比較。発注者が確かめる品質と、受け取る資料も整理できます。