AIチャットボットに顧客が打ち込んだ言葉は、結局どこに送られているのか

自社サイトにAIチャットウィジェットを埋め込むこと自体は、スクリプトタグを1行貼るだけの5分作業です。しかし、そこで交わされる会話が実際にどこへ送られ、どこで処理されているのかを理解するには、その何倍もの時間がかかります。そして、ほとんどの事業者はそこまで確認しません。

この答えはベンダーによって同じではなく、顧客がチャットボットに何を打ち込むかによっては、事業運営上の重みが大きく変わってきます。本記事では、顧客が送信ボタンを押した瞬間に何が起きているのか、個人情報や機微な情報を扱う事業者にとってなぜこれが重要なのか、「セルフホスト型AI」が実際に何を変えるのか、そして自社が検討しているサービスを含めどのベンダーを評価する際にも使える実践的なチェックリストを、率直に説明します。

顧客がメッセージを送信すると何が起きるのか

一般的なAIチャットボットの仕組みは、おおむね次の3ステップです。まず、訪問者のブラウザから入力されたメッセージが、ベンダーのサーバーへ送られます。次に、ベンダー側でそのメッセージと、事業者のFAQやサイトコンテンツから抽出した関連情報を組み合わせ、AIに渡すためのプロンプトを組み立てます。最後に、そのプロンプトがどこかに送られ、そこで返答が生成されます。

ここで重要なのは、この「どこかに送られ」の部分です。多くのAIチャットボットベンダーにとって、その送り先はOpenAIやAnthropic、Googleといった第三者のAI APIです。つまり、ベンダー自身がAIモデルを動かしているのではなく、他社のAPIを呼び出しているケースがほとんどです。これは決して怪しい話ではなく、決済処理を外部のペイメントプロバイダーに任せたり、地図表示を外部の地図APIに任せたりするのと同じ発想です。LLMを自前で訓練・運用するにはコストがかかりすぎるため、多くのAI製品がこの構造を採用しています。

ただし、この構造には見過ごせない意味があります。顧客のメッセージとその中身は、事業者の管理下からもベンダーの管理下からも離れ、第三の企業のインフラに渡ります。そして、その第三の企業のサーバーが海外にあれば、国境をまたぐ形でデータが移動することになります。

なぜこれが思った以上に重要なのか

これは大げさな脅し文句ではなく、普段は誰も気にしないサプライチェーンが、重要な何かと交差した瞬間に問題化するという話です。

• 国境を越えるデータの流れ。 EUのGDPRや、日本の個人情報保護法、韓国のPIPA、ブラジルのLGPDといった各地の法制度は、個人データがどこで処理され、誰と共有されるかを特に重視しています。すべてのメッセージを米国拠点のAPIに経由させることは、誰がそう意識していなくても越境データ移転に該当します。
• 顧客が実際に打ち込む内容。 サポートチャットで人は驚くほど率直になります。配送トラブルの相談で自宅住所を書いてしまう、診療時間を尋ねる前に症状を書いてしまう、請求について聞くついでに係争中の法的トラブルに触れてしまう、といったことは珍しくありません。顧客は「カスタマーサポートと話している」つもりであって、複数の企業をまたぎ、場合によっては海外のサーバーにまで及ぶ分散システムとやり取りしているとは思っていません。
• 本質は「悪意」の問題ではない。 ここでの懸念は、OpenAIやAnthropicが会話を悪用するというものではありません。データが通過する企業と国境が一つ増えるごとに、ログとして記録され、保持され、キャッシュされ、社内スタッフに閲覧され、あるいは情報漏洩で露出しうる場所が一つ増えるということです。同時に、その顧客情報にどの企業のポリシーとどの国の法域が適用されるかという問題も増え、しかも顧客自身はその企業の存在すら知らないまま、という状況が生まれます。

「セルフホスト」「オンプレミス」型LLMとは実際どういう意味か

最近、多くのベンダーが「セルフホスト型」「オンプレミス型」AIをプライバシー機能として打ち出すようになりました。マーケティング用語を取り除いて言えば、これはOpenAIやAnthropicのAPIを呼び出す代わりに、ベンダー自身がQwenやLlama、Mistralといったオープンウェイトの言語モデルを自社で運用するインフラ上で動かす、という意味です。

つまり、メッセージを読み、返答を書くAIモデル自体が、別のAI企業のサーバーではなく、ベンダー自身が管理するサーバー上に存在します。実務上の効果としては、会話が第三者による処理のためにベンダー自身のインフラの外へ出ていくことがなくなります。データが通過する企業が一つ減り、経由する外部サーバーも一つ減るということです。

これは決して些細な違いではなく、データの経路から丸ごと一段階を取り除く、実質的なアーキテクチャ上の変更です。顧客からのすべてのメッセージを外部のAI APIに送るのではなく、ベンダー自身が運用するセルフホスト型モデルが返答を生成する、という設計思想は、この後の章で紹介するように実際に採用しているベンダーもあります。

セルフホスト化は万能なプライバシー保証ではない

ここは正直に述べておく必要があります。「セルフホスト」は、あたかもプライバシー問題をすべて解決するかのように宣伝されることがありますが、実際にはそうではありません。問題を消し去るのではなく、問題の形を変えているにすぎません。

自前でモデルを運用するということは、第三者のAI企業にデータを預けなくて済むという意味ですが、それでもなお、チャットボットベンダー自身、つまりそのサーバー、従業員、セキュリティ運用、ログの保存期間、社内で誰が閲覧できるのかといった点への信頼は必要です。セルフホスト化によって、信頼すべき対象は「OpenAIとベンダーの両方」から「ベンダー自身のインフラのみ」へと縮小しますが、信頼が不要になるわけではなく、信頼すべき相手が一つ減るというだけです。

また、セルフホスト化は自動的にGDPR準拠やHIPAA準拠、その他の認証取得を意味するものでもありません。アーキテクチャとコンプライアンスは関連はしていても別の問題であり、ベンダー側もその二つを混同させるべきではありません。コンプライアンスが重要な事業者は、ホスティング方式から推測するのではなく、ベンダーに直接、どのような文書を提供できるのかを確認するべきです。

どのベンダーを評価する際にも使えるチェックリスト

どのサービスを検討している場合でも、ウィジェットを導入する前に確認しておく価値のある項目は共通しています。そして、これらの質問にはっきり答えられないベンダーは、それ自体が一つの答えになっています。

• AIの推論処理は実際にどこで行われているか(第三者のLLM API経由か、それはどこか。あるいはベンダー自身のインフラか)
• 顧客データはAIモデルの学習に使われているか(オプトアウト可能か、オプトインが必要か、あるいは一切使われないか)
• 会話データはどこにどれくらいの期間保存されるか(「必要な期間だけ」ではない具体的な回答が得られるか)
• ベンダー社内で生の会話ログにアクセスできるのは誰か(デバッグ目的のサポートスタッフに限定されているか、ログの残らない広範な内部アクセスが可能になっていないか)
• データ処理契約(DPA)には何が含まれているか(規制業種や特定の地域に該当する場合は書面での提供を求める)
• 契約解除後、データはどうなるか(一定のスケジュールで削除されるか、無期限に保持されるか)
• ベンダーはサブプロセッサーを利用しているか、それは誰か(セルフホスト型AIを謳う製品でも、メール配信や分析、ホスティングなどで別の第三者を利用していることがあるため、その一覧を確認する)

これらはいずれも法律の専門知識がなくても質問できる内容であり、自社のアーキテクチャに自信を持っているベンダーであれば、率直に答えられるはずです。

cswithaiではこの問題にどう対応しているか

ここでは一般論ではなく、cswithai自身の製品について具体的に説明します。当社のチャットウィジェットは、事業者自身のコンテンツやFAQに基づいて回答を生成しており、その返答を生成するAIモデルは自社が運用するセルフホスト型インフラ上で動作しています。顧客との会話は、回答を生成するために米国拠点の第三者AI APIを経由することはありません。会話は要約され、事業者オーナーにメールで送られ、AIが対応できない内容は人による対応にエスカレーションされます。

ここで一つ誠実に付け加えておきたいのは、これはあくまでアーキテクチャの説明であり、特定のコンプライアンス認証を取得しているという主張ではないという点です。SOC 2や正式なGDPR認証のようなものが自社にとって重要である場合は、当社を含むどのベンダーに対しても、マーケティング資料の言葉を鵜呑みにするのではなく、直接文書の提供を求めることをおすすめします。

よくある質問

カスタマーサービスにAIチャットボットを使うのは安全ですか。 「AIだから」という理由よりも、ベンダーのアーキテクチャに左右される部分が大きい問題です。AI処理がどこで行われているか(セルフホストか第三者API経由か)、データがどれくらいの期間保持されるかを確認してください。事業者自身のFAQコンテンツのみに基づいて回答し、メッセージを外部のAI企業に経由させないチャットボットは、一般的にデータ露出の範囲が小さくなります。

すべてのAIチャットボットは顧客のメッセージをOpenAIのような企業に送っているのですか。 いいえ、すべてではありませんが、多くのベンダーがそうしています。それが最も速く、最も低コストで構築できる方法だからです。自前のセルフホスト型モデルを運用しているベンダーはむしろ例外であり、標準ではありません。前提とせず、ベンダーに直接確認する価値があります。

第三者のLLM APIを使うことの実際のプライバシーリスクは何ですか。 データが通過する経路に、独自の保持方針やアクセス権限、セキュリティ運用を持つ企業(しばしば国も異なる)が一つ加わることです。また、会話データがそのAIプロバイダー自身のモデル改善に使われる可能性もあります。これが自動的に何らかの違反になるわけではありませんが、データを一社のインフラ内にとどめる場合に比べて、露出する範囲は広がります。

セルフホスト型AIモデルであれば、そのチャットボットはGDPRに準拠していますか。 いいえ、そうとは限りません。ホスティングのアーキテクチャと法的なコンプライアンスは別の問題です。セルフホスト化は規制当局が重視する要素の一つである越境データ移転を減らすことにはつながりますが、コンプライアンスはそれ以外にも、データ保持の運用、同意取得のプロセス、インシデント対応手順、ベンダーが求めに応じて提供できる文書などに左右されます。

チャットボットベンダーと契約する前に何を確認すべきですか。 最低限、AIの推論処理がどこで行われるか、データがAIモデルの学習に使われるか、会話データがどれくらいの期間保持されるか、社内の誰がそれにアクセスできるか、どのようなサブプロセッサーが関わっているかを確認してください。アーキテクチャがどうであれ、これらに率直に答えられるベンダーは良い兆候です。