日本語

AIエージェントが失敗したときのフォールバックフローの設定

AIチャットエージェントは、予測可能な形で失敗します。製品の詳細を誤って伝えることがあります。入力が曖昧なときにループに入ることがあります。会話のコンテキストが複雑になりすぎると応答を停止することがあります。フォールバックパスを設定せずに失敗すると、15〜20%の会話が応答もハンドオフもなく終了します。Gartnerのconversational AIに関するリサーチによると、2025年までに企業向けAI chatbotプロジェクトの40%が、インテント認識の失敗により人間による監視を必要とするとされています。フォールバックアーキテクチャは、例外対応ではなく設計上の必須要件です。

あるmarketing opsマネージャーは、AI エージェントの会話の18%がループで終わっていることを発見しました。botが買い手の回答を解釈できず、同じ質問を繰り返していたのです。それが数週間続いていました。明示的なフォールバックトリガーと4つのフォールバックパスを使ってフローを再構築した後、その割合は3%まで低下しました。

このガイドでは、4つの障害モード、それぞれに対応する4つのフォールバックパス、ManyChat と Respond.io における設定手順を解説します。

AIチャットエージェントの4つの障害モード

フォールバックを設定する前に障害モードを理解しておくと、設定の判断が明確になります。AIエージェントがセールスパイプラインでどのように活用されているかについては、AI agents in sales pipeline automationに現状と人間の監視が依然として必要な領域がまとめられています。

障害モード 発生のしかた 主な原因
インテントが認識されない botが「理解できませんでした」という汎用メッセージを返す 入力が学習済みインテントやキーワードに一致しない
信頼度閾値に達しない botが信頼度の低い回答をするか、確認を求める 曖昧な表現、複数の候補インテント
繰り返しの誤解（ループ） botが進展なく同じ質問を2〜3回繰り返す 曖昧な入力、インテントマッピングの不完全さ
センシティブなトピックが検知される botが設定されていないトピックで回避または無応答になる 法律的な質問、価格の詳細、競合比較

各障害モードには異なるフォールバックパスが必要です。汎用的な「担当者に繋ぎます」という一つの応答では、どのモードにも適切に対応できません。ループ検知には、センシティブトピックの回避とは異なるトリガー条件が必要です。

フォールバックトリガーの設定

フォールバックパスを構築する前に、プラットフォームでトリガーを設定してください。

Respond.io における信頼度閾値

Respond.io の AI 機能（Settings → AI Agent）で、信頼度閾値をパーセンテージで設定します。AIエージェントのインテントマッチに対する信頼度スコアがこの閾値を下回ると、通常の応答ではなくフォールバックパスに切り替わります。

初期値として70%から始めてください。信頼度が70%を下回ればフォールバックに誘導し、70%以上であれば通常通り応答します。2週間分のデータを確認した後、フォールバック率を見直してください。20%を超えている場合は閾値を75%に引き上げます。5%を下回っている場合は65%に下げて、過剰なエスカレーションを抑制します。

ManyChat におけるループ検知

ManyChat にはネイティブのループ検知機能はありませんが、自分で構築できます。コンタクト属性にカウンターを追加してください。

  1. カスタム属性を作成する: clarification_attempts（数値、デフォルト0）
  2. インテント未認識フローで、カウンターを1ずつ増加させる
  3. 条件を追加する: clarification_attempts >= 2 の場合、確認の繰り返しではなく人間へのハンドオフに誘導する
  4. 新しい会話が始まったときにカウンターをリセットする（会話開始時に0に設定）

Respond.io におけるループ検知

Respond.io の自動化も同様のロジックに対応しています。コンタクト属性（clarification_count）を使い、インテント認識の失敗ごとに1ずつ増加させます。条件ブロックを追加してください: clarification_count > 2 の場合、チームにアサインしてフォールバックメッセージを送信します。

キーワードベースのエスカレーショントリガー

センシティブなトピックには、AIエージェントを経由せず直接フォールバックパスに誘導するキーワードトリガーを設定してください。監視対象として検討すべき一般的なキーワード:

  • 価格、費用、コスト（正確な価格を公開していない場合）
  • 法的、契約、責任、利用規約
  • 競合他社名（比較をエージェントにさせたくない場合）
  • 緊急、エスカレート、クレーム、返金

ManyChat と Respond.io のどちらでも、AIエージェントの通常処理より先に評価されるキーワードベースのルーティングルールを設定できます。AIエージェントのステップの前に、自動化ルールまたはフロートリガーとして設定してください。

設定リファレンス

トリガーの種類 設定場所 推奨初期値
信頼度閾値 Respond.io → AI Agent Settings 70%
ループ検知カウンター カスタム属性 + 条件ブロック 2回失敗後にエスカレート
キーワードエスカレーション フロートリガー / 自動化ルール AI処理前に評価
センシティブトピックキーワード キーワードトリガーリスト 価格、法的、契約、競合他社名

フォールバックパス1: 丁寧な確認

エージェントが買い手の意図を把握できていないが、すぐにハンドオフするほど緊急ではない場合に使います。

トリガー: 信頼度が閾値を下回る（ループ検知が発火する前の最初の試みのみ）

2回の確認シーケンス:

1回目: 「正確にお伝えするために確認させてください。[選択肢A]についてのご質問でしょうか、それとも[選択肢B]でしょうか？」 可能な場合はボタンを使用してください。2〜3つの具体的な選択肢を提示する方が、再度自由記述を求めるより迅速で、ストレスが少なくなります。

2回目（最初の確認が失敗した場合）: 「正確な情報をお届けしたいと思います。直接サポートできる担当者に繋がせていただきます。」 これにより、botの失敗として見せずに人間へのハンドオフパスへ移行できます。

3回目の確認は行わないでください。2回失敗した後はエスカレートしてください。買い手が2回にわたってインテントの分類外であることを示しており、インテントが不完全であるか、そのユースケースが人間対応を必要とする特殊なものだということを意味します。

エラーと感じさせない例文:

  • 「念のため確認させてください。Xについてのご質問でしょうか、それともYでしょうか？」（「メッセージを理解できませんでした」ではなく）
  • 「適切な情報をご案内するために、ご質問はAについてでしょうか、Bについてでしょうか？」（中立的な表現）
  • 「正確な情報をご提供するために、Xのどの部分についてお知りになりたいか教えていただけますか？」（確認を品質管理として位置付ける）

フォールバックパス2: 人間へのハンドオフ

ループ検知が発火したとき、ホットリードトリガーが満たされたとき、または買い手が明示的に担当者との会話を求めた場合に使います。ハンドオフの仕組み（コンテキストの引き継ぎ、担当者への通知、会話のフレーミング）については、chatbot-to-rep handoff playbookで詳しく解説しています。

ルーティングの判断:

状況 誘導先
営業時間内に担当者が対応可能 対応可能な担当者に直接アサイン
担当者不在、営業時間内 予想応答時間付きのキューに入れる
時間外、クオリファイ済みリード キュー + 「翌日返信」通知
時間外、未クオリファイ 非同期保留状態（パス3）

フォールバックメッセージでのSLA設定の表現:

「今すぐ[担当者名 / 担当チーム]に繋ぎます。[15分以内 / 2時間以内 / 翌営業日]以内にご連絡いたします（実際の状況に合わせた表現にしてください）。」実際に対応できる時間より短い約束はしないでください。現実的な期待値を設定する方が、SLAを守れないよりも価値があります。

優先対応のためのタグ付け:

キューに誘導する際は、フォールバックの理由とリードのクオリフィケーション状況でタグを付けてください。Respond.io では、「fallback-loop」「fallback-sensitive-topic」「qualified-hot-lead」などのラベルを使用します。これにより、担当者は時系列ではなく優先度順にキューを処理できます。

担当者へのコンテキスト引き継ぎ:

コンテキストなしで会話を受け取った担当者にとって、ハンドオフは意味をなしません。アサインステップの前に、以下を記録するノートアクションを追加してください:

  • ハンドオフが発生した理由（ループ、センシティブトピック、明示的なリクエスト）
  • 買い手の主なクオリフィケーションデータ（会社規模、タイムライン、述べられた課題）
  • エスカレーション前に買い手が送った最後のメッセージ

ManyChat では、フロー内の「Add Note」アクションを使用します。Respond.io では、アサインステップの前に「Add Note」自動化アクションを使用します。

フォールバックパス3: 安全な保留状態

担当者が対応できず、すぐにフォローアップが必要なほど緊急ではない場合に使います。時間外の会話処理の全体的な仕組み（階層型キューや翌朝のフォローアップシーケンスを含む）については、building a 24/7 chat funnelで解説しています。

保留メッセージ:

「ご連絡ありがとうございます。現在チームが対応できない状況です。[担当者名 / チームの誰か]が[翌朝まで / 営業開始から2時間以内]にご連絡いたします。その間、[関連リソース]がお役に立てるかもしれません。」

保留メッセージに含まれるリソースリンクは2つの目的を果たします。買い手に即座に有益な情報を提供し、担当者がフォローアップするときにまだ関心を持っていてもらいやすくします。

フォローアップ自動化シーケンス:

  • T+0: 保留メッセージ送信、会話にフォローアップタグを付与
  • T+翌営業日の朝: 担当者紹介と会話を再開する質問を含む「折り返し」自動メッセージ
  • T+3日（返答なしの場合）: 最終フォローアップ: 「[課題]についてまだサポートが必要でしょうか。ご質問があればいつでもお気軽にどうぞ。」

Respond.io のシーケンス自動化、または ManyChat のスケジュールメッセージでこのシーケンスを設定してください。重要なのは、これらの会話に「pending-followup」タグを付けて、担当者の朝のキューに表示されるようにすることです。

フォールバックパス4: トピックの回避

買い手がエージェントが回答すべきでない質問をした場合に使います。未発表の価格情報、法的な質問、競合比較などが該当します。

役に立つと感じさせる、回避的でない表現:

価格について: 「弊社の価格はお客様のご状況によって異なります。正確な数字をご案内するには、チームとの短い通話が最善です。設定しましょうか？」 （エージェントを回避しながら、質問をミーティングの機会に変えます。）

法的な質問について: 「契約や法的な条件に関するご質問は、担当者が直接対応する方が確実です。不正確な情報をお伝えしたくないため、具体的に回答できる担当者に繋いでもよろしいでしょうか？」

競合比較について: 「誠実な回答をお届けしたいと思います。簡単な比較よりも、実際の会話の方が価値があります。15分ほどお時間をいただけますか？」

このパターンは一貫しています: 質問を認識し、買い手の知性を尊重した理由を述べ（「それについてはお答えできません」ではなく）、役に立つ前進の手段を提示します。

避けるべき表現: 「その件についてはお答えできません」や「それは私の対応範囲外です」。どちらも回避的に感じられ、信頼を損ないます。常に代替手段を提示してください。

フォールバックフローのテスト

公開前に、以下の8つのテスト入力をフローで手動確認してください:

  1. 完全に無関係なメッセージ（「今日の天気は？」など）: 丁寧な確認がトリガーされるはず
  2. 2つの異なる意味に解釈できる曖昧なメッセージ: 2つの選択肢付き確認がトリガーされるはず
  3. 3回連続した曖昧なメッセージ: 2回の試みの後に人間へのハンドオフがトリガーされるはず
  4. 価格に関する質問: ミーティング提案付きのトピック回避がトリガーされるはず
  5. 法的な質問: 人間へのハンドオフ提案付きの回避がトリガーされるはず
  6. 競合他社への言及（「[競合]と比べるとどうですか？」）: 回避がトリガーされるはず
  7. 担当者との会話を明示的に求めるメッセージ: 即座にハンドオフがトリガーされるはず
  8. ホットリードシグナルを含む時間外メッセージ: 優先タグ付きの非同期保留がトリガーされるはず

各テストで以下を確認してください:

  • 正しいフォールバックパスがトリガーされたか
  • メッセージのテキストが適切か（「エラー」や汎用的な失敗メッセージではないか）
  • inbox で会話に正しいタグが付いているか
  • 担当者ノートにコンテキストが引き継がれているか（ハンドオフテストの場合）
  • フォローアップ自動化がスケジュールされているか（保留状態テストの場合）

フォールバック率のモニタリング

通常のフォールバック率: 適切に設定されたフローでは、AIエージェントの全会話のうち8〜15%が何らかのフォールバックパスで終了するのが一般的です。MIT research on human-AI collaboration in service contextsによると、明確な人間エスカレーションパスを設計したシステムは、フォールバックのない完全自動化システムと比較して顧客満足度スコアが35%高いとされており、botの自律性よりもハンドオフの品質に投資する価値が示されています。これらの指標はchat funnel performance metrics全体に直接影響するため、完了率や会話あたりの資格取得コストと並べてフォールバック率を追跡してください。5%を下回る場合は、フォールバックが正常にトリガーされていない可能性があります（閾値を確認してください）。25%を超える場合は、AIエージェントのインテントカバレッジが不完全で、会話が処理可能な範囲の端に頻繁に到達していることを意味します。

Respond.io のダッシュボードで: ラベルレポートを使用して、フォールバックラベルが付いた会話数を集計します。種類別のフォールバックを週次で追跡してください。「fallback-sensitive-topic」が増加している場合は、回避リストに含まれていない新しいトピックが会話に登場しています。

フォールバックデータを活用したエージェントの改善: フォールバックをトリガーしたメッセージを月次でエクスポートしてください。パターンを確認します。特定の表現やトピックが継続的にループ検知を発火させていないでしょうか。Stanford HAI research on AI system improvementでは、チームが障害データをフィードバックループとして活用する場合にAIシステムが最も速く改善するとされており、フォールバックログは商業的なAI展開において最も活用されていないトレーニングシグナルの一つです。それらをインテントとして追加するか、インテントの例を更新してください。各レビューサイクルにより、フォールバック率は少しずつ低下するはずです。

よくある落とし穴

フォールバックが全く設定されていない。 エージェントが入力を処理できないと、単に応答を停止します。リードは無応答を見て離脱します。公開前にすべての失敗パスを確認してください。

汎用的なエラーメッセージをフォールバックとして使う。 「申し訳ありませんが、理解できませんでした。もう一度お試しください。」は最悪のフォールバックです。フローのギャップを修正する負担を買い手に押し付けています。常に構造化された前進の手段を提示してください。

コンテキストなしの人間へのハンドオフ。 担当者が会話を受け取ったとき、入手できる情報は買い手からの最後のメッセージだけです。botが何を言ったか、なぜエスカレートしたか、買い手がすでに何を共有したかを把握できません。必ずサマリーノートを引き継いでください。

自分自身のフォールバックをトリガーするフォールバック。 回避メッセージのテキストにエスカレーションリストのキーワードが含まれていたり、保留メッセージにループ検知が拾う表現が使われていたりする場合があります。フォールバックメッセージのテキストを自分のトリガー条件に照らしてテストし、誤って再トリガーしないことを確認してください。

関連ガイド