こちらのハウツーでは、バンキングBotのシナリオを検討していきます。ここでは、さまざまなメトリックスを使用してBotのパフォーマンスを分析します。Botメトリックスとは何か、またKore.aiのBotプラットフォームにどのように実装されているかについての詳細は、こちらを参照してください。

例題

バンキングBotのクライアントは次のメトリックスを追跡することができます。

• カスタマーが使用する頻度の高いインテント
• カスタマータイプに基づいた利用状況

このドキュメントでは、Botメトリックスページから上記の統計情報を表示し、カスタムメタタグに基づいてフィルタを適用するための順を追った詳細なアプローチをご説明します。

Pre-requisites

• Botビルドナレッジ。
• カスタムメタタグの使用についての、詳細はこちらを参照してください。
• 以下で述べるダイアログ付きバンキングBot。
  • 送金-送金のステップをユーザーに説明するダイアログタスクです。このダイアログには、振替額に基づきカスタムメタタグ、TransferValueを追加するスクリプトノードを含めました。以下のスクリプトが使用されました。

    if(context.entities.TransferAmount[0].amount > 50000){ tags.addSessionLevelTag("TransferValue","HighValue"); } if(context.entities.TransferAmount[0].amount > 10000) tags.addSessionLevelTag("TransferValue","MediumValue"); if(context.entities.TransferAmount[0].amount > 0) tags.addSessionLevelTag("TransferValue","LowValue");

    

  • 支払先管理 – 支払先リストを管理するユーザー用。 以下は、customerTypeメタ タグを割り当てるスクリプトです。

    if(context.custType == 3){ tags.addUserLevelTag("CustomerType","Premium"); } if(context.custType == 2){ tags.addUserLevelTag("CustomerType","Gold"); }; if(context.custType == 1){ tags.addUserLevelTag("CustomerType","Regular"); };

導入

例題に記載されている各メトリックスについて、メトリックスからどのように表示できるかを考えてみましょう。

1. 左側のナビゲーションパネルから、分析の下のメトリックスをクリックします。
2. ページには、正常な発話、インテント、ユーザーのユーザーID、その他の詳細を含む検出されたインテントメトリックスが表示されます。
3. これらは、Botによって取得された過去1週間の正常なインテントです。
4. フィルタボタンをクリックして、レポートをカスタマイズします。
5. 取得が必要な日付期間、言語、チャネル、タスク/インテントをカスタマイズします。
6. 送金インテントを追跡する必要があるので、それに応じて選択を行います。
7. 高額な送金を行っているゴールドおよびプレミアムカスタマーのすべてのインタラクションのレポートを作成したいと考えています。
8. このためには、次のようにカスタムタグを選択します（先のタイプのドロップダウンからタグ名とタグ値を選択できます）。
   • カスタマータイプ–ゴールド、プレミアム
   • Transfer Value – HighValue

   

9. 適用フィルタを実行すると、更新されたメトリックスページが表示されます。タグフィルタは、Bot上で公開されたバージョンにのみ適用されることに注意してください。
10. 未検出のインテント、失敗したタスクなどのすべてのメトリックスについて、上記のステップを繰り返すことができます。

In this How-To, we will explore a scenario in a Banking Bot, where, various metrics will be used to analyze the bot performance.

For details on what Bot Metrics are and how they are implemented in the Kore.ai Bots platform, refer here.

Problem Statement

A Banking Bot client can track the following metrics:

• Frequent Intents used by customers;
• Usage split based on the customer type;

This document gives a detailed step-by-step approach to viewing the above statistics from the Bot Metrics page and apply filters based on Custom Meta Tags.

Pre-requisites

• Bot building knowledge.
• Custom Meta Tags usage, refer here for more.
• A Banking Bot with the dialogs as mentioned below:
  • Transfer Money – Dialog task walking the user through the steps in transferring money.
    In this diaog, we have included a Script node to add Custom Meta Tag, TransferValue, based upon the amount transferred. Following script was used:

    if(context.entities.TransferAmount[0].amount > 50000){
       tags.addSessionLevelTag("TransferValue","HighValue");
    }
    
    if(context.entities.TransferAmount[0].amount > 10000)
    tags.addSessionLevelTag("TransferValue","MediumValue");
    
    if(context.entities.TransferAmount[0].amount > 0)
    tags.addSessionLevelTag("TransferValue","LowValue");

    

  • Manage Payee – For the user to manage their payee list.

    Here we have a Script assigning customerType meta tags:

    if(context.custType == 3){
       tags.addUserLevelTag("CustomerType","Premium");
    }
    if(context.custType == 2){
       tags.addUserLevelTag("CustomerType","Gold");
    };
    if(context.custType == 1){
       tags.addUserLevelTag("CustomerType","Regular");
    };

Implementation

Let us consider how each of the metrics mentioned in the problem statement can be viewed from the Metrics.

1. From the left navigation panel, under Analyze click Metrics.
2. The page will display the Intent found metrics to include successful utterances, intents, userid of the user,  and other details.
3. These are the successful intents in the past one week as captured by the Bot.
4. Click the Filter button to customize the report.
   
5. Customize the Date period, Languanges, Channel, and the Task/Intent you want to capture.
6. Since we want to track the Transfer Money intent, we have selected accordingly.
   
7. We want the report of all the interactions by the Gold and Premium customers doing High Value money transfers.
8. For this select the Custom Tags as follows (you can select the tag name and tag value from the type ahead drop down:
   • Customer Type – Gold, Premium
   • Transfer Value – HighValue

   

9. On Applying the filter, you will see the updated Metrics page. Note that tags filter is applied only on the published version on the bot.
10. You can repeat the above steps for all metrics like Intent not found, Failed task, etc..