生成式備用功能會使用 Google 最新的生成式大型語言模型 (LLM),在使用者輸入內容不符合表單填寫的意圖或參數時,產生虛擬代理回覆。
您可以使用文字提示設定這項功能,指示大型語言模型如何回應。您可以使用預先定義的文字提示,也可以自行新增提示。透過預先定義的提示,虛擬代理可處理基本的對話情境。例如:
- 向使用者問候和道別。
- 重複代理程式所說的內容,以免使用者不理解。
- 在使用者要求時保持通話。
- 總結對話內容。
您可以在流程、頁面或參數填入期間,針對不相符的事件處理常式啟用產生備用方案。為不相符事件啟用產生備用回應功能後,每當該事件觸發時,Conversational Agents (Dialogflow CX) 就會嘗試產生回應,並傳回給使用者。如果回應產生作業失敗,系統會改為發出一般規定的代理程式回應。
限制
這項功能適用於 Gemini API 支援的語言。
啟用生成式備用答覆
您可以在不相符事件處理常式中啟用產生備用方案,這可用於流程、頁面或參數執行要求。
針對整個流程中的不相符事件啟用生成式備用機制:
- 前往 Dialogflow CX 主控台。
- 選取專案。
- 選取代理程式,然後選取流程。
- 按一下流程的「Start Page」展開。
- 按一下「事件處理常式」下方的「sys.no-match-default」。
- 勾選「虛擬服務專員回覆」下方的「啟用生成式備用回覆」。
- 按一下 [儲存]。
針對特定不相符事件啟用生成式備用答覆:
- 前往目標「No-match」事件處理常式 (任何開頭為「No-match」的事件,例如「No-match default」、「No-match 1」等)。
- 勾選「虛擬服務專員回覆」下方的「啟用生成式備用回覆」。
- 按一下 [儲存]。
設定生成式備用答覆
如上所述,生成式備用方案功能會將要求傳遞至大型語言模型,以產生回覆。這項要求採用文字提示的形式,其中包含自然語言和關於代理程式和對話目前狀態的資訊。系統會根據禁止字詞清單,檢查提示和產生的回應內容。如果含有任何禁用詞組,或以其他方式視為不安全,系統就無法產生回應,並改為發出一般規定回應 (在相同執行作業的 Agent says 下方)。
您可以透過多種方式設定這項功能:
- 選取預先定義的提示。
- 定義自訂提示。
- 在禁用詞組清單中新增或移除詞組。
建立提示時,除了以自然語言說明應產生何種情境之外,您還可以使用下列預留位置:
字詞 | 定義 |
---|---|
$conversation | 代理程式和使用者之間的對話,不含最後一次使用者話語。 |
${conversation USER:"<user prefix>" AI:"<agent prefix>" TURNS:<turn count>} | $conversation 預留位置的參數化版本。您可以自訂使用者前置字串 (USER )、代理程式前置字串 (AI ),以及要納入的前幾輪數量 (TURNS )。所有預留位置參數值都必須指定。例如:${conversation USER:"Human says:" AI:"Agent says:" TURNS:4} |
$last-user-utterance | 使用者上次說出的內容。 |
$flow-description | 有效流量的流程說明。 |
$route-descriptions | 有效意圖的意圖說明。 |
請務必提供良好的流程和意圖說明。
選擇預先定義的提示
- 在「Agent 設定」中,依序前往「生成式 AI」分頁,然後點選「生成式備用」子分頁。
- 在「範本」下拉式選單中選取其中一個選項。
- 按一下 [儲存]。
這項功能提供兩個範本提示,分別是「預設」範本 (不會顯示) 和「範例」範本,可做為編寫您自己的提示的指南。
自行定義提示
- 在「Agent 設定」中,依序前往「生成式 AI」分頁,然後點選「生成式備用」子分頁。
- 在「Template」下拉式選單中選取「+ 新增範本」。
- 新增「範本名稱」。
- 新增「文字提示」。
- 按一下 [儲存]。
您也可以先編輯「Example」範本,然後儲存為新範本:
- 在「範本」下拉式選單中選取「示例」。
- 按一下 [編輯]。
- 編輯「範本名稱」。
- 編輯「文字提示」。
- 按一下 [儲存]。
修改禁用詞組清單
- 在「Agent 設定」中,依序前往「生成式 AI」分頁和「一般」子分頁。
- 在「Banned phrases」部分,檢查清單中的詞組、新增詞組或移除詞組。
- 按一下 [儲存]。
測試生成式備用答覆
您可以在模擬器中測試生成式備用方案功能。每當使用者發言導致流程/頁面不相符,且系統已針對不相符事件設定產生式回應 (且產生成功),代理程式就會輸出產生的回應。
程式碼實驗室
另請參閱生成式備用答覆 Codelab。
疑難排解
如要對這項功能進行偵錯,您可以在 Dialogflow 主控台模擬器中檢查已解析的大型語言模型 (LLM) 輸入提示:
按一下「原始回覆」按鈕:
找出「Generative Fallback Prompt」欄位。將這些欄位視為純文字,檢查 LLM 輸入內容是否合理。如果任何字詞含有
$
,請檢查模擬器輸入內容,並確認提示中的$
是否是刻意加入 (例如,price is $10
中的$
很可能是刻意加入,但visit $city
則不太可能刻意加入,可能表示誤用或錯誤)。如果不確定,請與支援團隊聯絡。如果您使用非預設提示範本,但看不到「產生備用提示」欄位,請與支援團隊聯絡。