打造 AI 代理系統有許多不同的思路。由於在生成式 AI 設計中，模糊性是一種特性而非缺陷，工程師有時可能會不知道從何開始。我們制定了一套以人為中心的使用者體驗設計原則，幫助開發者建立以客戶需求為核心的代理系統，解決業務問題。這些設計原則並非具體的架構指導，而是為定義和構建代理體驗的團隊提供的一個起點。
一般來說，代理應該：
- 擴展並放大人類的能力（如腦力激盪、問題解決、自動化等）
- 填補知識空白（如讓我快速掌握某個知識領域、翻譯等）
- 促進並支持我們以個人偏好的方式與他人合作
- 幫助我們成為更好的自己（例如：生活教練/任務管理者，幫助我們學習情緒調節與正念技巧，建立韌性等）
- 什麼是代理設計原則
- 在實施這些設計原則時應遵循的指導方針
- 運用這些設計原則的範例
完成本課程後，您將能夠：
- 解釋什麼是代理設計原則
- 說明如何應用代理設計原則的指導方針
- 瞭解如何使用代理設計原則構建代理
這是代理運行的環境。這些原則指導我們如何設計代理以便在物理和數位世界中互動。
- 連結，而非取代 – 幫助人們連結其他人、事件和可行的知識，促進協作與聯繫。
- 代理協助連結事件、知識和人。
- 代理拉近人與人之間的距離，而非取代或貶低人類。
- 易於存取但偶爾隱形 – 代理主要在背景中運行，僅在相關且適當時才提醒我們。
- 代理對授權使用者在任何裝置或平台上都容易發現和存取。
- 代理支持多模態的輸入與輸出（如聲音、語音、文字等）。
- 代理可以根據使用者需求無縫切換前景與背景模式，或主動與被動狀態。
- 代理可能以隱形形式運行，但其背景運作過程及與其他代理的協作對使用者是透明且可控的。
這是代理隨時間運行的方式。這些原則指導我們如何設計代理在過去、現在和未來的互動。
- 過去：反映歷史，包括狀態和上下文。
- 代理基於更豐富的歷史數據分析提供更相關的結果，而不僅限於事件、人或狀態。
- 代理從過去的事件中建立連結，並主動反思記憶以應對當前情境。
- 現在：提示，而非僅僅通知。
- 代理採取全面的方式與人互動。當事件發生時，代理不僅是靜態通知或形式化，而是簡化流程或動態生成提示，引導使用者在適當時刻專注。
- 代理根據上下文環境、社會與文化變化，以及使用者意圖提供資訊。
- 代理的互動可以是漸進的，隨著時間推移逐漸增強其複雜度，以賦能使用者。
- 未來：適應與演進。
- 代理適應不同裝置、平台和模式。
- 代理適應使用者行為和無障礙需求，並可自由定制。
- 代理通過持續的使用者互動來塑造並演進。
這是代理設計核心的關鍵元素。
- 擁抱不確定性但建立信任。
- 代理的不確定性是可以預期的。不確定性是代理設計中的一個關鍵要素。
- 信任與透明是代理設計的基礎層。
- 人類可以控制代理的開啟/關閉，代理狀態始終清晰可見。
在使用上述設計原則時，請遵循以下指導方針：
- 透明性：告知使用者 AI 的參與方式、其運作原理（包括過去的行為），以及如何提供反饋和修改系統。
- 控制權：讓使用者能夠自訂、設定偏好並個性化，並擁有對系統及其屬性的控制權（包括忘記的能力）。
- 一致性：目標是在裝置與端點之間提供一致的多模態體驗。儘量使用熟悉的 UI/UX 元素（例如，語音互動的麥克風圖示），並盡可能減少使用者的認知負擔（例如，提供簡潔的回應、視覺輔助以及“瞭解更多”內容）。
假設您正在設計一個旅行代理，以下是如何運用設計原則和指導方針的思路：
- 透明性 – 告訴使用者旅行代理是一個 AI 驅動的代理。提供一些基本的使用說明（例如，“Hello”訊息，範例提示）。在產品頁面上清楚記載。顯示使用者過去詢問的提示列表。明確說明如何提供反饋（例如，讚/踩按鈕、發送反饋按鈕等）。清楚說明代理是否有使用或主題限制。
- 控制權 – 明確告訴使用者如何在代理創建後進行修改，例如系統提示。讓使用者選擇代理的詳細程度、寫作風格，以及代理不應談論的內容限制。允許使用者檢視和刪除任何相關的檔案或數據、提示和過去的對話。
- 一致性 – 確保分享提示、添加檔案或照片，以及標記某人或某物的圖示是標準且易識別的。使用回形針圖示表示檔案上傳/分享功能，使用圖片圖示表示圖形上傳功能。
- Practices for Governing Agentic AI Systems | OpenAI
- The HAX Toolkit Project - Microsoft Research
- Responsible AI Toolbox
免責聲明：
本文件使用基於機器的人工智能翻譯服務進行翻譯。儘管我們努力確保準確性，但請注意，自動翻譯可能包含錯誤或不準確之處。應以原始語言的文件作為權威來源。對於關鍵信息，建議尋求專業的人工作翻譯。我們對因使用此翻譯而產生的任何誤解或誤讀概不負責。