[Google AI Guidebook-8] 使用者發生狀況時，我要如何協助？
對錯誤負責
了解用戶可能會遇到的問題並制定解決方案。
在產品開發初期，產品開發團隊就要做好「AI系統會在某些時候出現預測錯誤」的心理準備，當錯誤發生時產生數據可以幫助產品開發團隊確認AI對您的專案/服務來說是不是正確的工具。
深入思考您的系統可能會產生的錯誤類型及後果，能夠提前判斷用戶遇到預測錯誤、誤報（false positive）或漏報（false negative）時所要面對的風險是什麼。
這裡有幾個錯誤發生時的補救辦法：
- 一開始就設定使用者對系統的正確期望
- 當AI 失靈時，讓使用者可以手動操作
提供下一步驟的指導
由客服人員提供使用者協助，以解決他們的憂慮和問題。
下次改進
有時候使用者發生的錯誤可能無法一時解決，但我們可以採取回報措施，避免其他使用者也發生相同的問題。
讓使用者可以掌握自動化的流程
讓使用者操控AI系統的自動化運作有助於系統在出現問題時，使用者可以方便及時導正錯誤。
允許您的使用者可以自行監控自動化運作的流程，並且適時可以收回系統控制權，而不是使其全面自動化。
這樣有許多好處，包括：
- 當在新的情境或具有風險的情況下，使用者可以視情況隨時切換成手動操控。
- 在使用者手動操作時，可以了解系統的運作原理。例如，親自確認系統推薦的預約時間，可以熟悉系統的預約推薦方式。
- 當系統運作方式跟他們想得不一樣，使用者仍能依靠手動完成任務。
即使使用者不常使用手動選項，也要提醒他們有這個操作方式，這樣可以幫助使用者建立對系統的信任感。
盡量
讓使用者複查、同意系統推薦的結果
避免
讓使用者毫無取消或修改的餘地
在自動化出問題時，把掌控權還給使用者
在AI系統出狀況，或是產出的預測結果失準時，提供其他解決方法讓使用者依然可以完成任務。
當AI系統失靈或給出不理想的演算結果時，最簡單的解決方法就是讓使用者可以接管系統。盡可能簡單且明確地讓使用者可以快速從系統中斷的地方接手進行下去。提供他們必要的資訊以取得掌控權：
- 了解狀況
- 接下來需要做什麼
- 如何採取下一步驟
在使用者無法自行完成或高風險的情況下，您可能安排一位客服人員或是客服工程師協助使用者完成任務。
盡量
在自動化的出狀況的時候，讓使用者可以接管流程。
原文及圖片來源：https://pair.withgoogle.com/guidebook/patterns/how-do-i-support-when-something-goes-wrong
Citation:
Google PAIR. People + AI Guidebook.
Published May 8, 2019.
Updated May 18, 2021.
People + AI Guidebook by People + AI Research team is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Based on a work at pair.withgoogle.com.