受到疫情影響，全球數百萬人被迫在家工作。零售商努力維持正常供應，而緊張的消費者正想盡辦法，從各種管道購買衛生紙等一切民生必需品。
在全球公司及政府疲於奔命的狀況下，中國電商巨頭「京東」開始在武漢測試自動送貨機器人，試行每日24小時全天候自動化倉庫，來應對需求激增。
突然間，AI自動化機器需要的不僅僅是「概念驗證」。它們不能再依賴現場工程師支援突發狀況，而必須能夠在各種現實環境中「獨立工作」。
疫情讓原本已開始走向自動化的未來提早到來，也暴露了AI創業領域長期存在的問題：太多讓人眼花撩亂的科技演示和話題炒作，讓人很難判斷產業內的真正發展。
推薦閱讀：你準備好跟AI機器成為同事了嗎？
我們需要從以下三個方面推動改變：
1. 重新思考「評估指標」
隨著我們在現實世界中採用更多自主AI機器，速度或成功率等傳統指標已不能代表全部情況，我們需要使用可靠度指標（robustness metrics），來全面衡量系統在不確定狀況下的可靠性，例如，送貨機器人平均送貨幾次，需要人為介入來確保成功送達？
我們需要更多的工具和行業標準，來評估各種未知狀態下的整體系統性能，因為現實生活，不同於實驗室，是不可預測的。
如果送貨機器人可以達到每小時4 mph的最高速度，但卻無法在沒有人工支援的狀況下，獨立無法完成單次送貨，這個機器人事實上並沒有為用戶創造多少價值。
DevOps在幾年前出現，是「開發」、「測試」、「維運」三者的結合，旨在縮短軟體開發周期，確保高品質的軟體產出。而與軟體工程相比，AI或ML（Machine Learning，機器學習）的產業成熟程度要低得多，根據調查，高達87%的ML專案還未能投入生產就宣告失敗。
然而，最近我們開始看到MLOps或AIOps的出現，這代表著AI／ML從學術研究轉為實際產品的重要轉變。
這樣的改變需要更多心態調整：不是只看最先端的ML研究，同時也專注於品質管理和軟體工程。並不是說我們不能兩者兼顧，而是到目前為止，多數公司往往專注於前者，而忽略對開發實用產品可能更重要的後者。
推薦閱讀：在現實世界拓展機器學習應用的三種方法
2. 重新設計「錯誤處理」與「用戶體驗」
無人駕駛公司Starsky最近宣布解散的新聞提醒我們，離Level 5完全自主的自動化解決方案還有一段距離。這不代表著AI機器人不能給人類帶來價值，正如我在前一篇文章中提到，即使人類仍需要處理15%的突發狀況，公司依然可以降低大量的勞動力和整合成本。
然而，目前許多AI公司專注於開發自動系統，而忽略短期之內人類與機器「需要共處」的事實。 在未來，必須徹底思考如交接任務，溝通錯誤訊息等實際需求，才能讓人和機器之間的互動交接可以更順利。
尤其是AI產品，因為相較一般軟體產品有更高的不確定性，演算法又缺乏透明度，因此更需要重新思考「用戶體驗」。 例如，是否可以透過顯示模型預測的信心水準，或是將預測定位為建議而不是最終決策，來近一步獲得使用者的信任？
同時我們也需要 「將錯誤分級」，設計相應的應對機制，優先減少致命錯誤。 並確保，如果發生重大錯誤，並且機器停止工作，我們能否快速回應並遠端排除故障？
其中最困難的部分，是識別未知的錯誤，也就是系統無法檢測到的錯誤。因此，進行雙向溝通，允許用戶回報錯誤，或選擇回覆先前的設定也至關重要。
3. 重新定義「人機互動」
新冠病毒疫情迫使更多公司，更快地採用自動化，並轉向雲端解決方案。未來遠端工程師，每人需要操作的機器人將會越來越多。
從一人控制五個保全機器人，轉為一人控制十台機器人時，我們是否擁有正確的工具和感知技術，能夠即時將所有相關信息傳遞給決策者？每個機器人上是否有足夠的感測器來提供完整的圖像？
今天，我們多數依靠觸覺輸入，例如計算機或平板電腦來控制機器。但未來，資訊量飆升，回應時間縮短的狀況下，我們是否應該重新考慮觸覺以外的人機介面？例如語音、VR／AR或甚至腦機介面？
我們還需要決定誰應該有最終決策權。隨著機器變得越來越智能，人類是否應該總是做最終決定？
例如，誰應該控制無人車？汽車本身？人類安全司機？遠程監控的作業人員？還是乘客本身？在什麼情況下又有什麼不同？還是應該由人類和機器共同做出加權判斷？道德含義是什麼？介面能否支援多步驟共同決策？
最終的問題是，
我們如何設計「以人為本」的AI，確保自動化機器使我們的生活更美好，而不是更糟？我們如何建立一個人類與機器的混合團隊，達成更好的成果，並且讓人類和機器相互學習？
我們仍有很多問題需要回答。當前的疫情正迫使我們加速面對這些問題。如果這些AI公司能夠專注於上面概述的三個領域，我們將能夠更好，更快地得出關鍵結論，確保我們朝著正確的自動化方向前進。
（本文由Bastiane Huang授權轉載自其Medium）
責任編輯：陳建鈞
《數位時代》長期徵稿，針對時事科技議題，需要您的獨特觀點，歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw，文長至少800字，請附上個人100字內簡介，文章若採用將經編輯潤飾，如需改標會與您討論。
（觀點文章呈現多元意見，不代表《數位時代》的立場
