我的網誌
複雜任務仍需人工審核，專家點出AI盲點
下次當您強大的AI助理試圖打電話協商有線電視帳單時，與客服人員討價還價的可能是一個真實的人類，而不是軟體程式。這是因為由Meta(META)和OpenAI等公司開發的最先進基礎模型所驅動的AI代理，目前仍無法在網路上穩定地執行跨平台操作，尤其是涉及電話撥打的任務。
現任AI代理新創公司Dazzle AI執行長的前Yahoo執行長梅爾表示，目前頂級的AI模型非常擅長為消費者提供線上的房屋修繕服務選項，但如果需要實際預約和安排屋頂升級工程，它們可能就會搞砸。梅爾在說明Dazzle如何將特定任務轉交給人類承包商時強調，雖然企業依賴這些前緣模型提供良好的建議和候選名單，但仍必須由人工進行複查，以確保真正提供的是有品質保證的服務。
缺乏常識成致命傷，AI助理常犯低級錯誤
人工智慧驅動的數位助理目前正重新獲得市場關注，這要歸功於Meta(META)、OpenAI等公司將這項技術宣傳為能夠執行如在網路上尋找鞋子等日常任務。Meta(META)的Muse、OpenAI的Dots以及其他眾多AI代理確實可以完成許多網頁瀏覽的壯舉，但這項技術仍處於早期階段，且經常遇到數位運作上的障礙。
梅爾指出，AI模型目前仍缺乏現實世界的常識。她舉例，一位Dazzle AI的超級用戶曾試圖讓該技術同時處理一系列的房屋修繕專案，包括更換屋頂、修復破窗以及購買玻璃桌面。但AI助理卻將窗戶玻璃與桌面玻璃混淆，導致數位助理試圖弄清楚是否能把桌面塞進窗戶裡。這場鬧劇並未持續太久，因為Dazzle的技術標記了這項異常任務，並將其外包給真人來完成。梅爾表示，人類在幾秒鐘內就解決了問題，如果換作是AI代理，不僅會消耗掉大量的運算資源，甚至可能永遠找不到好的解決方案。
導入真人接手，新創打造AI界Uber(UBER)
數位代理新創公司Duckbill執行長喬伊斯表示，這些技術障礙通常涉及需要AI代理打電話、代為預約醫生，或是向當地清潔公司預約清理沙發等實體任務。對於需要現實世界判斷力的決策，真人目前仍勝過AI，因此開發消費級數位助理的公司將需要導入真人來接手處理。
這正是為何Duckbill近期推出了一個應用程式介面，專供開發個人AI助理的公司與人類外包工作者建立連結。喬伊斯提到，他們運作的模式與Uber(UBER)並無二致，將任務分解成極小的單位。開發AI代理的公司可以使用Duckbill的應用程式介面，將AI容易搞砸的任務委派出去，再由一般成年人穩定且可靠地完成。另一家個人AI代理新創公司Wajo AI的執行長波達爾也正將人類員工納入處理電話，甚至是為了防範機器人而設計的網站驗證碼測試。波達爾強調，要真正完成工作並留住用戶，目前絕對需要AI與人類的協同合作。
隱私疑慮與背景審查，人類介入的資安挑戰
聊天機器人和AI代理的互動可能極具私密性，用戶有充分的理由對人類介入感到擔憂，特別是在公司未明確告知運作方式的情況下。Meta(META)的員工先前就曾針對公司內部測試由人類承包商代為處理Muse AI代理的電話任務提出隱私疑慮。Meta(META)當時發布聲明表示，這類測試是產品開發過程的核心，且目前並未在一般用戶的Muse請求中使用人類來完成任務。
針對資安與隱私，Duckbill的喬伊斯表示，公司會對其使用的外包人員進行全面的背景審查，並將他們比作Uber(UBER)和DoorDash(DASH)的司機，都是為了尋求合法額外收入來源的人。梅爾也指出，Dazzle會進行嚴格的背景審查，尋找具備謹慎、品味與判斷力等特質的承包商。她認為，儘管基礎模型仍在持續進步，但在技術能夠像人類一樣高效地執行複雜網頁任務和電話撥打之前，市場正處於一個過渡期，且在現階段，有人類參與其中反而是一項優勢。
