人資導入 AI 履歷篩選前，該怎麼設計偏誤檢測與申訴機制
AI 履歷篩選牽動個資風險與高風險 AI 法遵責任。本文整理資料流向盤點、分群通過率的 POC 設計，以及該在選型階段就納入評分的申訴機制。
一間中型科技公司的人資主管，桌上放著兩份提案。今年招募季一到，每個職缺平均收到三、四百份履歷，光是初篩就佔掉團隊近一半的工時。兩家 AI 履歷篩選廠商都拍胸脯保證「準確率九成以上」、「兩週內就能上線」，其中一家的業務甚至直接說「我們的客戶都省下七成篩選時間」。主管心動，但也猶豫：履歷裡有應徵者的姓名、學經歷、甚至病史或家庭狀況這類敏感個資，一旦出了差錯，責任算誰的？
這樣的猶豫並非多慮。今年以來，104 人力銀行已公開示警，企業若讓應徵者履歷被雲端 AI 工具用於模型訓練，可能構成個資「特定目的外利用」，最高恐面臨新台幣一千五百萬元罰鍰；而《人工智慧基本法》三讀後，招募決策更被列為「高風險 AI 應用」，要求企業必須保留人為監督、確保決策透明可解釋。換句話說，這已經不是「要不要用」的問題，而是「怎麼用才不會踩線」的問題。上一階段我們談過幾個導入 AI 招募系統後踩雷的案例，核心問題往往不是模型不準，而是企業在簽約前根本沒問清楚該問的問題。這篇要談的，就是導入前該建立的評估框架。
先確認三件事：資料流向、決策範圍、誰負最終責任
在跟任何廠商深入對話之前，人資部門自己要先釐清三個前提。第一是資料流向：履歷上傳後會不會被拿去訓練模型、儲存在哪個地區的伺服器、多久之後刪除。第二是決策範圍：這套系統只是做初步排序，還是會直接刷掉候選人、不進入人工複核。第三是責任歸屬：如果因為系統誤判而錯失適合的人選，甚至引發歧視申訴，法律責任是算在企業身上還是廠商身上。
這三件事沒問清楚就簽約，等於把法遵風險外包給一套黑盒子。尤其台灣現行法規已明確要求「AI 不能是最終決策者」，如果廠商的系統設計是全自動刷履歷、沒有留人工複核的接口，這本身就是一個危險訊號，不管準確率宣稱多高，都不該考慮。
POC 該怎麼設計才看得出偏誤，不是只看準確率
多數廠商的 POC（概念驗證）流程，會用企業過去半年到一年的歷史履歷資料跑一輪，然後秀出「篩選結果跟人資判斷的吻合率」。這個數字看起來漂亮，但吻合率高只代表系統學會了「複製過去的偏好」，不代表沒有偏誤——如果過去的錄取名單本身就存在性別、學校、年齡的隱性偏好，系統只是把這個偏誤學得更精準而已。國外已有電商巨頭因訓練資料偏差，導致系統對含有「女性」相關詞彙的履歷自動扣分的真實案例。
因此，試用期的驗收標準不能只看吻合率，至少要加入兩項檢測：一是拆分不同群體（性別、年齡層、畢業校系類型）分別計算通過率，看是否有系統性落差；二是找幾份人資認為明顯合格、但條件在履歷關鍵字上不典型的履歷（例如轉職背景、非本科系）放進去測試，觀察系統會不會誤刷。試用期建議至少跑兩個職缺、兩個月以上，單一職缺、兩週測試期得出的結論通常不具參考價值。
該問廠商的關鍵問題，以及廠商的話術要聽懂
下面整理幾個一定要問、以及常見的模糊回答對照：
| 該問的關鍵問題 | 廠商常見的模糊話術 | 該提高警覺的訊號 |
|---|---|---|
| 系統的篩選邏輯能否用白話解釋每一筆判斷的依據 | 「我們的模型很複雜，很難逐一解釋」 | 講不出決策依據，等同無法符合高風險 AI 的透明度要求 |
| 候選人資料是否用於模型訓練、能否選擇退出 | 「業界都這樣做，不會有問題」 | 迴避具體條款，沒有書面承諾 |
| 是否保留人工複核與候選人申訴的介面 | 「系統準確率很高，複核只是形式」 | 把人工監督當成裝飾，而非真正的把關機制 |
| 試用期內能否提供分群通過率數據 | 「這需要額外客製，之後再看看」 | 代表廠商自己可能也沒做過偏誤檢測 |
| 出現誤判或歧視爭議時，責任如何界定 | 「合約會有相關條款，細節之後再談」 | 責任歸屬模糊，等於企業獨自承擔法律風險 |
如果廠商對前兩三個問題都能具體回答、甚至主動提供過往客戶的分群測試報告，這是可以往下談的正向訊號；反之，如果每個問題都用「我們技術很成熟」帶過，且拒絕提供任何可驗證的數據，這套系統再便宜也不該急著簽。
申訴機制不是選配，是導入前就要設計好的必要件
很多企業會把「申訴機制」當成上線後才補的東西，但這其實應該是選型階段就納入評分的項目。具體來說，要確認候選人被系統排除後，是否有管道要求人工複查、企業內部是否有指定窗口處理這類申訴、以及申訴紀錄要如何留存以備查核。這部分做得完整的廠商，通常也代表他們對整套系統的風險意識比較成熟，值得在評分上加分。
對正在評估的人資主管來說，導入前最後該確認的，其實只有一句話能不能問心無愧地回答：如果今天被系統刷掉的是自己，能不能接受這套邏輯、也知道去哪裡申訴。答得出來，才代表這套系統真的準備好了。
