先訂明 AI 可以分派甚麼

今次試驗要決定的是:系統可否在調度員未看過原文之前,把報修單送入指定工種的工作隊列。這項權限不包括派技工出發、承諾到場時間或結案。建議先只開放資料完整、已通過測試的日常類別;內容含糊或可能緊急的個案,一律由人接手。即使模型分數很高,也不能越過這條界線。

錯派工種的代價並不一樣。櫃門鉸鬆脫被送錯隊列,主要增加轉單工夫;若住戶提到電力設備旁有水,卻被當作普通水喉維修,便可能延誤需要優先處理的評估。另一方面,把普通個案送去即時覆核,也會佔用當值人手。營運主管應先列出不可接受的漏判,以及可循一般轉單程序更正的錯誤,才討論門檻高低。

試驗隊列建議;以下訊息均為示例
日常候選個案8B 廚房櫃門鉸鬆咗,門仲閂到。只限已批准的木工類別,並須通過必填資料及已測試的分數門檻。
資料不清樓下又漏,麻煩整整。調度員先問清位置、漏水來源及現況,再決定工種。
可能緊急電箱旁邊有水滲出嚟。不論分數,均按現有緊急處理程序盡快交由當值人員評估。
下載 CSV

示例用於訂明分派方式,並非完整危險辨識清單或維修技術指引。

用真實雙語訊息建立答案基準

抽取獲准使用的過往報修紀錄,刪去測試不需要的個人資料。樣本要保留香港實際用語,例如中英夾雜、簡寫、漏寫座數,以及同一訊息提到幾項故障的情況。有些人只寫「仲係咁」,便需連同必要的上文一起判斷。每則樣本標明應入隊列、已知工種、是否須優先人手評估及欠缺甚麼資料。如兩位同事判斷不同,應由熟悉調度的負責人釐清分類準則,不能把內部尚未解決的分歧交給模型裁決。

調整規則及門檻時用一組樣本,最後驗收則用另一組未曾參與調整的訊息。同一事故的追問或近乎重複的報修,不應分散到兩組,否則結果容易過於樂觀。另外可設難題,例如先談櫃門維修,最後才提到異常漏水。這些刻意加入的個案要另行記錄;它們有助找漏洞,卻不能用來推算日常報修中緊急事件的比例。

比較整套分派規則,而非只看分數

Microsoft 的分類文件指出,門檻須以接近實際運作的資料評估,類別樣本及語言差異亦會影響表現。信心分數不能保證分類正確。維修公司的試驗可用同一批已標註訊息,比較全部人手分派、只為少量日常類別設定固定規則,以及加入覆核條件的 AI 分派。每個方案都要記下處理時間與錯誤,避免只見自動入隊的數量,卻看不到同事追查錯單所花的時間。

先在調整用樣本中,為每個日常類別試幾個分數門檻。每輪必須保留相同的優先條件:可能緊急、缺少關鍵資料、要求互相衝突,或不屬已批准類別,全部轉人手。若所謂信心分數只是模型在回答中自行填寫的數字,便不能直接視為經驗證的分類器評分;應先維持建議模式,查明分數與錯派是否有穩定關係。完成調整後鎖定規則,再做保留樣本驗收。

  • 自動錯派:錯誤工種個案數除以全部自動分派個案數,並按類別及語言列出原始數量。
  • 漏判緊急:已標為可能緊急、卻未進入及時人手覆核的個案數,除以全部已標為可能緊急的個案數。
  • 覆核負荷:待處理數量、最久等候個案及實際處理時間;沒有測試資料的組別須明示未經測試。

把預期隊列與實際去向交叉列表,特別找出被送入日常隊列的可能緊急個案,逐則返回原文追查。若問題出在緊急線索根本沒有被辨識,提高日常類別的門檻未必能解決。某種語言或工種樣本不足,就先保留人手覆核。小規模測試未發現漏判,可作下一步討論的依據,但不能據此認定日後不會出錯。

有人接手,覆核隊列才有作用

每個服務時段都要有當值調度員及後備人選。按照公司現行程序訂明可能緊急及資料不清個案的確認時限、非辦公時間由誰接手,以及積壓時如何加派人手。覆核畫面應保留原文、建議去向、轉人手原因及收件時間。模型失效或沒有分數時,個案仍須進入有人負責的人工隊列。系統顯示已送出,並不代表接收人已確認;交更時也要核對未接手個案。

先以影子模式運行:真實報修照常由調度員分派,系統只記錄自己原本會怎樣處理。開放任何自動分派前,營運主管須一併檢視漏判、錯派工種及實際等候情況。啟用後亦要抽查已自動分派的日常個案;一旦出現漏判緊急或積壓無法處理,先暫停受影響路線,查明原因再測試。現在可做的下一步,是約調度員開一次工作會議,訂好隊列定義、當值責任及標註樣本,然後才選門檻。

延伸閱讀:規劃 AI 應用的任務、資料與評估用 AI 準備度評估檢查這項試驗的基礎

進行前先確認

  • 只批准有雙語測試依據的指定日常類別自動分派。
  • 可能緊急及資料含糊的個案,不能因分數達標而跳過覆核。
  • 啟用路線前,指定調度員、後備人選及升級處理安排。
  • 擴大試驗前,檢視緊急漏判及隊列延誤。

資料來源及延伸閱讀