先追查編號在哪一步出錯
櫃枱同事輸入完整軸承編號,助手卻推薦同系列的另一款,問題未必出在回答模型。先保留原始查詢、搜尋結果的次序,以及最後交給模型的資料段落。正確紀錄根本沒有被送入回答步驟,便要先修正搜尋;若資料齊全而回答仍選錯,才追查模型如何採用證據。把兩種失誤混在一起,只會令團隊改了設定卻不知道改對了甚麼。
Anthropic 的 Contextual Retrieval 文章指出,語意向量搜尋可能漏掉精確識別碼,BM25 這類字詞搜尋可補足這方面;文件切成小段後,也可能失去必要背景。這些技術觀察值得用來設計測試,但不能據此宣稱某家零件公司的搜尋一定會改善。
來源:Anthropic 對識別碼配對及資料分段背景的說明搜尋前也要檢查目錄匯入是否可靠。PDF 擷取有沒有把數字 0 當成英文字母 O?表格拆段後,尺寸或密封規格是否仍對應正確的一行?舊版與新版目錄又有沒有被混為一談?每個編號都應連同供應商、變體規格、版本及原文位置保存。若不同供應商使用相同編號,只找到相同字串仍不足以確認零件。
用已核對的樣本定義甚麼才算找對
由目錄負責人與熟悉接單的同事一起標註樣本,答案不要交給助手自行判斷。起步可試三十條查詢,涵蓋完整編號、同事慣用簡寫及功能描述;這只是方便執行的試驗規模,並非已取得的成績,也不代表統計保證。特別加入繁體中文夾英文編號、相近尾碼、目錄沒有的編號和停用款式。逐條記下可接受的紀錄、證據位置,以及應否追問,並預留部分題目在調整完成後才使用。
| 完整編號 | 幫我查 A 供應商的 PX-204-2RS。 | 列出該供應商的精確紀錄及來源;PX-204-ZZ 不算答對。 |
|---|---|---|
| 簡寫 | PX204 有邊款? | 列出已標註的不同款式,追問尾碼,不可自行選定。 |
| 描述 | 輸送帶用的密封軸承,未有尺寸。 | 先找相關系列資料,再問尺寸,暫不指定零件編號。 |
| 不存在的編號 | 查 PX-999-X;測試目錄沒有此編號。 | 說明未找到可核實的配對,請同事確認編號或供應商。 |
以上只是虛構測試輸入,不代表實際產品規格或兼容性建議。
比較三條搜尋路徑
先保留現有語意搜尋作基準,再試加入獨立的完整編號欄位查找;沒有可核實的精確紀錄時,才轉回原有搜尋。別名及慣用簡寫另設對照,保留原始編號供核對。連字號、大小寫和尾碼能否省略,要按目錄規則決定,不能一律清除。尤其是省略尾碼後同時對應多款零件,系統應展示候選並追問,而不是把簡寫當成唯一答案。
第三個方案才是混合搜尋:同時執行字詞與語意搜尋,合併排名並移除重複紀錄。三個方案要使用同一份目錄快照、相同的最終段落數量、回答模型及提示詞。若發現表格分段有問題,先統一修正再比較,避免把資料清理的效果誤算成混合搜尋的成果。另要實際查看索引如何切分帶連字號的編號和中文字詞;BM25 的排名並不等同資料庫欄位的完全相等查找。
評分時先看送入模型的段落,再看答案。按查詢類型分別記錄:正確紀錄是否排第一、是否出現在限定段落內、最後有沒有選錯變體,以及資料不足時是否按預期追問。報告應保留每組題目總數,也記下回應時間與同事核對所花的工夫。即使整體分數提高,只要完整編號仍會配錯,接單同事最在意的問題就尚未解決。
讓負責人判斷額外維護是否值得
試驗前由目錄負責人訂下驗收條件。例如,本次完整編號樣本不接受錯配變體,而有歧義的題目必須適當追問;小樣本過關仍不代表日後不會出錯。再按櫃枱工作節奏訂回應時間上限,以及可負擔的維護投入。混合搜尋多了一套索引、排名設定和目錄更新檢查,只有在預留題目上仍有實際幫助,才值得承擔這些工夫。
如果完整編號查找已解決錯配,而描述式搜尋仍然好用,就可採用較簡單的方案。若問題全由目錄匯入引起,先修資料便有理由維持現有架構。混合搜尋則要證明能多解決一些已標註失誤,而且沒有帶來不能接受的倒退或維護負擔。正確段落已在眼前、助手卻選錯零件的個案,應另行處理回答選擇問題,不能靠不斷加入搜尋結果掩蓋。
下一步可安排目錄負責人與一位接單同事共同整理樣本、核對標準答案,並保存現有助手的搜尋紀錄。下列 AI 應用規劃指南可協助把測試結果寫成範圍清楚的改動要求。需要外部實作支援時,也應帶同這些證據討論,讓整合工作從已確認的搜尋問題開始。
延伸閱讀:在香港規劃 AI 應用程式實作服務範圍:AI 代理及大型語言模型整合進行前先確認
- 按固定目錄版本,標註完整編號、簡寫及描述式查詢的預期結果。
- 檢查實際送入模型的段落,分開記錄搜尋遺漏與回答選錯。
- 以相同輸入比較基準、完整編號查找及混合搜尋,並使用預留題目驗證。
- 由目錄負責人按錯配、追問表現、回應時間及維護投入作決定。



