跳到內容

作業、驗收與回饋循環

  1. 自己的身分/角色與授權範圍說明,不含 Token。
  2. 三個自然語言問題、實際工具參數、SQL、結果與 request ID。
  3. 至少一個被拒絕的越權操作及後端證據。
  4. 正常查詢與 SQL 錯誤後的撤銷驗證。
  5. 一項改善提案:正確性、授權、效率或使用體驗。
面向 0 分 1 分 2 分
業務正確性 定義錯/重複加總 結果對但限制不清 語意、單位、時間與 SQL 都可核對
權限 使用管理員查詢 只驗成功案例 真正業務身分,正反案例都通過
秘密生命週期 洩漏或不撤銷 只驗正常清理 正常、錯誤、到期與舊登入都測
回答品質 編造或把一頁當全部 有資料但缺來源 列出條件、分頁與 request ID
效率 無限制 有上限但無觀察 逾時/併發/查詢計畫有依據
使用者提問 → 真實工具查詢 → 答案與 request ID
→ rating + 錯誤原因 → 人工去識別與分類
→ 新增固定測試案例 → 修正定義/工具/提示/索引
→ 執行正反案例 → 審核發布 → 比較下一版評分

建議保存:request ID、問題的去識別版本、工具/語意版本、rating、錯誤類型、期望答案與人工審核狀態。不要存密碼、完整 Token 或不必要個資。

本版尚未實作評分收集 API 或自動訓練。 可以先使用課堂作業表;rating 不會自動改動權限、SQL 或模型。低分也可能來自正確的權限拒絕,不能為了提升滿意度就放寬資料範圍。

  • 一般逾期訂單、完全出貨、部分出貨、取消單。
  • 無資料、同日到期、截止日後出貨、日期反轉。
  • 第一頁/第二頁不重複、排序同值時順序穩定。
  • 不同市場、薪資、無授權角色、偽造身分。
  • SQL 錯誤、OpenBao sealed、到期與清理失敗。

每次改規則都跑同一組題庫,才知道改善了什麼、是否傷到既有行為。