作業、驗收與回饋循環
每位學員交什麼
Section titled “每位學員交什麼”- 自己的身分/角色與授權範圍說明,不含 Token。
- 三個自然語言問題、實際工具參數、SQL、結果與 request ID。
- 至少一個被拒絕的越權操作及後端證據。
- 正常查詢與 SQL 錯誤後的撤銷驗證。
- 一項改善提案:正確性、授權、效率或使用體驗。
| 面向 | 0 分 | 1 分 | 2 分 |
|---|---|---|---|
| 業務正確性 | 定義錯/重複加總 | 結果對但限制不清 | 語意、單位、時間與 SQL 都可核對 |
| 權限 | 使用管理員查詢 | 只驗成功案例 | 真正業務身分,正反案例都通過 |
| 秘密生命週期 | 洩漏或不撤銷 | 只驗正常清理 | 正常、錯誤、到期與舊登入都測 |
| 回答品質 | 編造或把一頁當全部 | 有資料但缺來源 | 列出條件、分頁與 request ID |
| 效率 | 無限制 | 有上限但無觀察 | 逾時/併發/查詢計畫有依據 |
用戶 rating 如何改善系統
Section titled “用戶 rating 如何改善系統”使用者提問 → 真實工具查詢 → 答案與 request ID→ rating + 錯誤原因 → 人工去識別與分類→ 新增固定測試案例 → 修正定義/工具/提示/索引→ 執行正反案例 → 審核發布 → 比較下一版評分建議保存:request ID、問題的去識別版本、工具/語意版本、rating、錯誤類型、期望答案與人工審核狀態。不要存密碼、完整 Token 或不必要個資。
本版尚未實作評分收集 API 或自動訓練。 可以先使用課堂作業表;rating 不會自動改動權限、SQL 或模型。低分也可能來自正確的權限拒絕,不能為了提升滿意度就放寬資料範圍。
建議的固定題庫
Section titled “建議的固定題庫”- 一般逾期訂單、完全出貨、部分出貨、取消單。
- 無資料、同日到期、截止日後出貨、日期反轉。
- 第一頁/第二頁不重複、排序同值時順序穩定。
- 不同市場、薪資、無授權角色、偽造身分。
- SQL 錯誤、OpenBao sealed、到期與清理失敗。
每次改規則都跑同一組題庫,才知道改善了什麼、是否傷到既有行為。