一家金融客户要求 AI 生成的每条建议都能审计和复盘,你会把哪些能力写进产品方案?
考察说明
考查受监管场景的可审计产品设计。
回答思路
- 先与客户确认建议的使用决策、责任主体和适用规则,明确产品是辅助材料还是会直接影响客户权益。
- 每次输出关联当时的用户、模型、提示、知识版本、工具结果和关键参数,使后续能够还原而非只保存最终文字。
- 回答附带实际支持结论的资料和生效时间,资料冲突、过期或缺失时应拒绝生成确定性建议。
- 高风险建议经过具备权限的人员审批,审批、修改和最终执行分别记录,模型不能替代业务责任人签字。
- 审计日志采用最小权限、不可随意修改和明确保留期限,同时对客户隐私数据做加密、脱敏和访问记录。
- 通过历史案例回放、越权测试和事故演练验证链路完整性,确认暂停模型后业务仍有可控的人工替代流程。