AI 应用需要可追溯。日志审计用于回答谁在什么时候用 AI 做了什么、访问了哪些资料、调用了哪些工具、输出了什么结果。

1. 审计目标

事前：控制权限和策略
事中：记录请求和动作
事后：排查问题和追责

没有审计，AI 系统出现数据泄露、错误执行或违规输出时很难定位。

2. 审计内容

内容	示例
用户身份	user_id、tenant_id、role
请求信息	时间、场景、输入摘要
数据访问	命中文档、查询数据
模型调用	模型、Prompt 版本、Token
工具调用	工具名、参数摘要、结果
安全策略	审核结果、拦截原因
输出结果	输出摘要、引用
人工确认	审批人、审批时间

3. 隐私保护

审计不等于无限保存明文。

建议：

• 对敏感字段脱敏。
• 原文加密保存。
• 限制审计日志访问权限。
• 设置保留周期。
• 重要操作记录不可篡改日志。

4. 合规关注点

关注点	说明
数据来源	是否有权使用
数据出域	是否发送给外部模型
用户授权	是否告知和获得授权
最小化	是否只使用必要数据
可删除	用户数据能否删除
可追溯	是否能还原决策链路

不同地区和行业要求不同，具体合规策略要结合法务和安全团队。

5. 审计查询示例

常见问题：

• 某个用户最近调用了哪些 AI 功能？
• 某个回答引用了哪些文档？
• 某次工具调用是否经过确认？
• 某类敏感信息是否被发送给外部模型？
• 某个模型版本上线后错误率是否上升？

6. 常见坑

问题	后果
不记录 Prompt 版本	无法复现问题
不记录检索结果	RAG 答错无法归因
日志明文保存敏感数据	二次泄露
无访问审计	内部滥用难发现
审计和业务链路断开	无法关联具体事件

7. Tips 快问快答

Q：审计日志要保存多久？

A：取决于业务、行业和法规要求。应设定明确保留周期，而不是永久保存所有明文。

Q：AI 输出要完整保存吗？

A：调试和审计有价值，但要做脱敏、加密、权限控制和保留周期管理。

Q：为什么要记录 Prompt 版本？

A：因为同一个输入在不同 Prompt 下可能得到不同结果。没有版本就无法复现和回滚。