AI 代码生产部署安全 Checklist，覆盖代码审核、权限控制、备份策略、应急响应及AI特有风险防控全流程，风险可控。
AI 代码生产部署安全 Checklist 🛡️
使用说明：
- 每次部署前逐项核对，确保所有方框均已勾选；
- 月度审查Checklist执行情况，每季度更新流程；
- 零容忍项（如人工双审核、生产备份验证）未完成则禁止发布。
一、代码审核与质量控制
- 生成控制
禁止 AI 直接生成 DROP/DELETE/TRUNCATE/rm -rf 等高危命令，仅允许填充预设代码模板
所有 AI 代码强制添加环境判断逻辑（如
if (env == 'prod') abort()）
- 技术检测
- 用 SAST（SonarQube）/DAST 工具扫描代码漏洞（SQL 注入 / XSS / 逻辑错误），高危漏洞归零
- 用 Snyk/OWASP Dependency-Check 检测第三方依赖（npm/pip 包），禁用未知来源依赖
- 代码在隔离沙箱测试，执行前预估影响行数，差异超阈值（如 10%）自动终止
AI代码来源审计
- 记录AI生成代码的提示词、模型版本、生成时间，便于追溯；
- 禁止直接复制AI输出到生产环境，必须经人工改写和重构。
静态与动态检测
- 使用SAST/DAST工具扫描高危操作（如
DROP TABLE、rm -rf、exec）； - 对数据库操作代码重点审查，确保无无
WHERE条件的DELETE/UPDATE； - 运行单元测试和集成测试，覆盖关键路径及异常场景。
- 使用SAST/DAST工具扫描高危操作（如
人工评审机制
建立双人审核制度（至少 1 名资深工程师），审核记录含 “人 - 时间 - 结论”
评审重点：业务逻辑正确性、安全边界、权限控制、数据完整性。
审核重点：数据库操作有 WHERE 条件、文件操作限安全目录、循环有次数上限、权限提升有合理依据
模型安全审查
- 验证 AI 代码与业务逻辑一致性，无 “算法偏见”（如歧视性逻辑）
- 在 Coze 对话流添加语义检测模块，拦截钓鱼式提示词等恶意输入
重点1：AI代码生成控制
- 风险关键词过滤：自动拦截AI生成的包含高危命令的代码（如
DROP、DELETE without WHERE、rm -rf、format、exec等）。 - 代码模板约束：AI只能生成填充预设安全模板的代码片段，禁止输出完整高危操作。
- 环境标识注入：所有AI生成代码必须自动包含环境判断逻辑（如
if (isProduction()) throw Error("禁止在生产环境执行")）。 - 来源可追溯：记录生成代码的AI模型版本、提示词、生成时间及操作人。
**重点2：人工审核流程 **
- 双人独立复核：AI生成代码需由两名经验不同的工程师独立审核，交叉验证。
- 审核清单：
- 数据库操作是否有安全的WHERE条件与行数限制？
- 文件/网络操作是否限制在安全范围内？
- 循环或批量操作是否有明确的上限与中断机制？
- 是否包含不必要的权限申请或敏感信息？
- 审核记录留存：记录审核人、时间、结论及修改意见，存档至审计系统。
二、权限控制与环境隔离
- 最小权限原则
- 数据库账号仅授予必要权限（如
SELECT/INSERT）
- 数据库账号仅授予必要权限（如
)
)
)