企业让 AIGC 接入内部资料,往往是为了让回答更贴近业务。但同一份资料既可能提高生成质量,也可能包含客户隐私、商业秘密或受限信息。AIGC 落地绕不开数据安全,因为业务价值与安全风险往往来自同一条数据链路。关键不是模型能否生成内容,而是它可以使用什么数据、为谁生成、结果可以流向哪里。
风险不只发生在训练阶段
数据安全不能简化为“资料是否用于训练”。输入内容、检索资料、会话记录、运行日志和生成结果,都需要纳入管理。即使不参与训练,敏感内容仍可能因留存、访问权限或输出范围设置不当而暴露。
更容易被忽略的是权限边界。用户有权向系统提问,不代表有权读取全部内部资料。如果检索环节没有沿用业务系统的访问限制,生成环节就可能把原本隔离的信息重新组织成答案。因此,权限控制必须发生在资料获取之前,不能只依赖生成后的敏感词过滤。
安全决定系统能被授予多大权限
AIGC 的业务价值通常需要上下文支持,但接入更多数据并不必然带来更好效果,也会扩大需要保护的范围。合理做法是围绕具体任务确定最小必要数据:能够用摘要完成的,不提交完整记录;无需身份信息的,先去标识化。同时,去标识化不等于绝对匿名,还应考虑信息组合后的识别风险。
落地评估应先回答几个问题:数据是否获准用于该任务,哪些角色可以访问,内容会在哪里处理和留存,输出是否需要复核,出现异常后能否追溯并停止访问。这些不是上线后的附加检查,而是接入方案本身的组成部分。
仅强调“不泄露”仍不够。被篡改或夹带误导性指令的资料,也可能影响生成结果,因而数据来源、完整性和可信程度同样需要管理。真正可用的 AIGC,不是毫无限制地读取企业知识,而是在明确边界内使用可信数据,并让每一次调用都有据可查。
评论列表 (9条):
加载更多评论 読み込み中...