钧衡 WAN.NOW / 合规问答 / 影子 AI
// SHADOW AI什么是影子 AI?企业的敞口、风险与自查方法
定义
影子 AI(Shadow AI) = 员工未经企业批准、IT 无法见到地使用外部 AI 工具(如个人账号的 ChatGPT、各类 AI 助手、浏览器插件)。它把客户数据、源码、合同、内部文档带出企业可见范围,是当前最大的 AI 合规与数据安全敞口之一。
常见问题
1. 影子 AI 有哪些典型风险?
- 数据泄露:员工把客户名单、合同、简历、客服记录、源码、密钥粘贴进外部 AI;
- 合规留痕缺口:这类对外提供 / 出境行为无台账、无记录,审计与个人信息保护影响评估都拿不出证据;
- 成本失控:谁在用、用了多少、烧了多少 token 完全说不清;
- 责任不清:一旦发生泄露,无法定位是谁、在何时、通过哪个工具外泄。
2. 怎么自查公司有没有影子 AI 敞口?
不需要先上系统。可以先解析企业出口防火墙 / 代理 / 上网行为管理(SWG)的元数据日志,统计流向外部 AI 域名(如 openai.com、anthropic.com、googleapis 等)的请求:多少人、多少次、是否命中疑似敏感(用身份证 / 银行卡 / 统一社会信用代码的校验位做粗筛)。
这样只读元数据、不碰内容明文,就能得到第一张「敞口画像」——往往一跑就出乎意料。关键红线:自查只统计元数据,绝不上传或留存内容明文,否则自查行为本身就可能违反个保法。
3. 钧衡怎么解决影子 AI?
诚实区分两件事:
- 受控通道(已建成 · LIVE):员工经统一入口调用外部 AI 时,钧衡对其做见证 / 存证 / 公证——全量留痕、防篡改链、外部公证锚,且内容不出域。这是「已经能管住」的部分。
- 影子 AI 发现接入(在建 · SOON):从 SWG / 出口日志侧自动发现未走受控通道的影子流量,是路线图上的能力,我们诚实标注为在建,绝不当成品卖。
落地路径通常是:先用上面的元数据自查看清敞口,再把外部 AI 调用收口到受控通道,让能管的先管起来。
△自查红线:任何影子 AI 自查只读出口日志的元数据(域名、次数、时间、归因),绝不解析或上传内容明文;面向员工应做告知,避免被读作「监控员工」——目标是企业数据防泄漏与合规留痕,不是窥探个人。