欢迎访问上邦|专注企业 AI 数字化转型落地 · 咨询热线 400-667-6771
免费咨询
首页 / 资讯中心 / 行业动态 / 文章详情
行业动态

网信办 9 月通报十起案例,企业 AI 触达用户数据的四条合规红线

上邦 AI 工程团队2026-11-06阅读 约 8 分钟
2026 年 9 月 15 日,国家网信办通报十起网络安全、数据安全与个人信息保护执法典型案例,其中多起直接涉及企业用 AI 或智能化手段处理用户数据。本文提炼出四条企业必须守住的合规红线,并结合具体案例说明踩线的代价与整改动作。
企业只要用 AI 或任何智能化手段触达用户数据,就把'告知同意、最小必要、不出境、生成内容要标识'四件事一起摆上了台面。2026 年 9 月 15 日国家网信办通报的十起案例中,有企业因未告知就收集 5000 余条人脸信息被警告并罚款,有企业因超范围收集且未申报就把数据传输出境被处罚,还有小程序因 AI 生成内容未加标识被直接下线。对中小企业来说,合规改造通常两周到两个月可完成,核心投入是梳理数据流向和补齐标识能力。最该警惕的坑是以为'只在国内、不对公众'就不需要做安全评估与内容标识——本次通报里被下线的正是一个面向 C 端的小程序。

红线一:收集生物识别信息必须先告知并取得单独同意

通报中的重庆某置业有限公司案,该企业在办公场所安装 10 余处图像采集设备,收集、存储客户人脸信息 5000 余条,用于客户身份识别以及与中介机构匹配营销。问题不在于装了摄像头,而在于它未真实、准确、完整地向客户告知收集目的、方式和用途,且在未取得客户单独同意的情况下收集、存储、使用人脸信息,违反《个人信息保护法》《网络数据安全管理条例》。属地网信办责令其改正,予以警告、罚款处罚。
人脸属于敏感个人信息,法律对它的处理设置了比一般个人信息更严的门槛:必须单独同意、必须告知必要性、目的要具体。我们在给企业做合规体检时发现,很多线下门店的客流统计、访客系统默认开启人脸抓拍,但隐私政策里只有一句笼统的'我们可能收集您的图像'——这恰恰踩在红线上。正确做法是把人脸采集做成独立弹窗或独立授权项,让用户能明确说'我同意被采集人脸用于某某目的',并且随时可撤回。

红线二:数据出境必须申报安全评估,超范围收集同样违法

通报中的上海某科技有限公司案,该企业自 2022 年以来通过其 Windows 端应用程序,超范围收集用户主机配置、使用时长、用户系统等信息,并将这些信息与用户注册时填写的姓名、手机号、邮箱、生日、密码一并传输至境外数据中心。它有两个问题叠加:一是超出实现处理目的最小范围收集,二是未依法申报数据出境安全评估就向境外传输个人信息,违反《个人信息保护法》《促进和规范数据跨境流动规定》,被责令改正并罚款。
这条红线对使用海外 SaaS、海外云、或把日志回传到境外总部的企业尤其重要。很多团队误以为'只是设备诊断日志、不含姓名'就安全,但案子里被处罚的恰恰包含主机配置、使用时长这类看似非个人化的字段——一旦与账户信息关联,就构成个人信息出境。我们的建议是:凡是字段能关联到自然人的,一律走数据出境合规流程;拿不准的,默认不出境,在境内完成处理。

红线三:AI 生成合成内容必须显式与隐式双标识

通报中的四川某科技有限公司案,其运营的小程序提供 AI 文本对话、图片生成等服务,但未对生成合成内容添加显式标识,未在文件元数据中加含属性信息、服务提供者名称或编码、内容编号等制作要素信息的隐式标识,未在提供导出功能时添加显式标识,同时未按规定落实安全评估,存在内容安全风险。它违反《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》,被责令下线。
显式标识是用户肉眼可见的'由 AI 生成'水印或提示,隐式标识是藏在文件元数据里的制作要素,二者缺一都会构成违规。对做营销素材、客服机器人、内容生成工具的企业,这条红线是高频雷区。技术上并不难:在生成接口返回内容时同步写入元数据字段即可,但很多团队在'导出''转发'环节把隐式标识丢掉了——案子里被点名的正是导出时未加标识。建议把标识逻辑放在内容落盘的那一刻,而不是依赖前端展示。

红线四:提供生成式 AI 服务须按规定开展安全评估

通报中的江苏某科技股份有限公司案,该企业运营的两个网站以'API 中转站'方式调用多个大模型产品接口,提供对话、问答等服务,但未按规定开展安全评估工作,存在内容安全风险,违反《生成式人工智能服务管理暂行办法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》,被责令改正、从严处理责任人,予以警告处罚。
安全评估不是上线后的可选动作,而是具有舆论属性或社会动员能力的服务上线前的必经环节。很多中小企业以为'我只是套了一层别人的模型、没训练没备案'就无需评估,但'API 中转站'这种形态恰恰是通报明确点名的。我们给客户的底线建议:只要你的产品面向公众提供生成式 AI 服务,无论底层用谁家模型,都要先完成安全评估与备案路径确认,再对外提供服务。

合规改造到底要投入多少

回到企业最关心的成本问题。上述四条红线的整改,绝大多数不需要重建系统,而是'补缺口':把隐私政策里笼统的授权拆成单独同意项、给 AI 生成接口加标识写入、梳理数据流向并补齐出境评估。一个十到五十人规模的团队,这类整改通常两周到两个月可完成,主要成本是法务与研发的协同工时,以及必要的第三方评估费用。真正贵的不是整改本身,而是被通报下线后的业务中断与品牌损失——本次案例里被责令下线的小程序,损失远不止一次警告。
我们也观察到一类常见误区:企业把合规当成'上线前一次性动作',做完安全评估就以为万事大吉。但《标识办法》要求的是生成内容在展示、导出、转发全链路留痕,运营每次改版、每次接入新模型都可能打破既有合规。所以更可持续的做法是把合规检查做成研发的常态环节,而不是项目制的一次性交付。

企业合规自查清单

① 是否对生物识别、行踪轨迹等敏感个人信息做到单独同意与明确告知;
② 是否存在超范围收集,以及任何个人信息字段流向境外而未申报评估;
③ AI 生成内容在展示、导出、转发各环节是否都有显式与隐式双标识;
④ 面向公众的生成式 AI 服务是否已完成安全评估与备案路径确认;
⑤ 上述四项是否有书面制度与系统留痕,而非仅靠口头约定。

上邦解读:把合规要求落进系统比写制度更有效

合规最大的敌人是'制度写在文档里、系统还是老样子'。我们建议先把数据流向画清楚,再用企业私有 AI 知识库沉淀《个人信息保护法》《人工智能生成合成内容标识办法》等条款与判定口径,使业务人员在设计功能时就能检索到边界;涉及用户协议、隐私政策的版本管理,可统一放进知识库系统做变更留痕,避免出现'线上跑的是新规则、文档还是旧版本'的脱节。
说明:本文案例与处罚依据均引自国家网信办 2026 年 9 月 15 日公开通报,具体企业名称以通报原文为准;法律条文适用以最新官方文本为准。

参考来源

国家网信办发布近期网络安全、数据安全、个人信息保护等领域执法典型案例 - 央广网(据网信中国 2026-09-15)
中华人民共和国个人信息保护法 - 全国人民代表大会常务委员会
人工智能生成合成内容标识办法 - 国家互联网信息办公室
相关标签:数据合规个人信息保护生成式AI执法案例深度合成

免费咨询上邦技术顾问

一对一上邦方案顾问对接 · 免费定制企业专属 AI 数字化转型方案

立即获取上邦方案