回看《生成式人工智能服务管理暂行办法》：企业做 AI 应用的基本合规框架
《生成式人工智能服务管理暂行办法》于 2023 年 7 月 10 日公布、8 月 15 日起施行，是国内面向公众提供生成式 AI 服务的基础规则。企业做 AI 客服、AI 助手前应先读懂它。
发生了什么
2023 年 7 月 10 日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》，自 2023 年 8 月 15 日起施行。办法适用于利用生成式 AI 技术向境内公众提供生成文本、图片、音频、视频等内容的服务。
办法明确了训练数据处理和数据标注的要求，规定了服务规范，包括防范未成年人过度依赖、按规定对生成内容进行标识、发现违法内容及时处置等，并对提供具有舆论属性或者社会动员能力的服务提出了安全评估和算法备案要求。
对企业 AI 项目意味着什么
办法之后的备案登记、内容标识等要求，都是在这个框架上展开的。企业在官网、小程序或 App 里上线 AI 助手、AI 客服、AI 写作工具，首先要判断两件事：服务是否面向境内公众，还是仅在企业内部使用；使用的是自研模型，还是调用已备案的大模型。不同情形对应的义务轻重差别很大。
例如面向员工的内部知识库问答，与面向公众开放的智能客服，在合规要求上并不相同；前者更多受数据安全和个人信息保护规则约束，后者还要考虑备案或登记、内容安全和标识义务。
另一个容易被忽视的点是用户输入信息的处理。用户在对话框里输入的内容可能包含个人信息甚至商业秘密，服务提供者需要说明这些输入会被如何保存、是否会用于模型改进，并提供相应的删除途径。把第三方大模型接口直接嵌进页面、却不告知用户数据流向，是目前较常见的问题。
可以怎么做
- 在立项阶段就明确服务对象和模型来源，把合规判断写进需求文档。
- 面向公众的 AI 功能，预留内容审核、违法内容处置和用户投诉入口。
- 训练或微调使用的数据，确认来源合法，涉及个人信息的要有合法性基础。
- 为生成内容加标识，并在用户协议中说明服务规则。
办法条文不长，建议产品负责人和技术负责人都通读一遍原文。