赛博AI

客服与营销里用了AI,透明义务怎么写进合同和披露

2026-11-07 · 赛博AI编辑整理 交易之变

欧盟《人工智能法案》第50条要求:拟与自然人直接交互的AI原则上须让人知情(显而易见等例外另核);合成音视频文输出须可机读标记并可被检测(技术方案须在技术可行范围内有效等);部署深度伪造或面向公共利益事项的AI生成文本时,部署者须向自然人披露;信息最迟在首次交互或接触时以清晰、可区分且符合无障碍(可访问性)要求的方式提供。委员会FAQ进一步写明该条自2026年8月2日起适用,并区分提供者机读标记与部署者可见披露——后者不能只靠前者顶替。对企业销售、客服与内容外包合同而言,透明从“宣传口号”变成可验收的披露条款。

一家零售品牌要把官网客服改成大模型对话,同时让代理商用生成工具批量做社媒海报和活动文案。采购合同只写了“服务可用率”和“响应时长”。法务审合同时问:“客户一进来知不知道在跟AI说话?海报若像真人代言,要不要标是合成的?新闻稿若用AI起草,谁负责披露?”销售答不上来。

以上是假设场景。它指向的交易问题是:当AI进入对客交互与对外内容,第50条透明义务如何落到合同附件、产品披露与验收标准。

已经发生的事

【事实】AI Act Service Desk展示的第50条(基于截至2026年7月27日的EUR-Lex合并文本)第1款规定:提供者应确保拟与自然人直接交互的AI系统在设计与开发上,使相关自然人获知自己正在与AI系统交互,除非对合理知情、审慎且注意的自然人而言,结合情形与使用语境这一点已显而易见;该义务不适用于法律授权用于侦查、预防、调查或起诉刑事犯罪的AI系统(在对第三方权利与自由有适当保障的前提下),但供公众举报刑事犯罪的系统除外。

【事实】同条第2款规定:生成合成音频、图像、视频或文本内容的AI系统提供者(含通用目的AI系统)应确保输出以机器可读格式标记,并可被检测为人工生成或操纵;技术解决方案应在技术可行范围内有效、可互操作、稳健且可靠,并考虑内容类型特性与局限、实施成本与公认技术水平(可反映于相关技术标准);在系统仅执行标准编辑辅助功能、未实质性改变部署者提供的输入数据或其语义,或属于法律授权的刑事执法用途等情形时,该义务不适用。

【事实】同条第4款规定:生成或操纵构成深度伪造的图像、音频或视频内容的部署者,应披露该内容为人工生成或操纵;若内容显然属于艺术、创作、讽刺、虚构或类似作品或节目,透明义务限于以不妨碍展示或欣赏作品的适当方式披露此类生成或操纵内容的存在。生成或操纵以向公众告知公共利益事项为目的而发布的文本的部署者,亦应披露该文本为人工生成或操纵;若经人工审阅或编辑控制,且有自然人或法人对内容发布承担编辑责任,则可不适用该文本披露义务。第5款要求第1至4款所指信息最迟在首次交互或接触时,以清晰、可区分的方式提供给相关自然人,并符合适用的无障碍(可访问性)要求。

【事实】欧盟委员会数字战略网站《Transparency obligations under Article 50 of the AI Act》FAQ写明:第50条自2026年8月2日起适用;对2026年8月2日前已投放市场的系统,仅就第50条第2款标记与检测义务设有有限宽限期,按新增第111条第4款,这些系统的提供者须最迟于2026年12月2日遵守第50条第2款;2026年8月2日前生成的内容无须追溯标记,但委员会鼓励部署者在可能时自愿标记。FAQ对深度伪造引用第3条第60款定义,并强调部署者最迟须在自然人首次接触时以清晰可感知方式披露,不能仅依赖提供者按第50条第2款嵌入的机器可读标记来履行部署者披露义务。FAQ还写明:对公共利益事项文本,人工审阅指具备相关知识与专业判断的人对内容实质进行有意审查;编辑控制指有权基于实质理由批准、修改或拒绝文本的编辑责任主体实际行使控制;仅拼写或语法等表面检查不构成人工审阅或编辑控制。按第99条第4款(g),违反第50条的罚款上限为1500万欧元;对企业,为该金额或上一财年全球年营业额3%中的较高者。但第99条第6、6a款另规定:中小企业(含初创)及小型中等规模企业(SMC)就该项罚款上限取金额与比例中的较低者,不能只笼统写成“考虑相称性”。

【核验限制】本文已复核EUR-Lex官方合并文本第50、99、111、113条与委员会官方FAQ。第50条第5款英文为“applicable accessibility requirements”,本文译为“适用的无障碍(可访问性)要求”。委员会《Guidelines on Transparency of AI-Generated Content》完整PDF与行为守则全文未逐页引用,操作示例以FAQ已公开表述为限。企业是否构成提供者或部署者、内容是否构成深度伪造或“公共利益事项”,须按用途与语境个案判断。

变化的机制:从“模型能力条款”到“对客告知与内容标签条款”

过去采购AI客服或内容工具,合同重点常是价格、配额与保密。第50条把“是否告知在与AI交互”“合成输出是否可机读标记”“深度伪造与特定文本是否对人可见披露”拆成提供者与部署者两侧义务,且FAQ明确部署者可见披露不能被机读水印替代。交易上需要约定:谁负责开场告知文案、谁负责对外素材贴标、何种内容走“人工编审豁免”、标签样式与留存证据如何验收。

【推演】销售附件可能出现“第50条披露清单”:交互类产品必须有首次接触告知;生成类API须声明是否提供机读标记能力;品牌方作为部署者对外发素材时的可见标签责任与代理商分工;公关稿若主张编审豁免,须保留审阅记录与编辑责任人。成立条件是产品进入或输出用于欧盟市场相关场景,且法务把透明写进验收而非仅写进隐私政策末段。受益方是需要证明未误导消费者的品牌与合规团队;承担成本的是须改产品文案、素材流程与供应商SLA的运营与代理商。可能失败的环节:把“网站页脚有AI字样”当成首次交互告知;创意豁免被滥用到仿冒真人代言;合同只写“供应商保证合规”却不写可检查的标签交付物。

对交易的影响

  • 客服机器人、虚拟助手的合同应约定告知出现的时机、文案语言与无障碍(可访问性),并保留上线截图或配置版本。
  • 采购生成式工具时,应区分“提供者机读标记能力”与“我方作为部署者的可见披露责任”,两套都要有对应条款。
  • 外包内容若可能构成深度伪造或公共利益文本,应在SOW中写清贴标标准、编审豁免的证据要求,以及未贴标素材不得发布的门禁。

建议试验:把三条披露写进下一份AI采购附件

【建议试验】在下一份客服或内容生成采购/续约中,增加三页附件草案:(1)首次交互告知的原文与触发条件;(2)供应商是否提供第50条第2款机读标记及适用模态;(3)我方对外发布图像/视频/文本时的可见披露模板,以及主张“人工编审豁免”时须留存的字段。投入:法务与产品各0.5天,向供应商发书面确认。判断指标:供应商能否指出产品文档中的对应能力;内部运营能否演示一条“未贴标则无法点发布”的流程。失败条件:只能回复“我们很重视透明”而无界面或条款位置。结果用于更新公司AI交易检查表。

边界

本文不提供合规结论,不评估具体聊天产品或广告素材是否已触发第50条,也不讨论中国境内广告标识规则。刑事执法例外与艺术作品有限披露的适用,须结合正式指引与个案事实。

参考资料

  • AI Act Service Desk, Article 50: Transparency obligations for providers and deployers of certain AI systems. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50 (核验日期:2026-11-07)
  • European Commission, Transparency obligations under Article 50 of the AI Act. https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act (核验日期:2026-11-07)
  • EUR-Lex,《人工智能法案》2026-07-27合并文本(合并文本供查阅,法律效力以正式公报法令为准). https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX%3A02024R1689-20260727 (复核日期:2026-11-07)
  • Regulation (EU) 2026/1744,Digital Omnibus on AI,2026-07-24刊于正式公报,2026-07-27生效. https://eur-lex.europa.eu/eli/reg/2026/1744/oj/eng (复核日期:2026-11-07)

← 赛博AI 全部文章