赛博AI

给设备加了AI视觉,它算不算“安全部件”

2026-11-03 · 赛博AI编辑整理 生产之变

欧盟新《机械法规》(EU) 2023/1230将于2027年1月20日强制适用,明确纳入AI驱动的安全功能;经数字综合修订后的《人工智能法案》又写明,只用于质量控制、性能优化的AI不算安全部件,但失效会危及健康安全的AI仍算。设备厂商要先判断:自己的AI到底在管“良品率”还是在管“人身安全”。

一家做包装机械的出口企业准备在新机型上加一套视觉模型:一个用途是识别封口不良、剔除次品;另一个用途是识别操作工的手是否进入危险区,以便提前减速。研发经理问:这两个功能,哪个会让整台设备的合规路径变复杂?

这是假设场景,但它正是AI进入设备之后,生产端最先要回答的问题:AI功能在产品里扮演什么角色。

已经发生的事

【事实】欧盟委员会内部市场总司“Machinery”专页说明:新《机械法规》(EU) 2023/1230于2023年6月14日通过,并发布过更正以修正适用日期的笔误;该法规纳入了“由AI驱动安全功能的机械”的条款,纳入了与合规相关的软件、数据和安全控制系统的网络安全(cyber-safety)条款,澄清了说明书与符合性声明可用数字形式提供的条件,并自2027年1月20日起强制适用。2027年1月20日之前投放欧盟市场的机械仍须符合现行《机械指令》2006/42/EC。

【事实】欧盟AI法案服务台展示的《人工智能法案》第6条(基于截至2026年7月27日的EUR-Lex合并文本,含数字综合修订)规定:AI系统若作为附件一所列欧盟协调立法所涵盖产品的安全部件,且该产品须经第三方符合性评估,即属高风险。修订新增第1a款:仅用于用户辅助、性能优化、服务效率、自动化、便利或质量控制等非安全方面的AI系统,不构成安全部件;第1b款同时写明,失效或故障会危及健康和安全的AI系统,仍构成安全部件。

【事实】同一服务台第113条显示,经修订后,按第6条第1款和附件一归为高风险的AI系统,第三章第1至3节自2028年8月2日起适用;按附件三归类的自2027年12月2日起适用。

以上是条文与官方页面在核验日可见的表述。条文不自动适用于只在中国销售的设备;对出口欧盟的企业才直接相关。

变化的机制:同一个模型,角色决定责任

过去,设备安全主要靠机械结构、光栅、联锁这些确定性部件,验证方法相对成熟。AI进入后,同一类视觉模型可以做两件性质完全不同的事:剔除次品影响的是良品率和客户投诉;判断人手是否进入危险区影响的是人身安全。

修订后的第6条把这条线写得更清楚:看用途,也看失效后果。质检模型出错,代价主要是返工;防护模型出错,代价可能是伤人。后者一旦被认定为安全部件,就要走更重的合规路径,而且这个判断不能靠功能名称回避——第1b款以“失效是否危及健康安全”为准。

对经营的影响

【推演】第一,产品定义要前移。研发立项时就要写清每个AI功能的预期用途和失效后果,否则到认证阶段才发现某个“辅助”功能实际承担安全职责,返工成本最高。成立条件是企业确实出口欧盟或客户要求对标欧盟规则。

【推演】第二,确定性安全部件不会马上被替代。对很多中小设备厂,更现实的选择可能是让AI只做质检和优化,安全仍由传统部件兜底,以控制合规成本。代价是放弃部分AI防护能力带来的效率。这部分是推演,公开资料没有给出行业选择比例。

【推演】第三,时间差要用好。机械法规2027年1月20日先强制适用,AI法案对附件一产品的高风险要求到2028年8月2日才适用。两个日期之间,设备厂可能要先满足机械法规中与AI安全功能相关的要求,再补齐AI法案要求。具体衔接以法规原文和官方指南为准,本文未通读法规全文。

建议试验:做一张“AI功能角色清单”

建议试验:选一款在研或在售机型,把所有AI功能逐条列出,每条回答三个问题:预期用途是什么;模型失效时最坏后果是什么(返工、停机、伤人);有没有独立于AI的安全兜底。投入约为研发、质量、安全工程各一人两天。判断指标:能否对每条功能给出“非安全部件/安全部件/待法务确认”的结论及依据。失败条件:超过三分之一的功能无法说清失效后果,说明产品定义还不足以支撑合规判断。

边界

本文依据欧盟委员会专页与AI法案服务台的合并文本,未直接读取EUR-Lex上的《机械法规》全文(核验时该站对抓取返回403),因此未展开法规附件中AI安全功能的具体要求。不构成法律意见。

来源

  • 欧盟委员会内部市场总司:Machinery,https://single-market-economy.ec.europa.eu/sectors/mechanical-engineering/machinery_en ,核验日期 2026-11-03
  • AI Act Service Desk:Article 6 Classification rules for high-risk AI systems,https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-6 ,核验日期 2026-11-03
  • AI Act Service Desk:Article 113 Entry into force and application,https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-113 ,核验日期 2026-11-03

← 赛博AI 全部文章