从周一起,在欧盟委员会内部——它是欧盟的行政机构,自 2024 年《人工智能法》(AI Act)以来也是最强能力人工智能模型的直接监管者——一项新权力只差一个签名就能启动。委员会本来就可以要求造出通用人工智能模型的公司交出访问权限,“通过应用程序接口(API)或其他适当的技术手段和工具,包括源代码”,以测试这个模型能被诱导做出什么。周一新增的,是关于这次来访中公司这一侧的一句话。
这句话是《委员会实施条例(欧盟)2026/1755》第 2 条第 3 款——委员会为自己的人工智能调查写下的程序规则——7 月 20 日通过,7 月 21 日刊登于《官方公报》(Official Journal,欧盟的法律公报,法律须在此刊出才能生效),8 月 10 日周一生效。全文如下:
"The Commission may require the provider to disable any logging measures that could track or record the Commission's access to the general-purpose AI model, to the extent necessary to ensure the integrity and confidentiality of the evaluation process."
(中文释义:在为确保评估过程的完整性与保密性所必需的范围内,委员会可以要求提供者停用任何能够追踪或记录委员会访问该通用人工智能模型的日志措施。)
被命令去关闭日志的一方就是提供者本身,所以这不是秘密访问;它知道检查人员来过。它失去的是证明——在面对委员会自己那一版说法时,确认哪些东西被访问过、访问了多久的能力。目前还没有任何公司被命令关掉任何东西;在周一之前也不可能有。而且没有人说过为什么。欧盟法律的开头是“说明理由段”(recitals),即一段段编号排列、陈述这部法律为何而立的文字;这一部有六条,没有一条提到日志。
什么都要盯着,除了我们
这句话最先砸在模型公司里负责安全的那些人身上。
有一个整齐的说法:法律要求留下日志,条例又要求关掉日志——这个说法是错的,而且这个错最先是我们犯的:《人工智能法》里关于日志的义务,即第 12 条和第 19 条,约束的是高风险人工智能系统,属于另外一章;模型的提供者两条都不欠。具有系统性风险的模型的提供者所欠的是第 55 条第 1 款第 (d) 项:为模型及其物理基础设施提供“适当水平的网络安全保护”,不遵守的罚款最高可达全球营业额的 3% 或 1,500 万欧元,以较高者为准。
公司靠《通用人工智能行为准则》(General-Purpose AI Code of Practice)来证明自己做到了这一点——提供者签署这份规则手册,以此表明合规;这份准则由一批独立专家起草,再由委员会自己认定为“适当”。准则的安全附录要求在“所有网络和设备上”做入侵检测,要求有一支安全团队“监控 EDR 警报”(EDR 即端点检测与响应,装在员工电脑、服务器等终端上、一发现入侵者就报警的软件),还要求为每一台存有模型参数的设备建立安全登记册。
“任何能够追踪或记录委员会访问行为的日志措施”把上面这些全都罩住了。准则预想到了“换一套控制措施”这条路:措施 6.2 要求任何替代性控制措施都必须做到“对可疑或恶意活动的检测”——而在一条你被命令不得记录的通道上,没有任何东西能做到。第 55 条第 2 款把这个圈闭上了:偏离准则的提供者“应当证明存在替代性的适当合规方式,供委员会评估”。从周一起,安全工程师的处境是:他被要求守住一套委员会称之为“适当”的标准,却又可以被委员会命令去破坏它,而剩下的那点安全,仍然由委员会来打分。
支持一个隐形检查员的理由
访问行为被记录下来的评估者,是可以被认出来的;而一家能够对委员会的流量做指纹识别的公司,可以把这些会话路由到一个打开了安全过滤器的检查点(checkpoint,模型在训练过程中保存下来的某一个版本)——于是委员会认证的,是一个别人都用不到的模型。这种失败有个名字,叫“应试教学”,它也是第三方评估最常见的死法。
《人工智能法》让这件事更尖锐,因为合规在很大程度上是自我声明的:由提供者自己开展并记录自己的对抗性测试。如果监管者只看得到公司对公司自己所做测试的叙述,那么整套系统性风险制度就只是自我认证加一页签名。
最强的论点是测试本身。委员会为攻击性网络能力或生物能力提升准备的一组探测题,按其构造就是一批行得通的提示词。记录并分析这些输入的提供者,等于用监管者的成本白得了一份精挑细选的攻击语料库。任何严肃的检查制度都需要不预先通知的访问权,而一条保护评估完整性的规则本身并不是丑闻。
先有的是更好的那条规则
但完全一样的问题早就已经被解决过一次了,而且是用正确的方式解决的——就在那份经委员会签字认可的准则里。附录 3.5 让签署方承诺:
"will not undermine the integrity of external model evaluations by storing and/or analysing inputs and/or outputs from test runs without express permission from the evaluators."
(中文释义:未经评估者明确许可,不得以存储和/或分析测试运行的输入和/或输出的方式,损害外部模型评估的完整性。)
这一条禁止提供者留存一次测试的实质内容——提示词、模型给出的回答、你可以拿去做训练的材料——并且以评估者的同意作为开关。安全日志继续开着。周一那句话管的却是访问记录,而且完全没有征求同意这一步。如果这两条规则管的是同一块地,周一那句话就是多余的。
用封条,不是拉闸
欧盟没有别的检查者是这样做事的。在竞争法里,委员会的检查人员可以给记录加封条,破坏封条本身就是一笔最高达营业额 1% 的罚款。在银行监管里,欧洲中央银行(European Central Bank,负责监管欧元区大型银行)可以不预先通知就上门——但只能以“决定”的形式,并且在成员国法律有此要求时须取得司法授权。我们查了五套制度。在每一套里,突袭性都来自不告诉对方。而不是来自不做记录。
没人叫来的那个看门人
是谁点了头?欧盟法律里安排了一个专门唱反调的角色:欧洲数据保护监督专员(European Data Protection Supervisor,简称 EDPS,欧盟内部的隐私看门人,专职监督欧盟各机构自己怎么处理个人数据)。当一份实施法案的草案触及“个人数据”如何被处理时,委员会必须征询它的意见(《条例(欧盟)2018/1725》第 42 条第 1 款)。而在这部新条例的 5,304 个英文词里,从头到尾没有出现这位监督专员的名字,没有引用那部条例,也没有用过“个人数据”这个词组。
这种沉默并不是这位监督专员的习惯。2026 年 3 月 6 日,它就同一部《人工智能法》之下的另一份草案提交了正式意见——比 2026/1755 的草案开放公众反馈还早六天;而 7 月 15 日通过、比本条例早五天的一部姊妹条例,在其第 5 条说明理由段里就记下了这位监督专员的意见。至于本条例:文本里什么都没有,在监督专员公布自己工作成果的任何地方也都没有找到相关意见——这次检索我们并未穷尽。草案征询共收到 51 份意见;我们无法调取这些意见,因此有没有人对那句日志规定提出过警示,仍然未知。
一项按一个签名的尺寸做出来的权力
母权力是穿着一整套保障措施来的:依《人工智能法》第 92 条提出的访问请求,必须写明法律依据、目的和理由、合规期限,以及适用的罚款;在实施条例里,访问本身要以“决定”的形式下达。而关闭日志这项要求一样都没有——没有决定,没有交叉引用,没有格式。委员会的《议事规则》允许把“管理性或行政性措施”下放给总司长(Directors-General,委员会各总司的最高级别官员)。决定就是决定;而一项没有贴上标签的要求,正是官员会随手签掉的那类东西。
同一部条例的第 10 条第 3 款列出了会中断罚款五年追诉期限的那些行为,其中一项就是“为开展模型评估而提出的访问请求”。每一次中断都让时间重新开始计算,上限是十年。让这个时钟归零的那个事件,正是提供者可能被要求不得记录的那个事件。
这里说的“委员会”并不是一个头脑。准则不是官员写的,而是由一批独立专家起草的;把这批专家召集到一起的,是设在 DG CNECT(通信网络、内容和技术总司,委员会主管数字政策的部门)之内的人工智能办公室(AI Office,委员会里实际执行模型评估的那个单位),而准则定稿之后,是委员会连同人工智能理事会(AI Board,由各成员国代表组成、协调《人工智能法》执行的机构)把这份成果认定为“适当”。往后上门来访的,还是同一个人工智能办公室。签下那项要求的可能是某位总司长。至今没有任何一份第 92 条访问决定露过面;我们找过,没有找到。制度性漂移比任何单一行为者的刻意设计都更有可能,而它在一点上更糟:没有人需要有意为之。
给双方各留一份副本
欧盟在更难的场景里已经解决过一次这个问题。当一份记录必须在委员会的检查中存活下来时,竞争法谁也不信:它给柜子加上封条,并把破坏封条本身规定为一项违法行为。封条的数字后代,就是一份只能追加、双方都能验证而任何一方都无法修改的日志。
条例文本给提供者留下了两个杠杆。第 3 条第 5 款允许对委员会指定的专家提出有理由的异议——值得一用,因为按第 4 条,进到你基础设施里面的那一方可能是采购来的外部承包商。依第 2 条第 1 款作出的访问决定,可以依《欧洲联盟运行条约》(TFEU)第 263 条申请司法审查——这是在法院挑战欧盟行为的条约途径。
委员会应该往这些模型内部看;这正是《人工智能法》的用意,而支持不预先通知访问的理由是真实的。它不该做的,是通过让一方掌握记录的唯一副本来解决一场利益冲突——而且是用一句话做到的,一句它自己那六条说明理由段都没有解释的话。
参考资料
参考资料
- Commission Implementing Regulation (EU) 2026/1755,2026 年 7 月 20 日,关于委员会依《条例(欧盟)2024/1689》开展某些程序的详细安排,**OJ L, 2026/1755,
21.7.2026**;CELEX 32026R1755;ELI http://data.europa.eu/eli/reg_impl/2026/1755/oj;由 Ursula von der Leyen 签署。本文所依据的条款:Arts. 2(1)–(4), 3(2), 3(5), 4, 10(3)–(4), 15,以及全部六条说明理由段。完整英文文本(5,304 词)取自出版局 http://publications.europa.eu/resource/oj/L_202601755.ENG,请求头使用 Accept: application/xhtml+xml,因为 对本法案使用 Accept: text/html 会返回 HTTP 404。生效日期 2026-08-10 与 in-force = 0 经 publications.europa.eu/webapi/rdf/sparql 的 SPARQL 查询确认,两项均于 2026 年 8 月 7 日取得。
- Regulation (EU) 2024/1689(《人工智能法》),截至 2026 年 7 月 27 日的合并版本,CELEX 02024R1689-20260727:
Arts. 12, 19, 53, 55(1)–(3), 88(1), 91, 92(1)–(4), 101(1)。词频检查是在规范化 U+00A0 之后,对完整英文文本 运行的。
- General-Purpose AI Code of Practice, Safety and Security Chapter,欧盟委员会,43 页,见
https://ec.europa.eu/newsroom/dae/redirection/document/118119,于 2026 年 8 月 7 日取得:Commitment 6 ("LEGAL TEXT: Article 55(1), and recitals 114 and 115 AI Act")、Measure 6.2、Appendix 3.5、Appendix 4.2(1)–(2)、 Appendix 4.3(1)、Appendix 4.5(6)–(7)。更正,8 月 10 日: 本文早前的版本称这份准则由 DG CNECT(委员会主管 数字政策的总司)起草。事实并非如此。委员会自己的页面把这份准则记录为 "prepared by independent experts in a multi-stakeholder process"(在多方参与的过程中由独立专家编制),而《人工智能法》第 56 条第 1 款给人工智能 办公室(AI Office)安排的角色只有 "encourage and facilitate"(鼓励与促进);依第 56 条第 6 款把完成后的 准则评定为“适当”的,是委员会与人工智能理事会(AI Board)。本文的论证所依据的是这一认可与第 55 条第 2 款, 而不是准则由谁起草,相关段落已据此改写。
- Regulation (EU) 2018/1725,Art. 42(1)–(3)。Commission Implementing Regulation (EU) 2026/1730,2026 年
7 月 15 日,OJ L, 2026/1730, 22.7.2026,recitals 4 和 5,见 http://publications.europa.eu/resource/oj/L_202601730.ENG。
- EDPS,2026 年 3 月 6 日的正式意见,针对的是就《条例(欧盟)2024/1689》的适用、关于人工智能监管沙箱的设立、
开发、实施、运行与监督所制定的委员会实施条例草案 —— https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2026-03-06-edps-commission-regulation-regards-operation-and-supervision-ai-regulatory-sandboxes (PDF:.../system/files/2026-03/06-03-2026_formal_comments_operation_supervision_ai_sandboxes_en.pdf)。 EDPS 的 Opinions 与 Formal Comments 索引页是通过 r.jina.ai 读取的,因为 edps.europa.eu 对本地直接抓取 返回 HTTP 403;已读取覆盖 2026 年 1 月 30 日至 7 月 15 日的页面,其中没有任何关于 2026/1755 的条目。
- 委员会“Have your say”意见征询登记册,倡议编号 16472("Implementing regulation Art 92 and 101 AI
Act" / "Artificial Intelligence Act – detailed arrangements on evaluations and proceedings"), Ares(2026)560463,DG CNECT,委员会编号 C129100。草案发布 id 22547,Ares(2026)2709234、 ISC/2026/01203,12 页正文加 2 页附件,反馈期 2026 年 3 月 12 日 18:24 → 2026 年 4 月 9 日 23:59,状态 CLOSED,totalFeedback = 51。原计划于 2026 年第二季度(4 月 1 日至 6 月 30 日)通过;实际通过日期为 7 月 20 日。于 2026 年 8 月 7 日取自 ec.europa.eu/info/law/better-regulation/brpapi/groupInitiatives/16472?language=EN ——请注意,brpapi 端点在未提供 language=EN 时会返回 HTTP 500 或 HTTP 400("No such language"),这 也是此前一个采编台把它们记为不可用的原因。单份反馈意见只向浏览器提供,未能取得。
- Rules of Procedure of the Commission(C(2000) 3614),OJ L 308, 8.12.2000,Arts. 13 和 14。
- 用于比较的各制度,均读取原文:Council Regulation (EC) No 1/2003,Arts. 20(2)(d), 20(4), 21(3),
23(1)(e) —— 文本经 http://data.europa.eu/eli/reg/2003/1/oj 取得,因为 CELEX 32003R0001 的 Cellar XHTML 流返回 404;Council Regulation (EU) No 1024/2013(SSM),Arts. 12(1), 12(3), 12(5), 13; Regulation (EU) 2022/2554(DORA),Arts. 26(2), 27(1)–(3) —— 在其 45,231 词的英文文本中,"logs" 与 "logging" 出现次数为零;Directive 2001/83/EC,Art. 111(1);Commission Implementing Regulation (EU) No 628/2013,Arts. 10, 13(2), 14(1)(a)。
- European AI Office ——
https://digital-strategy.ec.europa.eu/en/policies/ai-office,于 2026 年 8 月 7 日
取得:由 DG CNECT 管理,"more than 125 staff",下设六个处室,包括 A2 Regulation and Compliance 与 A3 AI Safety。
- 未能确证、作为缺口报告的事项: EDPS 就本法案发表的任何意见或正式评论(EDPS 网站对本地直接抓取返回
HTTP 403;其 Opinions 与 Formal Comments 索引页通过 r.jina.ai 读取,未显示任何关于 2026/1755 的内容, 但检索并未穷尽);草案征询回应者的身份——数量是清楚的,倡议记录上写着 51 份,但 Have Your Say 的 brpapi/searchInitiatives 今天返回 HTTP 500,因此这些人究竟是谁仍然未知;人工智能委员会出具意见的日期 (comitology 登记册只能通过 JS 渲染);以及是否曾发出过任何一份第 92 条访问决定或第 2 条第 3 款要求。 本次全程无法使用网络搜索(共享额度耗尽),因此无法对媒体或民间社会的反应做任何梳理。