新威胁的涌现：何为“代理工具主权”挑战 - AI代理被定义为“目标导向的助手”，旨在以最少的人类输入促成其自主行动，它们不仅仅是工具，而是行使决策权的行动者[1] - AI代理可以调用第三方工具（包括API和网络搜索）甚至其他AI系统，这些工具可能在运行时之前未知，且运行于不同的司法管辖区和地理区域[1] - 这导致AI代理难以被纳入欧盟《人工智能法》静态、预定的合规模型监管，此挑战被称为“AI代理主权侵蚀”，即国家和提供商对其AI系统合法控制能力的缺失[1] - 数字主权关注对自身数字基础设施、数据和技术的控制，而ATS将这种关切延伸至AI系统自身的运行时行为，其行动和选择已超出任何单一司法管辖区的有效控制范围[1] 法律框架失效：欧盟《人工智能法》的结构性缺陷 - 欧盟《人工智能法》第3条第23款定义的“实质性修改”概念在动态工具调用前失灵，运行时调用其他工具是否构成“实质性修改”存在模糊性[5] - 法律学术研究表明，即使对于已知的计划中修改，上游开发者也不太能预测所有下游修改的风险，对于自主的运行时工具调用则更不可能预测[5] - 第72条第2款要求对高风险系统进行上市后监测，包括分析与其他AI系统的交互，但大多数外部工具是传统API而非AI系统，且提供商无法监测其控制范围之外的第三方服务[6] - 对持续学习或更新内部决策逻辑的AI系统，上市后监测尤其具有挑战性，具有动态工具选择能力的代理AI系统属于此类[6] - 第25条第4款要求提供商和第三方供应商通过书面协议规定必要协助，但这假设了预先建立的关系，当代理从不断更新的注册库中选择工具时，这种关系不可能存在[7] - 责任和义务分散在模型提供商、系统提供商、部署者和工具提供商之间，但法案的问责框架假设了统一的责任，没有机制强制工具提供商披露数据处理地点或提供审计访问[8] - 传统的归责法律框架将机器视为由人类控制的工具，但AI依赖于机器学习过程，人类不再完全掌控，因此不能总是为AI的行为负责[9] - 当AI代理调用其他应用时，责任差距会倍增，机器学习系统可能对几乎相同的输入表现出截然不同的行为，使得无法预测将调用哪些工具或数据流向何处[9] - 法案没有提供机制来强制在运行时选择的工具提供商合作，第25条第4款的书面协议规定仅限于预先建立关系的提供商之间[9] - 立法者被劝阻为算法程序员制定具体规则以允许未来实验，但这为程序员逃避系统最终行为的责任提供了空间[9] - 欧盟《人工智能法》的规则太具体会限制创新，而一般性规则会造成问责真空，ATS恰恰存在于启用自主工具使用与维持法律控制之间的真空地带[10] 根本性的冲突：与GDPR无法调和的合规矛盾 - 欧盟《人工智能法》与GDPR第五章的交集产生根本性紧张关系，GDPR第46条下的标准合同条款要求具体的进口方识别和逐案充分性评估，这些机制假设预先建立的关系和有意的传输决定，与动态工具调用结构上不兼容[11] - AI代理的工具注册库不断更新，具体工具在运行时之前可能未知，AI代理决策发生太快无法进行法律审查，且关系是短暂的而非合同性的[11] - GDPR的传统数据保护原则（如目的限制、数据最小化）与AI系统的操作现实存在根本冲突，AI系统涉及为在收集时未完全确定的目的处理大量个人数据[11] - 当代理自主调用跨境工具时，产生的数据流既不符合GDPR第五章的预定传输机制，也不符合第一章的有目的收集原则[11] - 当AI代理自主选择传输个人数据的工具时，既定的控制者-处理者框架关系崩溃，工具提供商既非在部署者指示下行事，也非独立决定目的和方式[12] - 提供商面临两难：要么预先批准有限工具集（消除代理灵活性）、实施地理限制，要么在不合规的情况下运营[12] - 传统的“数据主权”侧重于对司法管辖区内数据的领土控制，但AI代理系统做出自主的跨境决策，超越了任何单一司法管辖区的主权范畴[12] - 《人工智能法》无法约束那些自主调用在不同司法管辖制度下运行、具有不同合规等级工具的代理[12] - ATS要求一种根本性的重新概念化：主权必须从静态的领土边界转向对自主行动本身的动态治理[12] 未来的出路：从静态合规迈向“运行时治理”的必然转向 - 在《人工智能法》生效十五个月后，人工智能办公室尚未发布任何专门针对AI代理、自主工具使用或运行时行为的指南[13] - 未来协会2025年6月的报告证实，正在制定中的技术标准“可能无法完全解决来自代理的风险”[13] - 现有法律将主权嵌入领土和数据驻留，而AI代理系统要求将主权嵌入运行时的行为[13] - 在指南出台前，提供商面临难以解决的模糊性，包括工具调用是否构成实质性修改、如何满足对第三方服务的监测义务、以及GDPR传输机制是否适用于短暂的代理发起关系[13] - 成功的AI代理系统部署者必须同时维持人类监督（根据第14条）并启用系统自主操作，这表面上是一种合规的不可能性[14] - AI代理可以自主执行复杂的跨境行动（包括触发数据传输的工具调用），如果由人类执行，这些行动将违反GDPR和《人工智能法案》，但两个框架都没有对AI代理本身施加实时的合规义务[14] - 事后罚款无法撤销非法的数据传输，符合性评估无法预测AI代理将在数千种不断更新的工具中自主选择哪一种[14] - 法律监管的执行模式假设了人类决策的时间尺度，但实际操作发生太快，人类的监督只能是“异想天开”[14] - “AI代理主权侵蚀”的现状要求从根本上重新定义数字主权，从静态的管辖权界限转向自主行为的动态护栏，可能需要机制来约束代理可调用的工具、验证执行发生的位置，并在控制分散时保持责任[14]