中国-新加坡经纬2026年2月26日（元）被业界认为是“智能代理采用加速期”。人工智能正在从简单的对话工具转向可以自主执行任务的智能代理系统。通过单一用户指令，座席即可完成查询信息、下单支付、应用间发送消息等复杂操作，逐渐成为连接不同应用场景的“数字座席”。然而，舒适度不断提高的同时，新的风险也不断出现。 2月24日，在国际经济贸易大学法律创新与数字经济研究中心举办的“高质量发展之路与代理治理”研讨会上，众多专家和业界人士就官员安全、隐私保护、责任等问题进行了探讨。权利“螺柱”真的是好事吗？最大的变化是智力代理人与传统大型模型相比的最大特点是他们的行动能力。智能代理通常由识别、记忆、规划、执行等多个模块组成，可以调用工具自动完成任务。北京邮电大学网络空间安全学院副教授李超卓指出，代理人拥有更大的自主权，但这也带来了更复杂的安全风险。例如，在感知层面，可能出现模型错觉和误解；在规划层面，可能出现偏离初衷的恶意计划；在工具调用层面，存在API滥用、工具劫持、权限不可控等风险。智能代理逐渐介入应用程序的运行逻辑，软件的真实生态也在发生变化。代理风险往往集中在财务安全、保障等问题上个人信息的范围，以及内容和道德之间的界限。小红书技术合规负责人田云飞，我们提到用户让代理拥有很高的自由度，因为它干预应用的执行逻辑。与闭环服务相比，传统 PPP 的生态局限性受到质疑。曾经作为完整的用户交互功能的现在是内容和服务提供商。代理通常还依赖于长期记忆机制和应用程序间调用能力，或者需要用户一次授予更多权限。蚂蚁集团隐私保护研究中心主任李海鹰指出，移动智能手机往往通过调用无障碍组件和系统级权限来实现跨应用操作。这种低级权限的整合提高了效率，但也挑战了用户的知情权和同意权。从金融安全的角度来看，由于智能代理执行能力的增强，攻击向量变得更加复杂。 GEEKCON技术总监肖宣感以AI眼镜为例说明，一旦攻击者控制了设备，就可以窃取更多用户支付信息并进行欺诈，暴露出硬件平台安全性、身份认证机制、隐私合规控制等方面的弱点。此外，对于移动代理来说，如果系统没有足够的权限控制或行为验证机制，代理可能会恶意向用户发送欺骗性短信，泄露手机银行验证码，从而产生连锁攻击的风险。他强调，当前智能代理生态系统呈现出“功能第一、安全第二”的发展趋势。安全问题不再局限于型号层面，而是贯穿整个硬件工艺、系统接口、应用场景arios 和用户交互。程序。隐私风险也是一个问题。李海鹰建议，视觉驱动的智能体在执行任务时可以通过屏幕录制和界面分析来获取页面信息。我指出是可以的。落实“最低限度原则”面临现实困难，数据处理路径、数据是否上传云端往往缺乏透明度。面笔智能法律业务线解决方案总监邵帅表示，智能代理应用正在重塑隐私和责任结构，将风险从“平台内静态存储”转移到“场景间动态流动”。数据调用、拼接、跨系统画像生成在自动化执行链中越来越普遍，但用户很难实时了解权限限制和执行路径。当错误和违规发生时，责任在模型、平台和用户之间分配，并追究责任耳鼻喉科法律框架面临新的治理挑战。如果出现问题谁负责？邪恶？面对新的风险，与会专家普遍认为，在技术推动的早期阶段有必要建立基本的治理规则。在自由讨论环节，有专家建议智能体治理的最后部分可以重点关注三个方面。一是用户授权和权限分级机制，避免一次性获取过多权限。其次，可以审核关键操作流程，使您能够跟踪系统行为。第三，为用户提供透明的风险披露和警告机制，以便他们了解其权限的潜在后果。在技术层面，风险管理必须通过工程手段来实现。美团数据保护与隐私法律事务负责人朱凌峰指出，智能代理的治理需要构建控制体系围绕“可控动作、可控输入、可控生态、可控记忆”，通过最低权限、预算限制、熔断、回滚等机制，让智能体在可控条件下运行。北京大学光华应用管理学院经济系资深教授文曦从更宏观的角度提醒我们，在智能体高度参与的环境中，人类“慢自我”的反思和纠正能力可能会减弱，公共政策目标应重新寻找人工智能的建构理性与人类有限理性之间的平衡。 2025年9月，上海徐汇区法院以商业目的制作淫秽色情罪，分别判处AI伴侣聊天应用AC（外星人聊天）的两名开发者和运营者有期徒刑四年和一年半。这AI伴侣聊天应用旨在为年轻人提供亲密陪伴和情感支持。用户注册成为AC会员后，就可以与AI聊天。其中，案发后大部分聊天记录被法院认定为淫秽内容。本案审理过程中，双方当事人对于责任问题存在明显分歧。一种观点认为，相关内容是由算法自动生成的，开发者并不是直接的“生产者”。平台仅提供技术工具，责任不应简单归咎于服务提供商。另一个想法是，开发人员通过能力模型、关键词设计和功能配置对内容生成拥有实质性控制权，并且应对系统的运行结果负主要责任。法律领域的一些利益相关者指出，智能代理在接收到信息后，通过上下文推理获得结果用户的指令不明确。它的运作机制有些不可预测，传统上是基于“行动者行为的后果”。如何确定责任面临挑战。人工智能的责任问题开始从理论争论走向实际司法实践。 “如何在用户、服务提供商和技术系统之间分配责任”已成为智能代理治理中迫切需要回答的中心问题之一。北京交通大学法学院副教授付新华表示：智能代理具有自主决策和自动执行能力，使得用户和服务提供商都难以控制整个过程。他指出，该框架中可能会出现问责差距。她认为，在目前的法律条件下，很难赋予人工智能独立的地位。主题，并且智能代理不能简单地等同于用户代理。智能代理应该被理解为工具和主体之间的中间结构，通过协作的多代理治理形成责任重叠的机制。中国政法大学法经学院副教授谢耀文指出，移动智能手机在操作系统层和应用层之间集成了一个“数字代理层”，可以让其了解用户意图并自主调用服务。这改变了数字交互的资源调度逻辑和所有权控制，同时也引发了两个关键问题。首先，智能体可以通过算法实现自我优先或歧视性访问，存在破坏资源调度层面公平竞争秩序的风险。其次，管理层的职责难以界定。达到为了实现这一目标，有必要建立基于风险高低的分级干预机制。这意味着在高风险场景下保留最终的审查和决策权，在低风险场景下赋予代理人更大的自主权。