随着人工智能的强势崛起，科技领域的目光再次聚集到诸如人形机器人、智能穿戴设备等“端侧人工智能”上。为深入了解端侧人工智能及其产业发展与安全治理的情况，3月16日，由中国社会科学院法学研究所主办的“端侧人工智能产业发展与安全治理研讨会”在京召开。会上，中国社会科学院“人工智能安全治理研究”实验室孵化项目组组长、中国社会科学院法学研究所网络与信息法研究室副主任周辉发布了《端侧人工智能发展与治理研究报告》。

端侧人工智能是指将人工智能算法的运算和决策过程直接部署在终端设备本地完成的技术，通过减少对云端计算的依赖，实现数据的即时处理、低延迟响应和隐私保护。这一技术的核心在于轻量化模型与专用硬件的结合，例如智能手机、智能穿戴设备、物联网终端及人形机器人等，能够在设备端直接完成从感知、推理到执行的闭环操作。与会学者一致表示，要加快梳理端侧人工智能产业、技术及法律治理相关内容，全方位洞察这一新兴领域的发展态势，通过剖析产业现状，进一步把握市场格局、应用场景及发展趋势，为完善国家立法和政府监管、推动产业创新合规发展提出针对性建议。

端侧人工智能具有独特优势

相较于云侧人工智能模式，端侧人工智能具有独特优势。周辉表示，在隐私保护方面，端侧人工智能直接在本地处理数据，避免了数据上传至云端所面临的泄露与滥用风险，最大程度保障用户隐私安全。同时，端侧的实时响应速度极快，数据在设备端直接处理，消除了往返云端的网络延迟，能满足智能驾驶等对实时性要求严苛场景的需求。并且，它对网络依赖度低，在无网络或弱网环境下，依然能凭借自身设备运行人工智能算法，维持基本功能，增强了系统的可靠性。

在人工智能技术与产业的飞速发展下，端侧智能终端已经走进寻常百姓家，人工智能的应用也形成了较为清晰的分层协作体系。中国人民大学法学院副院长张龑认为，当前人工智能应用形成了一个包括“通用能力—领域深化—智能执行—终端落地”四个层次的完整链条，具体来说，就是通用大模型、垂类大模型、AI Agent（智能体）、端侧智能终端四个层次。每个层次对应不同的产业主体，相应地形成不同的义务与职责。因此，端侧人工智能产业的健康发展，既要从端侧人工智能本身的特征进行法律规制，还要明确四个层次主体之间的责权利分配，才能有效地保障终端消费者的合法权益。

着力构建智能体安全框架

近年来，我国从国家到地方层面出台了一系列支持人工智能产业发展的政策，如教育部“人工智能赋能行动”明确提出推动智能技术与教育、科研、社会的深度融合，为端侧人工智能在教育、医疗等领域的应用提供了政策支持。《工业和信息化部等七部门关于推动未来产业创新发展的实施意见》进一步明确了支持智能终端产品研发与应用的方向，为端侧人工智能在消费电子、工业制造等领域的落地提供了政策指引。此外，深圳、广东、武汉等地也推出了专项政策，支持端侧人工智能的技术突破和产业化发展。但是，端侧人工智能在发展中仍面临算力与能耗需求依赖云端、模型可靠性与兼容问题、数据敏感系数与风险升级等诸多挑战。

周辉告诉记者，端侧人工智能的核心优势在于数据本地化处理，减少了数据上传至云端的需求，从而降低了数据泄露的风险。然而，这并不意味着数据安全问题得到了彻底解决。相反，由于端侧设备直接处理用户的敏感数据（如人脸信息、语音记录、健康数据等），一旦设备被攻击或滥用，或者出现授权不明确的情况，风险的直接性或将升高。例如，智能穿戴设备（如智能手表或健康监测设备）通常收集用户的生理数据，如心率、睡眠模式甚至地理位置。这些数据如果被恶意利用，可能会导致用户隐私的严重泄露。

尽管端侧人工智能的发展带来了隐私保护、安全治理、数据权限获取界限模糊等诸多风险挑战，现行的《网络安全法》《数据安全法》《个人信息保护法》等法律法规也有相关规定，为应对这些挑战提供了有力支撑，但仍需要进一步结合新场景、新应用作出细化。中国信通院人工智能研究所高级业务主管呼娜英表示，解决端侧人工智能面临的一系列挑战的关键在于如何立足产业实践，从促进产业发展的角度，分主体、分场景、分层次地剖析问题并形成有效治理机制。当前，中国信通院正积极探索端侧人工智能风险治理领域。在技术层面，着力构建智能体安全框架，从“安全风险、安全属性、安全要求”三个维度对智能体安全体系进行了全面且细致的界定，为智能体的安全体系筑牢根基。

据悉，为全面剖析端侧AI在智能化转型与用户体验提升中的关键作用，推动科技创新和产业创新融合发展，中国社会科学院法学研究所人工智能示范法起草组将结合《端侧人工智能发展与治理研究报告》并吸收本次研讨成果，在3月底更新发布的《人工智能示范法3.0》上补充修订端侧AI特殊规则原则。人工智能示范法起草组成员、北京理工大学智能科技法律研究中心研究员王磊表示，《人工智能示范法3.0》将从整合创新条款，激励端侧AI发展；明确主体责任义务，保障用户权益；修改终端权限安全保障，增强安全与合规；简化执行环境安全保障，平衡技术与风险；完善跨应用权限管理，强化协同合作五个方面，修订端侧AI特殊规则原则。

与会学者表示，面对未来端侧人工智能的发展，要提高发展与安全的一致性，既不能为追求发展速度而忽视安全风险，也不应为了过度追求安全而阻碍技术创新与发展。通过建立发展与安全并重的理念，推动端侧人工智能在隐私保护、数据安全和算法可靠性等方面实现全面优化，从而构建可持续发展的人工智能生态。

来源：社科院专刊，总第750期。