人工智能热浪持续涌动。

　　今年初，DeepSeek模型凭借其卓越的推理效率与开源生态成为中国自主创新的重要标杆；宇树科技舞蹈机器人亮相春晚，成就人工智能佳话；在刚刚闭幕的全国两会上，《政府工作报告》多次提及“智能”一词，“大模型”则首次被写入，众多代表委员为人工智能产业发展及相关制度政策完善建言献策。

　　“中国已经成为全球人工智能专利的最大拥有国。”国家知识产权局局长申长雨近日表示，国家知识产权局将进一步加强人工智能知识产权保护，推动建立人工智能大模型领域专利池，助力人工智能企业创新发展。

　　随着人工智能大模型的快速发展及普及应用，尤其是那些与老百姓关系密切的端侧大模型（即在用户设备端，如智能手机、物联网设备等上运行的AI模型）的兴起，与之相关的隐私与安全等新挑战，也浮出水面。对外经济贸易大学法学院教授张欣告诉《法治日报》记者，如何在技术创新与隐私安全之间寻求平衡，如何协调用户体验与数据安全的关系，如何构建负责任的产业生态，是当下需要关注的问题。

　　科技创新为产业注入活力

　　支持大模型广泛应用，大力发展人工智能手机和电脑等，被写入了今年的《政府工作报告》。这也是“人工智能手机和电脑”第一次进入《政府工作报告》。

　　过去的一年，是人工智能手机大规模布局的第一年。为此，2024年，亦被誉为“AI手机元年”。

　　只需要说一句话，AI就可以直接操作你的手机屏幕下单一杯咖啡，口味还是你喜欢的，因为它知道你常用的外卖软件、你常喝的咖啡口味，并通过手机定位找到离你最近的店铺下单。

　　图片美化做得也是如此贴心便捷。AI手机可以直接从拍照之前的AI场景识别、对象主体识别到拍摄时的AI图像处理，再到后期的AI闭眼修复、AI路人消除、AI一键美颜全面介入。

　　……

　　诸多优势使得AI手机备受青睐，许多厂商争先布局AI手机，开辟新的赛道。

　　数据显示，2024年我国智能手机出货量达2.8亿部，同比增长4.7%，预计2025年将进一步攀升至3.0亿部，AI技术渗透与换机需求释放成为关键驱动力。高端化与AI功能渗透成为增长引擎，例如搭载AI功能的机型在高端市场占比已超40%，推动平均售价提升约8%。

　　今年的AI手机在政策利好和技术加持下，势必迎来新的一波发展热潮。从技术上而言，如张欣所说，“从Microsoft的Phi系列到DeepSeek-R1的重磅亮相，端侧大模型正以前所未有的速度迈向轻量化、高性能与低功耗的新阶段。DeepSeek等大模型的开源特性有效降低了产业准入门槛，为AI手机的普及奠定了坚实基础”。

　　国际知名会计师事务所德勤预计，今年有望迎来“换机潮”，到年底，人工智能手机出货份额将超30%。

　　“AI手机是大模型创新与应用的重要领域，大模型的快速发展为智能终端产业注入了新的活力。”中国信息通信研究院互联网法律研究中心主任何波在近日对外经济贸易大学举办的“边缘计算新纪元：端侧大型语言模型的应用、风险与治理前瞻”研讨会上说，应当看到端侧大模型在提升处理能力、改善用户体验方面的积极价值，这种创新探索值得肯定和鼓励。

　　数据安全风险持续增加

　　对于创新，要肯定，要鼓励，更要拿出实际行动保护。

　　“人工智能作为新兴领域，哪些技术需要保护，应采取什么策略进行保护，如何借助知识产权提升企业的竞争力，需要我们认真思考。”申长雨说。

　　为做好人工智能领域的知识产权保护，申长雨赴浙江调研了初创型科技企业知识产权保护工作，并举行了初创型科技企业知识产权保护工作座谈会，听取企业有关意见和建议。

　　对于相关技术的迅速演进与创新部署所带来的一系列治理挑战，也要做好积极应对。

　　北京航空航天大学法学院副教授赵精武发现，各手机厂商纷纷推出智能助手升级版本，增加了精准搜索、跨设备操作等功能。然而，这些创新也伴随着隐私风险。他举例说，一些AI手机系统中默认开启的“增强视觉搜索”功能虽有隐私保护功能，但仍可能在处理照片过程中泄露敏感信息。

　　“未来数据安全风险将持续增加。”赵精武说，整个生态链中参与主体众多，包括手机厂商、应用开发者和第三方服务提供商，各方在数据收集、使用、共享过程中尚未形成明确的责任边界。手机厂商作为硬件和操控系统提供者，具有获取基础用户数据的先天优势，能够收集用户的操作系统版本、设备型号以及使用习惯和位置信息；应用开发者则关注用户的浏览历史、点赞评论等行为数据，实现定制化推送；第三方服务提供商则可能大量接触用户语音类数据，为实现定制化服务进行数据分析。

　　用户数据权限获取的必要性界限模糊问题，在赵精武看来需要特别注意。尤其是，随着人机交互内容可能被用作模型训练数据，其中将包含更多敏感个人信息。

　　在北京大学法学院副院长戴昕看来，端侧大模型所面临的数据安全和隐私保护问题本质上是传统问题的量级扩大，而非全新挑战。“我们在既有网络环境中面临的数据安全和保护问题，例如过度收集、权限滥用、隐蔽教育、云端数据传输风险在端侧大模型时代只是变得更加严重和复杂，解决难度更高。”

　　中国社会科学院法学研究所副研究员唐林垚认为，端侧大模型环境下数据保护机制存在三大缺陷：首先，知情同意更加流于形式，因为AI手机对数据的采集和处理完全无孔不入且实时进行，通常通过一次性授权实现一揽子权限获取；其次，数据授权机制中存在多方主体责任划分不清问题，风险出现时可能相互推诿；第三，用户权利难以实现，特别是当数据用于模型训练时，用户实际上无法知晓数据使用情况，也无法实现定向删除，使得个人信息保护法规定的查阅删除权形同虚设。

　　多种手段促进规范发展

　　关于AI手机带来的风险，一个形象的比喻，“普通用户可能把手机视为一个上锁的笔记本，而无障碍权限的开启相当于将所有抽屉一次性全部打开，这远超出了用户的合理预期。”中国人民大学法学院教授、未来法治研究院副院长丁晓东说。

　　针对未来监管趋势，赵精武预测平台规则将表达得更加显著，提示将做得更加到位，以确保符合个人信息保护法要求。“随着个人信息合规审计新规出台，手机应用合规审计将更加关注最小必要原则、业务相关性、用户知情权、禁止强制捆绑以及动态申请等要求。特别是高敏感权限（如剪贴板、通知栏监听）、非主动用户行为弹窗和权限撤销功能将成为审计重点。”赵精武说。

　　端侧大模型不仅涉及个人信息保护问题，还关系到更广泛的内容安全与数据安全。“如果硬件部署的大模型能够调动手机内的个人信息和数据，这种风险将超越个人层面，对整体数据安全构成威胁。”丁晓东说。

　　丁晓东建议，在支持人工智能发展的同时确保安全与合规：第一重授权是应用厂商层面。端侧大模型必须首先获得应用厂商的明确授权或许可。第二重授权是用户层面。丁晓东强调必须获得用户明确授权，且应采用“选择加入”而非“默认启用”的机制。授权应当非常明确，用户必须主动参与决策过程。还需要建立合同之外的保障，不能让用户一揽子授权后，因信息融合导致隐私侵扰或个人信息泄露。

　　何波认为，要统筹好守正与创新的关系。端侧大模型并非完全“裸奔”，现有法律法规已对相关安全问题有所规定，也同样适用于AI手机监管。例如，网络安全法、数据安全法、个人信息保护法都为监管端侧大模型提供了法律依据，今年1月1日起施行的《网络数据安全管理条例》进一步对涉及自动化工具、生成式人工智能等新兴技术的数据处理活动作出特殊规定。因此应充分利用现有法律资源，区分近期和中远期处理方式，综合运用技术和制度政策等多种手段促进端侧大模型规范发展。