企业应用智能体的合规风险与场景化治理
活动背景:
随着人工智能从“辅助回答”逐步走向“理解任务、调用工具、连接系统并自主执行”,AI Agent与Agentic AI正在加速进入企业经营场景。从智能客服到自动下单,从人工触发到自动执行,智能体正在从“提供建议”进一步走向“代表企业采取行动”。对于企业而言,需要关注的已不再只是模型“答得准不准”,更是智能体“能做什么、可以调用什么、出了问题谁来负责”。
当智能体具备自主规划、工具调用、系统连接和持续执行等能力后,企业面临的数据、内容、权限、安全及责任风险也随之变化。哪些任务可以自主完成?哪些操作必须经过人工确认?智能体应获得何种程度的数据与系统权限?如果出现错误推荐、违规输出或异常操作,企业能否及时发现、纠正并停止?
鉴于此,理购LCOUNCIL特别邀请安杰世泽律师事务所合伙人朱垒律师,结合现行法律规范与监管要求,系统梳理智能体的新增合规风险及企业治理框架,并选取重点实务场景进行实战分析与演练,助力企业构建智能体风险识别思路,理解如何围绕具体场景划分智能体权限、设置人工监督机制、配置工具调用边界,并建立从上线前评估到运行中监控、事件响应和复盘整改的治理闭环。
嘉宾介绍:
朱垒 安杰世泽律师事务所 合伙人
朱律师持有法学硕士学位、法学学士学位、经济学学士学位,同时持有中国律师执业资格证、CIPP/E(欧盟隐私保护认证专家)、CIPM(隐私管理认证专家)、AIGP(人工智能治理专家)、FIP(IAPP研究员)、PIPCA(个人信息保护合规审计专家)、ISO/IEC 27701:2019 Implementation Expert认证。
朱律师先后在爱奇艺、阿里本地生活等头部互联网公司从事隐私保护与数据安全工作,并在竞天公诚律师事务所从事多年网络与数据法律服务,具备头部企业实务经验与红圈律师专业能力,曾主导/参与多部行业相关立法研讨与国家标准制定,如《信息安全技术 网络音视频服务数据安全要求》《网络安全技术 生成式人工智能服务安全基本要求》等。此外,朱律师积极参与各项国际行业组织活动,是IAPP会员及中国区核心志愿者,CSA隐私科技工作组专家成员,参与ISACA设计的CDPSE(隐私保护专家认证证书)中国课程的开发、IAPP组织CIPP/CN(中国隐私认证专家)课程的开发审阅工作;朱律师还作为CSA隐私科技工作组专家,参与编制《隐私计算白皮书》等报告;作为律所专家,参与欧盟AIA原立法组组长专题研讨会并作汇报等沙龙;朱律师还受聘为CCRC培训机构课程讲师、AIGP课程讲师、CIPP/E课程讲师并为多名学员授课。
朱律师被Legal 500评为“数据保护”领域“特别推荐律师”,被律新社评为“数字科技与人工智能律师20佳”。
朱律师的执业领域为网络安全与数据合规、人工智能法律服务、出海合规、TMT合规等公司业务合规及前沿科技法律服务,已为多家头部互联网、人工智能、电商、泛娱乐、大数据、汽车、物流、航空、能源、健康医疗、金融、消费品、供应链、软硬件、云服务、AIOT等企业提供法律服务。
朱律师的工作语言为中文、英文(流利)。
分享内容:
一、从“会回答”到“能执行”:智能体的技术形态与风险变化
(一)基础大模型、AIagent与agentic AI概念区分
(二)企业应用智能体的常见风险与特殊困境
(三)重点行业场景应用风险分析
本部分将介绍基础大模型、AI agent与agentic AI的概念差异,分析智能体在自主感知、任务规划、记忆、工具调用、系统连接和持续执行方面的能力变化,并梳理企业应用中常见的数据风险、内容风险、权限风险、执行风险、安全风险和责任风险。
二、现有法律规范与企业智能体管理框架
(一)中外有关智能体的法律规范与行业实践指南
(二)企业智能体安全合规管理框架
本部分将结合生成式人工智能、算法推荐、深度合成、个人信息保护、数据安全、网络安全和消费者权益保护等规范要求,分析不同业务角色和应用场景的责任边界,并介绍企业可采用的安全治理框架,涵盖场景分级、数据与知识治理、模型与内容安全、身份与工具权限、人机协同与执行控制,以及监测审计与事件响应。
三、场景实战:快消零售智能体的应用与合规
(一)快消零售智能体应用场景与角色分析
(二)典型应用场景拆解分析与演练
本部分将以快消零售为重点,分析智能体在门店经营问答、智能补货、自动下单、会员客服、个性化推荐、门店巡检和价格监测等场景中的应用方式,重点讨论数据使用、消费者权益、营销宣传、算法推荐、人工审核、权限控制和异常处置等问题,并设定场景进行演练。
分享议程:
15:00 活动开始
15:00-16:00 分享环节
16:00-16:30 问答环节
16:30 活动结束