供稿：陈敏毅律师何俊凯实习人员

广东法丞汇俊（白云）律师事务所

随着AI Agent（人工智能智能体）技术的发展，一类能够自动执行电脑操作的AI工具开始在技术社区和社交平台受到关注。

与常见的聊天类AI不同，这类AI智能体不仅能够进行信息交互，更像是一个可以直接帮助用户操作电脑的AI助手。在用户授权范围内，系统可以调用浏览器工具、系统接口或第三方应用程序，自动完成浏览网页、整理文件、生成文档、发送邮件等一系列操作，甚至执行部分自动化任务流程。

也正因为如此，这类AI Agent已经不再只是回答问题或生成内容，而是开始直接参与具体任务的执行。由此，人工智能正逐渐从“信息生成工具”走向“任务执行系统”。

近期在技术圈迅速走红的开源AI智能体工具 OpenClaw ，正是这一趋势的一个典型代表。由于该工具的图标是一只红色龙虾，不少网友将使用这一类AI智能体的过程形象地称为“养龙虾”。这一略带调侃意味的说法，也在网络上迅速传播开来。

从技术发展趋势来看，AI Agent被视为未来数字助手的重要形态之一。然而，在效率提升的同时，这类系统在实际使用过程中也逐渐暴露出一定的安全风险与法律问题。

AI智能体带来的现实风险

随着“养龙虾”等AI智能体工具的传播，一些用户在实际使用中已经遇到了不同类型的问题。

例如，有用户将工作邮箱交给AI管理，希望AI对邮件进行分类，并要求系统“提出归档或删除建议”，同时强调“未经许可不要执行操作”。但在实际运行中，系统却连续删除了数百封邮件，导致大量重要信息被误删。

此外，还有开发者反映，在部署相关工具后，由于API密钥管理不当或发生泄漏，系统接口被持续调用，在短时间内产生了较高的模型调用费用。由于AI智能体通常需要调用外部模型接口，一旦密钥被他人滥用，可能导致较大的经济损失。

与此同时，部分安全机构也提醒，AI智能体系统往往需要较高的运行权限，例如，访问本地文件、读取系统环境变量、调用浏览器或其他软件工具、连接外部API接口等。

如果权限配置不当，或者部署环境缺乏安全防护，相关系统可能面临信息泄露、账户滥用或未授权操作等安全风险。

法律责任的认定

当AI智能体在运行过程中造成损失时，一个常被讨论的问题是：相关责任应当由谁承担？

在现行法律体系下，人工智能通常被视为一种技术工具，而不是独立的法律主体。因此，即使某些操作是由AI自动完成的，法律责任的认定仍然需要回到具体的行为主体，即系统开发者、平台提供者以及实际使用者等。

从法律角度来看，AI智能体可能涉及以下几类风险责任：

数据安全与个人信息保护责任

AI智能体在运行过程中往往需要接入大量数据，例如企业文件、邮箱内容、文件资料或企业内部系统信息等。如果系统在数据处理过程中缺乏必要的安全措施，导致个人信息或企业数据泄露，可能涉及《个人信息保护法》《数据安全法》《网络安全法》等法律规定。如果企业在部署AI系统时未履行必要的数据安全管理义务，可能被认定为未尽数据保护责任，从而承担相应法律责任。

网络安全保障义务

根据《网络安全法》的规定，网络运营者应当采取必要措施保障网络安全。

如果AI系统因权限配置不当、安全机制不足或系统漏洞被利用，从而导致数据泄露或系统遭受攻击，相关平台运营者或系统管理者可能需要承担相应责任。

软件产品缺陷与服务责任

在某些情况下，如果AI系统在设计或开发过程中存在明显缺陷，例如：权限设计不合理、存在重大安全漏洞、未对风险进行充分提示等，并因此给用户造成损失，开发者或服务提供方可能面临产品缺陷责任或服务侵权责任的风险。

用户自身的使用责任

同时，AI智能体通常具有较高的自动化权限。如果用户在未进行风险评估的情况下，将AI系统直接接入企业核心系统或授予过高权限，由此产生的损失，在法律上也可能需要由使用者自行承担部分责任。

例如，将AI接入企业邮箱系统、授予AI访问内部文件服务器权限、将API密钥暴露在公开环境中等。如果这些行为未采取合理的安全措施，使用者可能被认定为未尽合理管理义务。

AI时代的责任边界

AI不是主体，人仍是责任中心

总体而言，当AI系统参与实际操作并产生损失时，法律关注的核心问题并不是“AI做了什么”，而是：

谁部署并管理该系统？

谁授予系统相关权限？

是否履行了合理的安全管理义务？

在当前法律框架下，人工智能仍然只是技术工具，法律责任最终仍然需要由具体的人或组织承担。

律师建议：企业使用AI智能体应注意什么？

结合目前公开的安全提示以及技术发展趋势，在使用AI智能体工具时，可以重点注意以下几个方面：

1.优先在测试或隔离环境中部署

在系统稳定性和安全性尚未充分验证前，避免直接接入生产系统或核心办公电脑。

2.严格遵循最小权限原则

仅授予AI完成任务所必需的权限，避免开放核心数据访问权限。

3.加强账号凭证与API密钥管理

妥善保管API密钥等敏感信息，避免将密钥存储在公开代码或可被访问的环境中，并保留必要的操作日志。

4.谨慎安装第三方插件或扩展工具

来源不明的插件可能引入安全漏洞，应当进行必要的安全评估。

随着AI智能体逐渐进入更多应用场景，企业在享受自动化效率提升的同时，也需要同步建立安全管理机制与风险控制体系。如何在技术创新与风险防控之间取得平衡，也将成为企业在AI时代必须面对的重要课题。

当AI开始“操作电脑”，风险在哪里？——从“养龙虾”热潮看AI智能体的法律风险与责任边界

随着AI Agent（人工智能智能体）技术的发展，一类能够自动执行电脑操作的AI工具开始在技术社区和社交平台受到关注。

也正因为如此，这类AI Agent已经不再只是回答问题或生成内容，而是开始直接参与具体任务的执行。由此，人工智能正逐渐从“信息生成工具”走向“任务执行系统”。

从技术发展趋势来看，AI Agent被视为未来数字助手的重要形态之一。然而，在效率提升的同时，这类系统在实际使用过程中也逐渐暴露出一定的安全风险与法律问题。

AI智能体带来的现实风险

随着“养龙虾”等AI智能体工具的传播，一些用户在实际使用中已经遇到了不同类型的问题。

例如，有用户将工作邮箱交给AI管理，希望AI对邮件进行分类，并要求系统“提出归档或删除建议”，同时强调“未经许可不要执行操作”。但在实际运行中，系统却连续删除了数百封邮件，导致大量重要信息被误删。

与此同时，部分安全机构也提醒，AI智能体系统往往需要较高的运行权限，例如，访问本地文件、读取系统环境变量、调用浏览器或其他软件工具、连接外部API接口等。

如果权限配置不当，或者部署环境缺乏安全防护，相关系统可能面临信息泄露、账户滥用或未授权操作等安全风险。

法律责任的认定

当AI智能体在运行过程中造成损失时，一个常被讨论的问题是：相关责任应当由谁承担？

在现行法律体系下，人工智能通常被视为一种技术工具，而不是独立的法律主体。因此，即使某些操作是由AI自动完成的，法律责任的认定仍然需要回到具体的行为主体，即系统开发者、平台提供者以及实际使用者等。

从法律角度来看，AI智能体可能涉及以下几类风险责任：

数据安全与个人信息保护责任

网络安全保障义务

根据《网络安全法》的规定，网络运营者应当采取必要措施保障网络安全。

如果AI系统因权限配置不当、安全机制不足或系统漏洞被利用，从而导致数据泄露或系统遭受攻击，相关平台运营者或系统管理者可能需要承担相应责任。

软件产品缺陷与服务责任

用户自身的使用责任

同时，AI智能体通常具有较高的自动化权限。如果用户在未进行风险评估的情况下，将AI系统直接接入企业核心系统或授予过高权限，由此产生的损失，在法律上也可能需要由使用者自行承担部分责任。

例如，将AI接入企业邮箱系统、授予AI访问内部文件服务器权限、将API密钥暴露在公开环境中等。如果这些行为未采取合理的安全措施，使用者可能被认定为未尽合理管理义务。

AI时代的责任边界

AI不是主体，人仍是责任中心

总体而言，当AI系统参与实际操作并产生损失时，法律关注的核心问题并不是“AI做了什么”，而是：

谁部署并管理该系统？

谁授予系统相关权限？

是否履行了合理的安全管理义务？

在当前法律框架下，人工智能仍然只是技术工具，法律责任最终仍然需要由具体的人或组织承担。

律师建议：企业使用AI智能体应注意什么？

结合目前公开的安全提示以及技术发展趋势，在使用AI智能体工具时，可以重点注意以下几个方面：

1.优先在测试或隔离环境中部署

在系统稳定性和安全性尚未充分验证前，避免直接接入生产系统或核心办公电脑。

2.严格遵循最小权限原则

仅授予AI完成任务所必需的权限，避免开放核心数据访问权限。

3.加强账号凭证与API密钥管理

妥善保管API密钥等敏感信息，避免将密钥存储在公开代码或可被访问的环境中，并保留必要的操作日志。

4.谨慎安装第三方插件或扩展工具

来源不明的插件可能引入安全漏洞，应当进行必要的安全评估。

随着AI智能体逐渐进入更多应用场景，企业在享受自动化效率提升的同时，也需要同步建立安全管理机制与风险控制体系。如何在技术创新与风险防控之间取得平衡，也将成为企业在AI时代必须面对的重要课题。