都知道“删库跑路”是梗,他真干了,也真判了——北京首例破坏人工智能模型刑事案件终审

图片


随着大模型、AI短剧等业务快速落地,AI训练数据集、模型权重、服务器算力集群已经成为科技企业的核心资产。

近日,北京首例破坏人工智能模型刑事案件二审审结,算法工程师为承接私活,执行“删库跑路”代码,删除89TB AI核心研发数据,最终承担刑事与民事双重责任。该案具有标杆意义,明确了AI模型、训练数据集属于刑法保护的计算机信息系统范畴,也给AI企业内部权限管理、数据安全风控带来重要实务启示。

图片


核心数据被删系统瘫痪


“90后”王某毕业于某大学计算机专业,具有丰富的工作经历。2024年,王某进入北京市东城区某科技公司工作,在AI短剧部门担任算法工程师。


此前,AI短剧部门一直将数据存储于公司自行搭建的A服务器集群中,因公司架构调整,2024年7月23日至8月5日,部门先后三次在内部工作群组通知全体人员将本人负责的公司开发数据及个人数据全部从A集群迁移至公司新搭建的B集群,并告知数据迁移后部门不再有继续使用A集群的权限,包括王某在内的部门全体人员均回复“收到”。


2024年9月3日16时许,王某使用此前登录的账号密码登录A集群,输入指令查找AI短剧部门的文件夹,但没找到。随后,他打开AI游戏部门在A集群中的文件夹,输入代码试图拉取该文件夹下的全部文件目录,因系统未及时响应便中止了拉取操作。之后,他做出一个举动:输入一条被称为“删库跑路”的代码,即以最高管理员权限,无须确认,强制删除当前目录下的所有文件和子目录。

图片

随后,王某直接下班离开。等到公司运维人员发现异常后,定位到王某的电脑并中止删除进程,此时,这条“删库跑路”的代码已运行超过17个小时。


“AI游戏部门文件夹里存储的是该部门的全部开发文件,包括公司自主研发的多个人工智能模型以及模型的训练数据。”公司负责人说,王某的行为导致公司模型训练系统功能瘫痪,AI游戏部门的相关研发项目全部停摆。


2024年9月4日,公司人力资源部门相关负责人约谈王某,依据劳动合同和员工手册与其解除劳动关系。公司AI游戏部门则停止一切开发工作,全员投入数据恢复中,经过近20天的努力,大部分被删除数据得以修复。


随后,公司对损失进行审计,认定本次事件造成公司支出人工工资16万余元,恢复数据等消耗的算力资源超过4万元。


2024年10月22日,公司向公安机关报案。11月底,王某被抓获。2025年2月,该案被移送至东城区检察院审查起诉。


AI模型是否属于计算机信息系统?


东城区检察院审查后认为,从技术本质看,人工智能模型是集硬件、软件、数据三位一体的系统,涉案模型硬件部署于A集群,应用目标与规则是按照“机器学习算法”,对输入的数据进行采集清洗、加工训练、参数保存、分布式计算、调取推理等,研发人员通过云端人工智能开发平台、终端指令与之交互,该模型是典型的人机系统。该系统能从数据中自我学习进化,产生超出预设代码的能力,已具备自动处理数据的功能,应当认定为刑法意义上的“计算机信息系统”。


为夯实这一结论,2025年3月26日,东城区检察院向北京市人民检察院申请启动“特邀检察官助理”机制,由北京市检察院指派网络犯罪领域特邀专家,以检察官助理+技术顾问的双重角色参与办案。专家从技术角度进一步进行论证,认为该案中的人工智能模型虽未投入市场运行,但模型训练系统本身属于计算机信息系统。


这一认定具有关键意义。


一旦AI模型训练系统被纳入刑法保护的「计算机信息系统」范畴,意味着此后非法删除、篡改他人AI模型和训练数据的行为,均可追究刑事责任,不再局限于民事赔偿。


在AI大模型时代,这一认定的影响尤为深远。一家公司投入数千万购买GPU、耗费数月训练的大模型,若遭一行代码删除,以往可能仅构成民事纠纷,如今刑事追责的大门已经打开。

图片


算力支出能否认定为经济损失?


破坏计算机信息系统罪认定的经济损失,包括犯罪行为给用户造成的直接经济损失,以及用户为恢复数据、功能而支出的必要费用。


检察官经审查认为,王某的删除行为导致原本满负荷运转的集群GPU利用率直接归零,模型训练进程中断、算力资源闲置,集群系统在修复期间完全丧失了核心功能。公司为恢复数据、重启训练,既投入了人力成本,又投入了算力成本。


其中,算力作为驱动数字经济的新型能源,是人工智能大模型训练的核心生产要素。人力和算力成本均为公司为了消除犯罪行为造成的危害、

恢复系统功能而必须投入的成本,理应将算力支出纳入经济损失认定。

图片


在AI时代,算力之于AI公司,如同电力之于工厂。若一家工厂的电闸被恶意拉断,导致生产线停工二十天,电费损失及恢复生产额外消耗的电力,均属实实在在的成本,理应计入损失。


算力同理。GPU原本满负荷运行训练模型,因一行代码全部闲置二十天,期间算力产出归零,恢复数据又额外消耗算力,这些均应认定为经济损失。


法院最终采纳了这一认定。


这一判例的意义在于,此后AI公司在遭受类似攻击时,不仅可追偿数据恢复的人工成本,算力消耗亦可计入损失。模型和数据不仅是商业资产,在法律上更受刑法保护。但企业自身也必须完善数据安全防护体系,避免因管理疏漏造成不可挽回的损失。

#算力#大模型#人工智能#AI#程序员#删库#计算机信息系统