编者按
DeepSeek席卷全网之后，Manus再度霸屏。2025年初，关于人工智能的讨论持续火热。
人工智能应用场景不断拓展，在医疗、教育、金融、制造业、服务业等领域展现出巨大潜力。一方面，人工智能为人们带来了更便捷、高效、智能的生活体验，另一方面，大众对人工智能带来的数据安全、算法伦理、算力能耗等问题存在担忧。
大众日报理论版推出专题，聚焦人工智能发展进程，多视角探究技术发展中的现实挑战，为构建科技向善的良好生态提供专业思考与讨论。
问题：算法，不断升级，风险，不可预知？
中央财经大学副教授、工业与信息化法治研究院（工信部重点实验室）研究员 林洹民：
尊重科技规律 规范算法风险
随着ChatGPT、DeepSeek等通用人工智能的高速发展与广泛应用，人工智能技术已成为新质生产力的重要引擎，逐步渗透进现代社会的方方面面。算法、数据、算力是人工智能发展三要素。人工智能时代的社会治理，离不开对算法的全方位规范。算法本质是一套计算机技术，对算法活动的法律调整，是对科技活动的社会调控，必须充分重视科技系统自身的规律。此外，人工智能算法投入市场，也会对公众产生影响，需要通过“权利-义务-责任”机制调整算法的外在应用。
人工智能属于新一代科技革命中的表征性科技。人工智能研究属于一项专精科技活动，旨在开发出可以自我分析、自我总结、自我纠错的人工智能系统。在大语言模型的加持下，有些科研活动直接瞄准超级人工智能，力图使得人工智能呈现出一种人类尚未发现或无法实现的逻辑形式，进而超越人类智能，探索到人类无法触及的高度。
人工智能研发本质是一项科学研究，相应地，对人工智能算法的规范也应在尊重科技系统自身规律的前提下进行。规范科研活动，应优先借助科技系统自身。对人工智能算法的规范，应通过设计研发伴生性规范的方式，将科研伦理内化于科研过程。我国未来的人工智能法应关注研发过程，强化对科学家遵守科技伦理的要求，规定记录义务、报告义务、安全管理和伦理委员会等制度。
在众多科技伦理制度中，记录与报告义务是科技伦理的基石。记录是科技系统自我观察与调试的基础。人工智能活动引发的风险具有不可预测性，唯有借助科学记录，才能在一定程度上理解正在进行的科研活动。记录义务并非仅存在于实验室，而应贯穿人工智能系统全生命周期。欧盟《人工智能法案》第12条第1款明确要求高风险人工智能系统应具备在运行时自动记录事件的能力，第2款则强调人工智能开发者将人工智能产品投入市场后需要承担产品追踪记录义务。报告义务与记录义务相辅相成，是同一枚硬币的两面。当强人工智能有望实现时，科研工作者更应及时报告，因为强人工智能技术可能是人类最后一个发明，会给作为发明者的人类带来巨大危险。当然，也有人认为人工智能末世论过于夸大人工智能的危险。对此，或许只有时间才能分辨对错，但当奇点时刻来临时，不应仅由科学家决定人类的命运，要让研发者之外的其他人也获得决定权，就必须使其能够实时了解研发进度。
当聚焦人工智能活动时，人们更多关注的是人工智能赋能应用场景。人工智能是一项通用技术，是科学研究、教育、制造、物流、运输、司法、行政、广告、艺术等众多领域与人类生活各方面的赋能者。通过在具体应用场景中的调整，人工智能可以满足多样的需求。以近期备受关注的人形机器人为例，人形机器人就是人工智能技术与场景的叠加和结合的典型，其根据不同场景需求呈现出不同的表现形式，如陪伴机器人、看护机器人以及亲密机器人等。我国工业和信息化部《人形机器人创新发展指导意见》指出，应首先研发出基础版人形机器人整机，打造“公版”通用平台，然后支持不同场景需求下的结构改造、算法优化以及特定能力强化。
相应地，社会公众对算法监管的关注，也主要集中在对人工智能具体应用场景的关注。人工智能在各个领域中的应用不可避免地对个人产生影响，引发算法歧视、隐私侵犯等问题，如大数据“杀熟”、个性化推荐制造“信息茧房”、AI客服骚扰来电、AI假新闻等。这些无孔不入的算法乱象，不仅影响了公众的生活，也削弱着公众对算法技术的信任。法律作为社会回应新型挑战的有力工具，有必要对此进行更为积极的干预，抑制“算法作恶”，引导“技术向善”。法律需要通过权利-义务-责任机制，规范人工智能算法的外在应用。
以权利为例，为了捍卫人的中心地位，用户应享有一系列保护性权利，如知情权、算法解释权等。举例说来，眼下，人工智能生成合成内容日益逼真，用户有权了解新闻、视频是否由人工智能生成。近日，国家网信办等四部门印发《人工智能生成合成内容标识办法》，旨在促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，特别需要注意的是，我国未来的人工智能立法应专门规定请求人工沟通的权利，因为只有保证个人享有表达意见、获得人为干涉的权利，人才不会沦为机器的客体。欧盟《通用数据保护条例》第22条第3款专门规定了用户请求人工干预的权利。相较而言，我国《个人信息保护法》第24条第3款仅规定请求说明算法和拒绝算法决定的权利，并未规定人工沟通的权利。受影响的个人有权与机器背后的人进行有意义的沟通，是捍卫人的主体地位的基本要求。人工智能时代的立法，应更加重视人的主体地位，以人为核心，让科技进步服务于人类福祉。
总之，在人工智能时代，对人工智能算法的法律规制是必要的。同时，政府也应保持谨慎，避免盲目出台政策，阻碍人工智能产业发展。当前，我国监管部门正尝试通过算法备案的方式强化对人工智能活动的监管，应警惕备案成为变相审批，干扰科技研发，过度侵蚀科技系统自主性。对人工智能算法设计的监管，应强化人工智能开发者的持续记录与报告义务，借助科学系统自身的控制阀门实现治理目标。如果未经论证就采取管控措施，可能会阻碍我国人工智能的发展。