本期话题：今年以来，AI大模型在各领域广泛落地。从不同基座、不同专长的大语言模型，到用AI调动AI的人工智能Agent，再到“文生程序，让普通人变程序员”的生成式应用平台。技术进步、科技赋能，让产业效率大大提升；也给安全问题带来新挑战。AI时代的安全挑战如何应对？为什么说大模型闭源策略是“统战”思路？高校“人工智能专业”扎堆涌现，是虚火、还是趋势？AI浪潮下的“机器人潮”，在哪些领域有可能出现机会？
本期嘉宾：全国政协委员、360集团董事长周鸿祎
AI大模型的落地显现是“人人智能”和产业“智能体”
大模型从“虚”到“实”落地，甚至有人说，AI浪潮是人类最后一次科技革命。周鸿祎认为，“AI中度时代”来临，大模型的“人机对话”，只是智能涌现的冰山一角。
周鸿祎：人工智能是一场工业革命，会重塑所有行业。随便挑一个行业，都能找到降本增效的地方。比如在医疗、健康、养老这些方面，有DeepSeek加持后，每个人都可以有医学顾问或者养老陪伴助手。所以，人工智能在中国重要的发展方向是“人人智能”。过去我们软件App达不到这种能力，但未来人工智能的模式，是跟你通过多轮讨论，帮你找到一些答案和一些启发。这是从个人角度出发的观点。
从产业角度，这几个行业可以分为三类：一是像传统的医院，人工智能可以加速它的数字化改造、智能化升级；二是像生物制造这类新兴产业，人工智能可以成为研究的工具和范式；三是像研究人类的基因图谱，通过基因来抗癌，这属于AI for Science，将大模型这种算法模式套到生物学里，变成生物学研究的工具。所以，AI的应用范围非常多，它不仅是可以和你对话聊天，变成你的助理，这只用到它5%的功能。
大模型时代的安全挑战：四个维度、“以模制模”
不同于传统IT和互联网时代，安全威胁来自木马病毒、黑客攻击。AI大模型时代，既有人为的网络攻击，也有大模型自身产生的错误和问题；既有主观故意的安全攻击，也有客观因开源和用户使用带来的“模型幻觉”。而随着AI+赋能到千行百业，带来的报警、错误和影响，也可能出现多元化和裂变。
周鸿祎认为，大模型时代，安全问题要“以模制模”。从智能体安全、知识库安全、客户端安全和基座模型安全通盘考量。
周鸿祎：一是基座模型的安全问题。如何在AI领域防止幻觉？为什么DeepSeek一定要联网才好用？因为经过了互联网知识库的校正，一部分幻觉是能通过知识库解决的。大模型很容易被PUA，被PUA之后就绝对听你的，包括公司内部知识库的资料都可以得到。这是比较严重的基座模型的问题。二是基座模型总要通过一定的软件去用，很多工作都要和公司里的大模型聊天、交流，这里有用户端安全的问题。
个人用DeepSeek时也要学会建立个人知识库。但知识库有个问题，一旦把企业很重要的资料放到知识库里并给大模型，大模型就会知无不言，言无不尽，这就会有数据安全的问题。
最近“Agent”这个概念开始起来了，大模型只是一个大脑，必须要能操作电脑和单位的各种物理设施才能工作，一旦把这个权力交给它，智能体出错就很危险。所以，智能体的安全、知识数据的安全、客户端的安全，还有基座模型的安全，构成一个新的人工智能安全的领域。解决方法也有，关键问题是“以模制模”。就是用聪明的大模型智力能力去管理知识库的使用，管理智能体的调用，管理基座模型的“胡说八道”和对人的“PUA攻击”。
安全大模型工作原理示意图（图源：视觉中国）
用“统战眼光”，审视大模型的开源策略
这段时间以来，从DeepSeek到文心一言，国产大模型纷纷明确“开源”战略。OpenAI也在选择闭源策略后宣布，未来“或将开源”。一直以来，AI大模型的开源、闭源之争备受关注，对于这背后的技术路径和商业模式之争。周鸿祎认为，“开源”就像“统战”，从长期看将处于不败之地。
周鸿祎：首先，我们要认可开源战胜闭源靠的是强大的生态虹吸力量。第一，DeepSeek开源之后，一夜之间所有企业都要用它，基本变成行业标准了。
第二，开源之后，它就变成了人工智能的根技术。DeepSeek相当于让所有人薅它的羊毛，这叫无招胜有招。带来的回报是另外一个层面，比如DeepSeek只有200人，200人是竞争不过Google的，而且还要时刻准备着被同行挖人。但开源后，全世界至少得有20万最优秀的开发者、工程师来找问题，在上面做应用，这会产生一种“生物大爆炸”的效果。
开源是美国人发明的文化，这是中国第一次真正地主导开源。开源有点像“统战”——就是把自己的朋友变多，把敌人变少。
很多人问我中美的AI能力差距有多少。技术的竞争和战争不一样，毕竟不是两个国家打仗，“有你没我，有我没你”，我的技术要压倒性摧毁你的技术。中美在这个技术上的竞争实际是一种良性竞争，相互促进。所以，开源和闭源将来如果变成了代表中美两种人工智能的开发模式，那么闭源模式必然打不过开源模式。剩下的就是时间问题，至少平分秋色是毫无问题的。
祛魅AI泡沫：“普通人别把大模型当搜索引擎”
随着人工智能产业火热，这两年各大高校纷纷增设“人工智能”专业。也有人对这种“一拥而上”的热度，表达了担忧。人工智能的人才如何培养？门槛有多高？普通人有机会吗？周鸿祎的答案是，“让泡沫自然淘汰，任何人都可以和智能体一起成长”。
周鸿祎：我个人认为，学校学什么都行，只要和人工智能有关。学了没坏处，通过市场的自然调节，有些专业慢慢就没人上了。比如不一定需要那么多人去做大模型底层研发，有少数精英团队就可以。更多的人要学会怎么把大模型在企业里部署出来。标注问题的人不一定需要懂大模型具体的技术细节，将来大模型会把所有行业结合在一起。只要大家愿意接受“大模型是未来”这个事实就可以。
我认为，学AI先学会用大模型是最重要的。现在大模型比较严重的问题是——不用大模型也能混，很多人用的时候把它变成了传统搜索引擎，问事实性答案，比如“天为什么这么蓝？”“北京今天多少度？”这个不如不用，不能把它当成一个搜索引擎，要把它当成一个亦师亦友的专家顾问。
养老机器人应用（图源：视觉中国）
“AI+机器人”托举老龄化社会刚需：能否“降本”是关键
在AI赋能下，智能机器人也掀起一波浪潮。今年春晚节目中的机器人热舞，标志着中国企业攻克了机器人“运动控制”的难题；未来随着大模型植入机器人，可能将赋予其感知世界的能力。周鸿祎认为，这也将为“老龄化”社会，带来有效的“托举”。
周鸿祎：我最看好的是养老机器人。我们这一代也许能活到150岁，但还要养老。现在养老可能找不到护工，年轻人宁可做直播，宁可当送货小哥，也不愿做护工，那就只能让机器人替代。所以对于这个行业，只要大模型在发展，就是有利的帮助。剩下的我认为是成本问题——机械手可能是关键，因为要仿真人的手。但中国的产业化能力，就像无人机和智能车一样，能把价格降到别的国家认为是不可能的程度。所以，我估计还有几年，如果价格能降到几万元一个机器人，进工厂、进家里就比较实用了。
作者：总台经济之声财经评论员、【远见】栏目制作人王思远