全国政协委员、360集团创始人周鸿祎。
中国网3月5日讯(记者 谢露莹)近一段时间,中国人工智能领域迎来里程碑式突破。国产大模型DeepSeek凭借其技术范式的革新和性能优势跻身全球大模型第一梯队,与此同时,大模型与生俱来的“幻觉”问题也引发了广泛讨论。
今年两会期间,全国政协委员、360集团创始人周鸿祎带来了聚焦大模型安全和AI幻觉的建议。他认为,以DeepSeek为代表的大模型取得了“国运级科技成果”,不仅促进了大模型技术自主创新,也带动了上下游产业协同发展,还让大模型加速走进百行千业,成为推动中国科技进步、经济增长和国家强盛的关键力量。但包括DeepSeek在内的大模型都存在“幻觉”,偶尔会生成看似不合理、与事实不符的情况。
“AI幻觉”是一把双刃剑,是大模型与生俱来的特点,不可消除。“幻觉”也决定其创造力和想象力,对于实现AGI(通用人工智能)极其重要。如果大模型没有“幻觉”,就失去了想象力和创造力。
周鸿祎在接受中国网记者采访时表示,越是能力强的模型,一般“幻觉”就越多。在科研领域,大模型的“幻觉”能“想象”新药分子结构、蛋白质的结构等,为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域,“幻觉”虽然可能出错,但可以利用技术手段,如RAG(检索增强生成)技术,通过比对专业知识库、网络实时信息等方式予以矫正。
回顾过去30年,我国法律法规吸纳了“避风港原则”,让企业敢于投入创新,带来了互联网行业的繁荣,也为后来的“互联网+”、如今的“人工智能+”提供了技术、产业和人才支撑。
周鸿祎建议,借鉴吸纳“避风港原则”取得的成功经验,对大模型以及相关产品和服务实施柔性监管,适度包容大模型的“幻觉”,避免直接关停下架,给予企业自我纠正的机会,促进企业大胆创新、放手竞争,争取让更多企业“复制”DeepSeek的成功。
编审:张艳玲 王月博
【责任编辑:谢露莹】