ChatGPT带来的冲击波及应对思考

随着人工智能研究的不断进步，业界和学界尝试着使用不同的算法模型构建各类应用场景下的人工智能产品。在这一过程中，人机交互、机器翻译、语音识别、自然语言生成、大数据处理等一系列前沿技术已经取得令人瞩目的突破，ChatGPT正是基于这些技术的积累，将通用型人工智能产品提升到了新的高度。ChatGPT在引发人工智能产业革命的同时，伴随而来的技术伦理、数据安全、版权归属、个人隐私等问题也面临许多现实挑战，需要业界与学界更多的思考和实践。

ChatGPT凭借出色的处理能力和多样化的应用场景迅速走红，吸引了全球用户的广泛关注，其背后不仅体现出人工智能技术的积累与优化，也得益于互联网多年发展形成的信息沃土。同时，ChatGPT的火爆也凸显出许多新兴的法律和伦理挑战，人类如何与人工智能交互将成为网络空间治理的重要课题。

1．ChatGPT不是“横空出世”，是多年循序渐进的技术积累。ChatGPT是美国人工智能研究公司OpenAI推出的聊天机器人，于2022年11月3日正式发布后在短短一周内用户量突破100万，随后迅速在全球走红。2023年3月17日，基于GPT4.0技术的ChatGPT升级版正式发布，新版本增加了多模态内容生成等功能，其高效的处理能力、优秀的交互水平以及丰富的可拓展性再次引起业界热议。ChatGPT的核心技术是生成式预训练转换模型（GPT），通过互联网海量语料与人工训练的方式生成与用户对话的交互内容，因此也被称为“生成式人工智能”。根据OpenAI的官方说法，ChatGPT可以进行“回答问题”“语言翻译”“文本生成”“用户聊天”“情绪分析”“语音识别”“图像识别”“拼写检查”等功能，并可根据用户使用中的反馈不断修正迭代。

ChatGPT看似突然爆火，其实背后存在着长期的技术试错与行业积累。从ChatGPT本身来看，OpenAI早在2018年6月就发布ChatGPT底层GPT技术的初代版本，后又经过不断升级GPT2.0、GPT3.0、GPT3.5直至目前最新的GPT4.0版本。而从行业来看，类似ChatGPT的人机对话交互产品近年也层出不穷，如谷歌2011年发布聊天机器人“Talk Guru”，随后又于2016年发布“Google Assistant”、2017年发布“Chatbase”、2020年发布“Meena”、2021年发布“LaMDA”、2022年发布“Sparrow”以及2023年3月发布“Bard”等。其他公司如微软也于2014年发布“小冰”“小娜”、2016年发布“Tay”，脸书母公司Meta在2022年发布“BlenderBot”，Quora公司2022年发布“Poe”等。这些聊天机器人有些相似的语言模型和交互风格，其原理大致相同。诚如Meta首席人工智能科学家燕乐存所言：“就底层技术而言，ChatGPT并不是多么了不得的创新。”

2．ChatGPT不会“无中生有”，海量互联网信息是其培养沃土。根据OpenAI公布的开发论文显示，ChatGPT所获取的知识来源于数据库与网络搜索，并通过训练奖励模型来预测人类偏好，使用强化学习或拒绝抽样对其进行优化，从而提高模型答案的有用性和准确性。即ChatGPT所展现的内容本质上来源于公开信息，ChatGPT像过滤器一样通过算法模型来为用户呈现出最具有准确性的答案。意味着ChatGPT的所有生成内容都是有迹可循的，虽然可能通过语言模型将表达方式改变，但本质上仍然是对已有信息的再处理。

这种特性也使ChatGPT引起了诸多关于知识版权与内容剽窃的争议。ChatGPT所生成的内容版权属于ChatGPT开发者、使用者还是所引用的来源数据库，目前仍没有定论。中国信通院云计算与大数据研究所所长何宝宏曾表示：“在用户引导问答的过程中，ChatGPT的回答缺失对于来源的引用，这样有可能在用户未注明来源对生成内容进行使用时造成剽窃。”美国语言学家诺姆·乔姆斯基则直接表明“ChatGPT是一个高科技剽窃系统”。基于版权划分不清、责任归属模糊等问题，多家权威期刊、高校以及研究机构已对ChatGPT使用做出限制，《科学》已经明确禁止使用ChatGPT生成的文本，《自然》表示不能将ChatGPT列为合著者，香港大学、乔治华盛顿大学、巴黎政治学院、东京大学等也已经禁止学生使用ChatGPT撰写论文。

3．ChatGPT不能“为所欲为”，其使用必须遵循人类社会的道德规范。作为一款人工智能技术，ChatGPT拥有着深厚的科学基础以及广泛的可应用空间，但同时ChatGPT作为一种大众化产品，也必须遵循人类社会的科技伦理与道德准则。华盛顿大学艾米丽·本德与安吉丽娜·麦克米兰研究指出，ChatGPT使用的底层GPT技术就像是“随机说话的鹦鹉”，它们的知识仅来自训练数据中的统计规律，而不是类似人类的将世界作为一个复杂而抽象的系统。这种差异导致ChatGPT等人工智能在理解能力上与人类思维的本质差别，同时也产生了相伴随的技术伦理风险，限制ChatGPT等类似人工智能产品发展的不仅是技术水平，而是更为深层次的面向大众化之后的道德规范问题。由于ChatGPT的训练是基于大语言模型，且随着用户使用的反馈而不断更新，这导致ChatGPT所生成的内容难以具体控制，极易被部分别有用心者利用。美国新闻网站信任评级机构NewsGuard经过评测发现ChatGPT可被不法分子用于编造虚假信息，并将ChatGPT称为“下一个伟大的错误信息超级传播者”，OpenAI首席技术官米拉·穆拉蒂（Mira Murati）也曾表示“ChatGPT可能会编造事实并被危险分子使用”。

OpenAI在ChatGPT开发报告中表示已经针对敏感问题做了技术规避，并加强了ChatGPT的安全缓解措施，但利用ChatGPT编造谣言的负面案例仍然层出不穷。随意杜撰和事实误导仍成为ChatGPT面临的最大道德风险之一，在全球的网络平台上已经出现大量经ChatGPT编造的虚假新闻事件、人物关系、研究成果等，成为未来网络空间治理的又一难点问题。

ChatGPT推动了许多领域的自动化和智能化进程，使得诸如文案写作、信息检索、数据处理等变得更加高效，深刻影响着传统行业秩序与工作习惯。然而，ChatGPT的普及也带来了诸如技术垄断与内容安全等方面潜在风险，促使人们在享用技术便利的同时更需保持警惕，确保人工智能能够服务于更广泛的社会利益。

1．作为辅助工具提升人力工作效率。作为一种对话型聊天机器人，ChatGPT的突然火热得益于它对人力劳动的超强模仿能力，引发全球社会对ChatGPT是否会取代人类工作的担忧和警惕。从现有表现来看，ChatGPT确实能够完成诸如公文写作、编程纠错、图形创作、知识检索以及数据自动处理等以往通常由人力完成的工作，而且ChatGPT提供外接插件接口，用户能够将ChatGPT作为一种底层技术，移植到各类已有的产品当中。例如，微软已经将ChatGPT与必应搜索以及Office结合，这使得ChatGPT拥有成为人工智能时代技术基础设施的潜力，为ChatGPT的未来应用提供了无限可能。同时ChatGPT也有自身缺点，ChatGPT所生成的内容具有明显的规范特征，在输出结构上通常有固定的格式模板，而且回答所引用的许多知识经不起实际推敲，难以避免会产生错误回答，其生成内容的精准度、正确率和真实性仍有待提高，远远未达到人类实际工作的基本水平。正如OpenAI公司在介绍ChatGPT局限性时表示“有时会写出听起来似是而非但不正确或荒谬的答案”。这些问题是目前人工智能产品的通病，也是ChatGPT想要获得长远发展必须要解决的实际问题。因此对于大多数工种和职业来说，ChatGPT仍远远算不上威胁，与之相反的ChatGPT更像是辅助完成人类工作的具体工具，发挥替代重复劳动和提升工作效率的作用。

2．与虚拟角色结合成为网络空间重要主体。近年来，网络空间中的虚拟角色如雨后春笋般大量涌现，诸如虚拟新闻播音员、虚拟游戏主播、虚拟偶像人物等。虽然这些虚拟角色较为初级，但是其发展快速且前景广阔，尤其是ChatGPT的出现为这些虚拟角色发展提供了新机遇。一方面，ChatGPT本身已经被人为地赋予虚拟人物形象，以第一人称的口吻与用户完成交互，代表着目前对话机器人的最高水平。另一方面，ChatGPT官方提供了技术接口，可以直接将ChatGPT与其他虚拟角色相结合，从而创造出更多真假难辨、形象丰富的虚拟人物，成为网络空间中不可忽视的主体存在。国内已有多家上市公司宣布将虚拟角色接入ChatGPT接口，抖音、快手以及国际上的短视频和直播平台中，也已经有大量虚拟角色活跃。同时值得注意的是，ChatGPT在回答用户问题时通过算法模型得出最佳答案，带有一定程度的价值判断与信息选择能力，因此在以ChatGPT为基础的虚拟角色成为网络空间中的重要主体后，部分用户会产生“人工智能比人脑厉害”“机器不会出错”等技术崇拜心理，将ChatGPT的回答视作绝对理性的正确选择，尤其是面对社会争议事件时将ChatGPT的回答作为价值评判参考，或者向ChatGPT寻求类似占卜的解决办法，并可能最终导致ChatGPT和相关虚拟角色成为网络KOL。

3．技术壁垒日益提升促成新行业垄断。ChatGPT以聊天对话的形式与用户完成交流，这种看似简单的背后是长年累积的技术更新以及不计其数的资金投入。OpenAI没有公布ChatGPT的具体投资情况，但业界普遍认为其开发与运营成本极其惊人。国盛证券估算ChatGPT初始投入成本约为8亿美元，上线运营时每日仅电费就达到5万美元左右。复旦大学计算机科学技术学院教授张奇判断ChatGPT硬件投资大约为十几亿元，还不包括研究人员和用户数据收集的成本。微软也宣布与OpenAI扩大投资协议，预计规模可能在未来几年达到100亿美元，以支持ChatGPT继续发展。高昂的成本使众多想要模仿ChatGPT的公司望而却步，在技术壁垒形成后，依托国际互联网巨头的ChatGPT极易形成新的行业垄断地位，并以此为基础创造出超额市场利润，这也是大量资本对其趋之若鹜的重要原因。对话聊天仅是ChatGPT的基础功能之一，其更多的应用潜力正在逐步探索中，背后的投资者也更加相信ChatGPT会像操作系统、芯片架构、精密光刻等底层技术一样，通过前期的高投入来达到后期的垄断利益。而且从行业现状来看，目前ChatGPT的投资者和竞争者也主要是全球头部互联网企业，微软、谷歌、Meta等公司均在各自领域处于绝对优势，ChatGPT的火热开辟出全球人工智能产业的新赛道，在资本与技术的多重碰撞中也将最终决出新的行业垄断。

4．生成内容不可控将难以避免安全风险。面对用户的指令，ChatGPT基于海量的信息资源匹配出最佳回答，这个过程完全由算法模型自动完成，即使是开发者也无法预料到ChatGPT会回答出什么信息，只能尽可能地提前预设需要规避的敏感话题，而且由于信息资源在不断更新，ChatGPT不可避免地会呈现出敏感内容，以及ChatGPT同时也在基于用户反馈进行自我更新，这种机制下会隐秘且自动地对用户信息进行传输。而更严肃的是，ChatGPT无法分辨使用者的身份与意图，极容易被不法分子突破规则限制而进行各类违法犯罪行为，如讲解如何制作违禁物品、撰写低俗暴力内容等。埃隆·马斯克曾公开表示：“ChatGPT向人们展示了人工智能已经变得多么先进，但人工智能还没有任何规则或法规来控制其发展，这实际上对社会的风险更大。”OpenAI首席执行官山姆·奥特曼也警告称：“应当设立类似国际原子能机构的组织来监管ChatGPT等人工智能的发展。”在我国，由于当前市面上ChatGPT以及同类人工智能产品大多发源于西方国家，与我国文化背景与意识形态存在诸多差异，在此背景下更易形成潜在未知的安全风险。在国际形势错综复杂，地缘冲突不断爆发、国家间竞争日益激烈的当下，应警惕ChatGPT被有意作为一种新型技术渗透工具，产生更为严重的技术依赖或信息泄露问题。

ChatGPT既有跨时代意义的技术水平与发展潜力，同时其本身也存在成本、监管等方面的固有缺陷。对于ChatGPT带来的全球冲击，不应过于神化或推崇其带来的意义，而需要主动了解，顺应趋势，找准ChatGPT背后所蕴含的语言模型、人机交互、大数据处理等新兴技术方向，为自身发展提供有益借鉴。

1．积极拥抱ChatGPT等新兴人工智能技术。ChatGPT获得全球社会广泛关注，一方面，是展示出人工智能已发展到超乎意料的技术水平，甚至在部分领域已区分不出人工智能与真实人类的能力差别，另一方面，则暴露出ChatGPT等人工智能未来应用的更多潜力，通过插件接口移植到各类应用当中，拓宽了人类对利用人工智能改善生活的想象空间。作为一款商业化聊天对话机器人，ChatGPT受限于市场、用户、投资方等因素影响，未来发展前途仍未可知，但作为一种人工智能技术，ChatGPT向世界展示了人工智能发展的变革趋势，并有可能成为类似芯片、搜索引擎等网络基础设施，催生新一轮科技进步的机遇。当前以人工智能为代表的新科技产业革命正在悄然发生，积极拥抱ChatGPT等新兴人工智能产品，不仅有利于企业抢占市场主动权，对于国家产业发展也具有重要意义，因此ChatGPT的火爆就像一个导火索，引发了全球新一轮人工智能军备竞赛。同时为广大中小企业提供了弯道超车的机遇，ChatGPT展示出未来人工智能应用存在无限可能，且技术研发、产品设计、消费应用等多环节均处于蓝海状态，相关产业结构正在快速变革，市场地位尚未成型，意味着存在许多以小博大的机会以及广阔的发展空间。

2．不可过度追捧避免盲目投入浪费资源。应该理性看待ChatGPT的全球走红，不可过度追捧或者恐慌ChatGPT带来的影响，避免盲目投入导致大量资源浪费。在整体趋势上，人工智能是未来科技的重点发展领域，也是人类社会经济转型的重要推动，但也应清楚地认识到，目前人工智能的发展仍在早期探索当中，未来发展的具体方向仍未确定，真正广泛普及可能至少需要十年甚至数十年时间，这个过程中充满着大量试错与纠偏，ChatGPT能否经受住未来的大浪淘沙尚不确定。更具体地看，ChatGPT以及语言模型技术需要的资源支持是巨大的，不仅前期需要投入大量的硬件和数据成本，后续更新升级、运营维护更需要资金源源不断地注入，实际成本可能远比预算要高。而且目前ChatGPT等人工智能的盈利模式尚不清晰，多数类似产品仍需持续外部输血才可持续，最终很可能仅有少数头部企业能够存活。在积极拥抱ChatGPT的同时，首先在战略上不能一味追求规模和地位，避免盲目参与竞争导致极高的试错成本；其次要找准定位，把握产业中研发、应用、营销等多环节分工，精准切入站稳行业地位；再次要发挥优势，将ChatGPT技术与自身专业结合推出特色产品，如微软结合ChatGPT做出智能搜索引擎和Office相关应用等。

3．始终重视“人”在工作事业中的核心地位。ChatGPT所有内容生成均基于已有资源库，人类日常生产生活所产生的数据是ChatGPT底层语言模型的训练基础。虽然ChatGPT看似智能且高效，但是缺少创造性、无法确定真伪以及内容监管风险等特征是它难以逾越的短板，反而凸显出“人”在工作中的不可替代性。即使将ChatGPT与历史上里程碑式技术产品相类比，如蒸汽机、内燃机、电机、计算机等，这些技术产品也均是促使人类社会和日常生活产生重大变革，改变传统的工作模式与劳工关系，而没有对“人”在工作事业中的核心地位产生动摇。同时，ChatGPT等人工智能普及应用也对人才培养也提出新的要求。一方面，ChatGPT等人工智能无法“无中生有”，需要人工首先设置既定规则与支撑数据，因此如何解决最先的“有”将成为人类工作的核心价值，创造性思维是未来人才培养的重中之重。另一方面，ChatGPT等人工智能均具有个人属性，即同一人工智能产品在不同使用者之间可能会存在巨大的生产力差异，因此熟练掌握人工智能工作逻辑将会成为人才培养的必要技能。更深层次的是，人文价值是人类社会存在的必要基础，也是ChatGPT等人工智能无法突破的技术难点，教师、记者、律师、作家、艺术家、政治家等承载人类价值观念的职业将发挥更为重要的作用。

4．坚持技术自主抢占新兴科技高地。ChatGPT能够成为现象级应用，在短期内风靡全球并非偶然。它不仅仅是一款人工智能产品，更是当代顶尖的自然语言模型、大数据、算法、算力等集大成者，反映出科技进步背后的理论研究、基础设施和科创环境等支撑。从发展潜力看，ChatGPT等人工智能应用已经远超传统的消费级场景，而更为广泛影响着数字经济、信息安全、技术伦理、人机交互等诸多领域，甚至承载着全球主要大国的科技竞赛，不仅为经济工业转型提供新动能，调整全球科技产业布局，也关乎国家安全，是未来国家竞争力的主要体现。因此，应坚持人工智能技术自主创新，抢占全球科技高地，将科技安全与话语权牢牢掌握。经过多年持续不断努力，我国已拥有发展人工智能产业的充足基础，虽然与少数发达国家相比仍然存在差距，但是这种差距会越来越小，甚至在超级计算机、大数据处理、智能算法、通信技术等领域已经实现反超。在ChatGPT发布之前国内已有多个同类研究项目，在其发布后，国内多家企业也宣布将快速研发出替代产品，这说明在人工智能赛道我国至少处于第一梯队。应借助ChatGPT全球走红为契机，进一步推动提升我国人工智能自主创新能力。一是要加大前沿科技投入，为国内科技公司提供更多政策和资金支持，鼓励企业敢于投入，勇于创新；二是要优化科创环境，为中小企业产品创新和科研项目孵化提供更多便利，许多伟大科技产品与公司最初起源于小微工作室；三是要规范技术伦理，人工智能是把双刃剑，不仅促进经济社会发展，也为监管治理提出更高要求，应在鼓励创新基础上坚守伦理底线，尽可能规避技术带来的安全风险。可预见的是，在一以贯之、稳扎稳打的坚持下，未来类似ChatGPT的现象级人工智能应用也将更多在国内涌现。

作者于桂章系上海大学文学院全球学博士研究生；周锡生系新华社原副社长、新华网原董事长兼总编辑