2025年6月10日，欧盟委员会联合研究中心（JRC）发布《生成式人工智能（GenAI）展望报告：探索技术、社会和政策的交集》报告，概述了当前GenAI技术能力、新兴趋势，并分析了对经济、社会的影响。
报告指出，GenAI为医疗保健、教育、科学和创意产业等多个领域的进步提供了多种机会。与此同时，GenAI也带来了重大挑战，包括放大错误信息、偏见、劳动力中断和隐私问题。所有这些问题都是跨领域的，因此，GenAI的快速发展需要多学科方法来全面理解其影响。
报告认为，GenAI有可能在欧盟产生重大的社会和经济影响，需要一种全面和细微的政策方法来应对挑战和机遇，同时确保技术发展与民主价值观和欧盟法律框架完全一致。
该报告的具体内容概述如下。
一、GenAI参与者的全球图景是如何的？
报告指出，目前GenAI活动在数字生态系统中占据越来越大的份额，有超过7.2万组织开展了与GenAI相关的研究出版、创新（专利申请）以及商业和投资活动，这些活动总数超过了14.9万项。
在所有这些组织和活动中，中国总占比最高（60%），其次是美国（11%）。其中在GenAI出版物方面，2023年中国的数量近6000个，几乎是排名第二的欧盟的二倍。
在GenAI专利申请方面，2009-2023年中国排第一，占比80%，美国排第二，占比7%。在500强AI超级计算机的数量方面，中国超200个，美国134个，欧盟50个，不过在计算方面，美国占据了主导地位，例如最近部署的超级计算机中，美国最先进的xAI Colossus仅凭其自身就集成了多达20万个AI芯片。
此外，在商业领域，目前美国仍然是GenAI全球商业创新和部署的中心，如OpenAI、Anthropic、Google DeepMind和Microsoft等公司部署了GPT-4、Claude 3.5和Gemini Ultra等。在GenAI的国外投资方面，美国排第一，例如拥有所有权（指持有超过50%的股权）的全球外资GenAI公司中，美国占比24%，欧盟占8%，日本排第三，中国只有2%。
二、GenAI的未来趋势是如何的？
报告认为，评估GenAI模型和GenAI的网络安全是GenAI政策的重要关注方向。
在评估方面，目前主要有基准测试和对抗性测试，未来主要有以下几个发展趋势：对GenAI评估进行基准测试的新方法将蓬勃发展，包括透明度和对其实际衡量内容的清晰评估；对智能体GenAI系统安全性评估的关注将加强；人类将继续在GenAI评估中发挥关键作用；评估超越人类的能力以及人类无法知晓或察觉的安全问题的需求将变得越来越重要；推动建立GenAI评估科学。
在GenAI网络安全方面，报告认为，GenAI系统容易受到传统网络安全威胁和AI特有漏洞的影响，例如数据和模型中毒、对抗性攻击以及生成内容被滥用于恶意目的。由于依赖第三方数据和模型，这些挑战更加严峻。因此未来需要采取多方面的方法，结合传统软件风险管理与AI特定策略，并考虑完整的攻击面和AI工件，包括数据和模型。
此外，从GenAI技术本身的发展来看，报告认为未来的趋势主要包括：智能体AI，即自主系统独立决策并从结果中学习；多模态AI，即整合多种数据格式，增强多功能性，但也带来偏见挑战；高级AI推理，即通过分析复杂信息并得出逻辑结论来增强决策能力；AI的可解释性，即强调AI系统越来越需要提供以人类可理解的方式解释其输出。
三、GenAI对经济的影响有哪些？
报告认为，GenAI有望改变制造业、零售、医疗保健、创意产业等。GenAI，尤其是智能体AI预计将通过利用先进的数据分析技术，实现智能生产线，从而改变制造业（汽车、电子、消费品等）。
智能体AI还将通过自主和自适应决策，对预测性维护产生颠覆性影响。零售商正在使用GenAI分析消费者行为、预测趋势并定制营销策略。
医生通过GenAI提高诊断的准确性，实现患者个性化护理，还能通过分析海量数据集来检测模式并预测疾病进展，从而帮助早期诊断和治疗规划。
在创意产业中，GenAI能够使艺术家和设计师通过分析受众偏好和趋势创作创新作品。
GenAI对劳动力市场也将带来重要影响。GenAI带来了与工作岗位流失和不平等相关的挑战，但也为提高生产力和稳定就业提供了巨大的潜力。政策制定者和组织必须谨慎应对这些动态，以最大限度地发挥GenAI的优势，同时降低其风险。
四、GenAI对社会的影响有哪些？
GenAI对社会的影响是多方面的，包括带来公民和劳动力技能（尤其是数字技能）差距变化、AI素养培养需求增加、信息操控风险、媒体报道分化、数字公共资源版权争议、环境问题、儿童权利挑战、心理健康问题、强化文化偏见、隐私和数据保护等。
报告指出，AI和GenAI复制某些人类技能的倾向会导致技能替代，同时也新增了对数字和数据技能、横向技能、AI素养等技能的进一步需求。欧盟为此计划在2025年底推出“数字能力框架”3.0版。一些国家近年还增加了AI和GenAI学位课程数量。
报告还指出，GenAI模型正在彻底改变内容创作方式，它使快速、大规模地生成极具说服力的操纵性内容变得异常简单。除了内容创作，GenAI还可以用于大规模的系统性数据投毒，例如，污染免费和开放的知识库或放大在线新闻和社交媒体的传播。
另外，媒体对GenAI的描述往往两极分化，乌托邦式的愿景强调其变革潜力，而反乌托邦式的担忧则警告其伦理影响、工作取代和隐私问题。这种双重叙事塑造了公共话语，并可能影响全球的政策观念。
AI对环境的影响也不容忽视，AI模型特别是GenAI和大型语言模型需要大量的计算资源，导致高能耗、高用水量和高矿产开采。据估计，到2027年，美国预计约有5000个数据中心，欧洲约有2000个数据中心，其电力需求将增加50%，到2030年将增加103%-165%。
GenAI为儿童权利带来了机遇和挑战。一方面，它有潜力提高创造力、沟通能力和信息获取能力，另一方面它也带来了重大风险，例如欺骗性操纵、基于AI的有害内容以及隐私和安全的缺失。
AI聊天机器人和AI伴侣可能会给用户带来各种心理健康问题，如成瘾的行为、寻求认可的倾向，在某些情况下甚至会鼓励诸如自残和饮食失调等有害行为。此外，数字伪造的潜力又增加了一层情感风险，可能会给受此类行为影响的人带来困扰。
GenAI系统可能会延续现有的偏见和刻板印象，特别是如果它们接受反映历史和系统不平等的数据集的训练。例如，在性别词汇关联任务中，最新的模型仍然将女性名字与“家”和“家庭”等传统角色关联起来，而将男性名字与“商业”和“事业”关联起来。在AI图像生成中，女性通常被描绘成年轻且具有顺从的姿态，而男性则显得年长且更具权威性。在招聘中，AI算法被发现更青睐男性候选人，而不是同样合格的女性候选人。
五、GenAI对教育的影响有哪些？
报告认为，GenAI与教育系统的整合正在改变学习、教学和评估的格局，其创新有可能重塑甚至颠覆教育和培训。例如，目前GenAI应用程序可以根据现有内容生成视频或文本学习材料，使教师能够为学生打造个性化的学习体验。此外，AI系统可以充当合作伙伴、共同设计者、苏格拉底式的对手或激励者，帮助学生发展思维。GenAI还能应用于教育管理和决策。
为了确保有效且负责任地使用GenAI，政策制定者、教育工作者和学生必须共同努力，发展支持其融入教育系统所需的能力和政策。这其中AI素养就是重要的能力之一，欧盟委员会和OECD正在开发中小学AI素养框架，目前征求意见稿已发布，最终版计划在2026年初发布。
报告认为，教育工作者在促进学习者的数字能力（包括人工智能素养）方面发挥着至关重要的作用，并支持他们从数字技术机遇中受益，同时应对挑战和风险。这可以通过以下方式实现：教师培训——确保他们接受有效培训，将AI融入教学实践；课程更新——AI技术，包括其伦理、社会和社会层面，应纳入教育课程；教育专用AI模型——开发像EdGPT这样的系统来支持学习和教学；应对AI特有的挑战——教育工作者需要能够解决数据使用、数据隐私、信息偏见和平等访问等问题。
报告同时也指出，尽管GenAI的影响力日益增强，但仍然迫切需要严谨的实证证据来进一步了解其对教育实践的影响，特别是关于它是否能够有效改善教学和学习，以及它对评估的影响。
从目前的研究现状来看，教育领域GenAI的研究主要集中在WEIRD（西方、教育水平高、工业化、富裕和民主）国家，缺乏拉丁美洲和非洲代表；另外大多数研究集中在高等教育，需要对其他教育领域进行更多的研究；研究主题集中于GenAI在考试和任务中的评估及其在教育中的一般性应用，对伦理问题（如负责任地使用GenAI及其对学术诚信的潜在影响）和技术问题，关注相对较少。
为此，报告建议：教育政策应支持教育领域的GenAI研究，确保个人的权利和主权，并处理技术决定论和道德标准之间的紧张关系；应制定政策确保学术和教育的诚信，并修改课程以系统地整合有关AI的教育。
六、GenAI对科学的影响有哪些？
报告认为，GenAI正在重塑科学研究各个流程：
提出问题（或进行观察）——GenAI可以通过帮助研究人员（尤其是新手）完善和理解研究背景，从而彻底改变这一过程。如整合文献，突出模式和差距，从而帮助提出创造性问题。AI还可以自主生成研究目标或假设，有效地“观察”现象，加速问题的提出，并拓展科学好奇心。然而，它也可能无意中强化主流叙事，限制对新想法的探索。
文献综述——GenAI工具和系统（如Elicit、Scite和Scopus AI）通过整合文献搜索、检索和总结，彻底改变了这一流程。尽管仍存在一些担忧，但GenAI可以促进跨学科理论基础的获取。此外，快速生成复杂研究论文摘要或以对话方式回答问题的能力可以帮助研究人员消化比以往更多的信息。然而，研究人员必须面对可能出现的不准确性和幻觉。
构建假设——GenAI通过识别数据和文献中的模式，支持构建基于证据的合理假设。GenAI协助重新构架问题，识别盲点，并提出与研究目标一致的结构化、可验证的陈述。GenAI凭借逐步逻辑等功能，支持假设构建，但可能会忽略需要人类专业知识才能获得的洞见。
通过实验来检验假设——GenAI可自动化实验设计、代码生成和执行，确保从假设到分析的无缝衔接。AI有助于控制变量和识别模式，从而提高实验结果的准确性。
分析数据——GenAI可以通过处理数据集、应用统计方法和生成可视化来加速这一流程。PROTEUS和Agent Laboratory等工具使用大语言模型推理自动化工作流程。AI可跨领域辅助编码、建模和模式发现。GenAI提高了解读的清晰度和速度，但透明度和可靠性是关键。
根据假设的接受或拒绝得出结论——GenAI工具有助于总结结果并将其与假设进行比对。另外，有助于解释输出结果、起草结论并识别不一致之处。但由于存在偏见和过度自信等风险，需要人工验证。如果以负责任的方式集成，GenAI可以支持对研究结果的反思，并鼓励改进假设。
交流研究结果——GenAI支持文稿起草、格式化、编辑和翻译，从而提高清晰度和覆盖面。ChatGPT等工具有助于构建论文结构、生成摘要和多语言报告。GenAI协助撰写拨款申请书和进行演示，修改文档。高效、透明和监督对于维护诚信至关重要。最近的研究凸显了GenAI在科学传播中日益重要的作用：向非专业人士传达科学研究和信息。这些功能包括帮助创建易于理解的摘要、交互式问答、自动创建数据可视化和生成洞察（撰写简短的数据驱动故事）。然而，为了应对错误信息和公众不信任的风险，需要人工监督以确保准确性和可信度。
构建科学社群——GenAI促进跨学科参与和包容性合作。GenAI工具弥合了语言和专业知识的差距，使参与更加民主化，并促进了共同规范。虽然GenAI有助于能力建设和科研诚信，但过分强调GenAI可能会掩盖文化视角。
资料来源：
Navajas Cawood, E., Abendroth-Dias, K., Arias Cabarcos, P. et al. (2025) Generative AI outlook report: exploring the intersection of technology, society, and policy. Publications Office of the European Union. https://data.europa.eu/doi/10.2760/1109679