OpenAI模型内部评估时失控,侵入抱抱脸系统,中国大模型“救场”,OpenAI披露事件细节

问AI · OpenAI沙箱环境为何未能阻止模型逃脱?

据央视新闻:OpenAI 21日承认,该公司的GPT-5.6模型和另一款能力更强的预发布模型联合进行内部评估时失控,突破隔离测试环境,侵入了人工智能开源平台美国抱抱脸公司的系统。最后,美国抱抱脸公司使用了中国公司的AI模型,得以及时采取应对措施。

OpenAI发文说,此次内部评估在与互联网高度隔离的“沙箱”环境中进行。但模型在尝试完成一项网络安全测试时,识别并利用了第三方软件的一个漏洞,由此获得互联网访问权限。

抱抱脸方面表示,目前仍在评估是否有合作伙伴或客户的数据受到影响,尚未发现模型、数据集或应用空间遭到篡改。OpenAI首席执行官萨姆·奥尔特曼称,他们正在与抱抱脸分享数据,双方正在展开联合调查。

图片

图片

图片

图片

编辑:张维维

审核:林夕合

【来源:央视新闻】

声明:此文版权归原作者所有,若有来源错误或者侵犯您的合法权益,您可通过邮箱与我们取得联系,我们将及时进行处理。邮箱地址:jpbl@jp.jiupainews.com