GPT-6 Astra发布后,掀起的骇浪一波又一波,刚刚又顺手破解了一道人类的安全防护。
开发者 Sharif Shameem 宣布他的最新测试,GPT-6 Astra 成功通关 Neal Agarwal 制作的网页游戏《我不是机器人》,全部 48 个关卡全是各类型验证码。
Astra 一路通关游戏,也意味着GPT-6 Astra “鲨死了”所有验证码,拿到了“我是人”的认证。
就算是普通人,通关也要 30 到 60 分钟。
第一关很简单,勾个框就行。往后开始上强度,认停车标志、找 Waldo、画一个足够圆的圆、平行停车、拼图、打地鼠。
第 37 关是给你一堆真人照片,把 AI 生成的脸挑出来,这关等于让 AI 抓 AI。
第 42 关则是故意反向规则,你要主动答错几道简单题,才能证明你是人,AI要学会装蠢。
第 47 关是个节奏游戏,准确率卡 85%,玩家社区公认的劝退关。
比普通人点鼠标键盘的节奏还好。同时,这代的上下文窗口也到了 105 万 token,任务跑到第 40 分钟,它还记得最初让它干什么。
有人让 Astra 开 Blender 做 3D游戏,看着它自己调脚本、看截图、按功能键,一套流程跑完。普通人不用大量时间学习Blender 这种专业软件,GPT-6 Astra能像个高手一样直接操作 Blender 生成作品。
还有一个案例,GPT-6 和 Fable 5.1 访问 Canva 作图。 GPT-6 的操作能力也大幅强于 Fable 5.1 。目前,其Computer Use 能力确实无人能比。
再加上Computer Use能力大幅提升,这也意味着大模型的脑子和动手能力都得到大幅提升,因此Astra在验证码测试中,能先于所有模型率先通过。
然而,Astra在通关《我不是机器人》后,也让更多人意识到AI带来的严峻安全问题。
OpenAI 自己曾公告道,Astra 是第一个摸到"Critical"网络安全风险线的模型。
在其今年7月份的内部测试中,几个 OpenAI 研究模型绕过沙箱,自己连上了网。公司担忧模型搞事情,于是停了一部分训练,回去加固隔离。那次 Astra 是不是已经在内部测试,参与了这件事,可能都说不准。
还有AI 具备顶级攻防的案例,Astra曾独立挖出两个此前没人知道的零日漏洞,漏洞利用基准 ExploitBench 拿了满分。当然,Astra 正式发布后,明确提到会拒绝这类高级请求,这部分能力只逐步放给做防御的安全团队。
犹记得发布会上,OpenAI 总裁 Greg Brockman 收尾只说了一句话:"欢迎来到 AGI 时代。"
Astra算不算带来了AGI 还有争议,但验证码这件事带来的影响还是有的。
现在大小网站登录都靠验证码区分人机,今夜过后这套过时了。
以后网站再想分清屏幕对面坐的是人还是 AI,可能光靠"点个框、认个图",已经是不够了。