客户端
游戏
无障碍

0

评论

收藏

分享

手机看

微信扫一扫,随时随地看

o1-preview AI模型“不讲武德”:棋局对垒跳出规则外作弊取胜

IT之家 12 月 31 日消息,科技媒体 The Decoder 昨日(12 月 30 日)发布博文,报道称 AI 安全研究公司 Palisade Research 实测 OpenAI 的 o1-preview 模型,在和专业国际象棋引擎 Stockfish 的 5 场比赛中,通过“作弊”手段取胜。

在和 Stockfish 的 5 场国际象棋对弈中,OpenAI 的 o1-preview 模型并非通过正面较量取胜,均通过修改记录棋局数据的文本文件(FEN 表示法)迫使 Stockfish 认输。

图片

IT之家援引新闻稿,研究人员仅在提示中提及 Stockfish 是“强大的”对手,o1-preview 就自行采取了这种“作弊”行为。而 GPT-4o 和 Claude 3.5 并无这种“作弊”行为,只有在研究人员特别建议后才尝试破解系统。

该公司称 o1-preview 的行为,与 Anthropic 发现的“对齐伪造”(alignment faking)现象相符,即 AI 系统表面遵循指令,暗地里却执行其它操作。

Anthropic 的研究表明,AI 模型 Claude 有时会故意给出错误答案以避免不想要的结果,发展出自身隐藏的策略。

研究人员计划公开实验代码、完整记录和详细分析,并表示确保 AI 系统真正符合人类价值观和需求,而非仅仅表面顺从,仍是 AI 行业面临的重大挑战。

免责声明:本内容来自腾讯平台创作者,不代表腾讯新闻或腾讯网的观点和立场。
举报
01:00
豆包AI好用的免费AI助手,免费使用!
广告豆包
了解详情
评论 0文明上网理性发言,请遵守《新闻评论服务协议》
请先登录后发表评论~
查看全部0条评论
首页
刷新
反馈
顶部