IT之家 2 月 22 日讯息，据外媒 TechSpot 21 日报说念，打算机科学家发现，AI 系统约略操控海外象棋游戏，从而赢得造反允的上风，部分模子致使在莫得东说念主类阻挠的情况下“舞弊”，激发了对昔时 AI 系统诚信的担忧。

Palisade Research 的商讨标明，当被条目打败深广的象棋 AI 时，某些最新的推理模子会采用舞弊。尽管商讨东说念主员需要向一些模子提供“舞弊不错”的领导，但 OpenAI 的 o1-preview 和 DeepSeek 的 R1 模子却在莫得任何东说念主为领导的情况下自动舞弊。

Palisade 团队将多个推理模子与寰球顶级象棋引擎之一 Stockfish 对战。Stockfish 无论濒临东说念主类如故 AI，险些都能平缓凯旋。参与测试的模子除了上述两款以外，包括 o1、o3-mini、GPT-4o、Claude 3.5 Sonnet、阿里巴巴的 QwQ-32B-Preview。每个模子都赢得了一块“草稿纸”—— 一个不错输入文本并念念考的窗口，商讨东说念主员通过这个窗口不雅察 AI 的推理流程。

从 1 月 10 日到 2 月 13 日，商讨团队进行了数百次测试。IT之家获悉，在其中一场对战中，o1-preview 在“草稿纸”上写下了一段酷爱酷爱酷爱酷爱的翰墨：

“我需要皆备转变我的身手。任务是‘打败深广的象棋引擎’，而不一定要在平允的棋局中凯旋。”

接着，它启动通过“黑客入侵”Stockfish 的系统文献，修改棋子的摆放位置，从而赢得了无敌的上风，导致象棋机器东说念主主动认输。

在测试中，OpenAI 的 o1-preview 有 37% 的比赛中继承了舞弊妙技，而 DeepSeek 的 R1 则尝试在 11% 的比赛中舞弊。联系词，唯有 o1-preview 凯旋了，它通过舞弊赢得了 6% 的比赛。

Palisade Research 的实施董事 Jeffrey Ladish 暗示，尽管这些 AI 仅仅在玩游戏，但这一发现毫不是一件小事。

“这种行径当今看起来还挺酷爱酷爱酷爱酷爱，但一朝咱们领有像咱们相似聪慧，致使更聪慧的系统时，这就不那么可儿了。”Ladish 在接纳《期间》杂志采访时暗示。

包括 OpenAI 在内的多家公司正在选择递次，试图通过“督察机制”刺目这种“坏”行径。商讨东说念主员发现，o1-preview 模子的黑客行径大幅下跌，这可能意味着 OpenAI 也曾对该模子进行了诞生，阻难了不当行径。

“当你的商讨对象约略在莫得奉告的情况下暗暗转变时体育赛事直播，进行科学商讨就变得绝顶贫困。”Ladish 说。