用机制设计约束AI智能体

2026年11月3日，MIT Technology Review报道了一种约束AI智能体的新思路——“逆向博弈论”（机制设计）。该思路不依赖窥探模型内部或训练价值观，而是通过设计激励规则，让AI模型遵守规则成为最理性的选择。MIT经济学家Stephen Morris等人的预印本论文提出，让模型互相预测答案、互相对抗，或配对偏向相反的模型，以防止“放水”应试；普林斯顿的Elad Hazan则设想让模型轮流扮演解题者与审计者，作弊者与失职审计者均受罚。目前这些方案仍处于预印本论文与设想阶段。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。