对抗策略击败超人类围棋AI
2024-12-24
研究人员通过训练针对KataGo（一款最先进的围棋AI）的对抗策略，取得了超过97%的胜率。这些对抗策略并非通过精妙的围棋技巧取胜，而是诱导KataGo犯下严重的错误。这种攻击方法无需重新训练即可应用于其他超人类围棋AI，甚至人类专家也能轻松掌握并以此击败超人类AI。研究结果表明，即使是超人类AI系统也可能存在意想不到的缺陷。
研究人员通过训练针对KataGo（一款最先进的围棋AI）的对抗策略，取得了超过97%的胜率。这些对抗策略并非通过精妙的围棋技巧取胜，而是诱导KataGo犯下严重的错误。这种攻击方法无需重新训练即可应用于其他超人类围棋AI，甚至人类专家也能轻松掌握并以此击败超人类AI。研究结果表明，即使是超人类AI系统也可能存在意想不到的缺陷。