AI研发:竭尽全力与明智取舍

作者以童年玩水坝游戏为喻,讲述了在AI研发中“竭尽全力”与“明智取舍”的权衡。起初,作者像个孩子一样,尝试用小石子、树叶等材料筑坝,直到发现使用大铲子能更有效率地筑坝。这让他意识到,有时“胜利”意味着游戏空间的缩小。类似地,在AI领域,作者曾全力以赴争取投资银行的工作,最终获得成功却发现自己失去了“赚取尽可能多金钱”的游戏。他认为,在强大的力量(如自然、市场)面前,全力以赴可能适得其反,而Anthropic在教育领域的最新报告显示,他们开始关注AI发展的潜在风险,就像注意到沙滩上努力生存的小蛤蜊一样。
阅读更多