AI对齐：技术问题与社会选择

本文作者认为，AI对齐问题不仅仅是技术难题（如同图中行星般），更重要的是社会选择问题。我们如何通过购买决策、监管、讨论等方式影响AI的发展方向，这才是AI对齐的关键。作者认为，忽视社会选择，只关注技术层面，就好比只关注实验室里的工作，而忽略了整个医疗产业链对药物的影响一样。作者呼吁关注“社会选择”这个更大的问题，并认为改善“社会选择”效率的方案有很多，例如文中提到的公民组织协议。