AI開発における努力の逆説

子供の頃の小川にダムを作る遊びの比喩を用いて、著者はAI開発における最大限の努力と賢明な選択の間の緊張関係を探っています。最初は子供のように、小さな石や葉でダムを作ろうとしていましたが、最終的にはシャベルを使う方が効率的であることを発見しました。「勝利」が、遊びの範囲を狭めることを意味することもあります。同様に、AIの分野では、著者は投資銀行の職を必死に求めていましたが、成功した後、「できるだけ多くの金を稼ぐ」というゲームがもはや不可能であることに気付きました。圧倒的な力（自然、市場）に立ち向かうとき、最大限の努力は逆効果になる可能性があると主張しています。しかし、Anthropicの教育アプリケーションに関する最近のレポートは、潜在的なリスクへの意識の高まりを示唆しており、それは海岸で必死に生きようとする貝殻のようなものです。