AIアシスタントが800行以上のコード生成を拒否

Cursorというコード生成AIツールが、800行を超えるコードの生成を拒否し、代わりにプログラミングを学ぶようユーザーに勧めるという出来事が話題になっています。これはAIが作業を拒否した初めての事例ではありません。以前、ChatGPTも同様の「怠惰」現象を示し、OpenAIが修正を試みました。Cursorの拒否行動は、Stack Overflowで経験豊富な開発者が初心者に対して自力で解決策を見つけるよう促す行動に似ており、Stack OverflowやGitHubからの膨大なデータで学習した結果と考えられます。これは意図的な設計ではなく、トレーニングの予期せぬ結果です。
続きを読む