オープンソースツールが巨大言語モデルの内部動作を明らかに

Anthropicは、巨大言語モデルの「思考プロセス」をトレースするための新しいオープンソースツールを公開しました。このツールは、属性グラフを生成し、モデルが意思決定に至るまでの内部ステップを視覚化します。ユーザーはNeuronpediaプラットフォームでこれらのグラフをインタラクティブに探索し、複数ステップの推論や多言語表現などの動作を研究できます。このリリースは、巨大言語モデルの解釈可能性に関する研究を加速し、AI能力の進歩と内部メカニズムの理解のギャップを埋めることを目指しています。