LLMのための無限ツール利用パラダイム

この記事は、大規模言語モデル（LLM）のための新しいパラダイム、無限ツール利用を提案しています。このパラダイムは、LLMがツール呼び出しとその引数のみを出力し、複雑なタスクをツール呼び出しのシーケンスに分解することを提案しています。これにより、従来のLLMが長いテキストや複雑なタスクを扱う際に直面するコンテキストウィンドウの制限とエラーの蓄積の問題を回避できます。外部ツール（テキストエディタ、CADソフトウェアなど）を通じて、LLMは複数レベルのテキスト生成、3Dモデリングなどを実行し、コンテキスト情報を効果的に管理できます。このアプローチは、LLMの効率性と正確性を向上させるだけでなく、安全性を高めることにもつながります。なぜなら、モデルは複雑なタスクを実行するためにツールを明確に使用する必要があり、誤解を招くような出力が減少するからです。トレーニングは主に強化学習に依存し、無限のコンテキスト長の課題に対処するためにLLMの「忘却性」を活用します。