2024年の大規模言語モデル：ブレークスルーと課題

2024年は、大規模言語モデル（LLM）の分野で目覚ましい進化が見られました。複数の組織がGPT-4のパフォーマンスを上回り、モデルの効率性が劇的に向上し、個人用ラップトップでもLLMを実行できるようになりました。マルチモーダルモデルが一般的になり、音声やビデオ機能も登場しました。プロンプト駆動型アプリ生成はコモディティ化されましたが、最上位モデルへの普遍的なアクセスは数ヶ月間しか続きませんでした。エージェントはまだ実現していませんが、評価の重要性は増しています。AppleのMLXライブラリは優れていましたが、Apple Intelligence機能は期待外れでした。推論スケーリングモデルが登場し、コストを削減し、環境への影響を改善しましたが、新しいインフラストラクチャによる環境問題も提起されました。合成トレーニングデータは非常に効果的でしたが、LLMの使いやすさは依然として課題であり、知識の偏在も解消されていません。より良い批判的評価が必要です。