ゼロから始める大規模言語モデル:趣味人の挑戦

2025-02-19

AI愛好家が、Sebastian Raschkaの著書『ゼロから始める大規模言語モデル』を丹念に実践しました。ほとんどのコードを手打ちで記述し、低スペックのラップトップでLLMの構築とファインチューニングに成功。トークナイゼーション、ボキャブラリー構築、モデルトレーニング、テキスト生成、モデルウェイトといった概念を学びました。手打ちコードによる深い理解と補足練習の価値を強調。紙媒体と電子媒体の学習方法の違いについても言及し、より低レベルのAI/ML知識への探求を計画しています。