MIT Technology Review의 기사가 종말 시나리오에서 오프라인 LLM 사용에 대한 논쟁을 불러일으켰습니다. 이로 인해 저자는 로컬 LLM과 오프라인 위키피디아 다운로드의 크기를 비교했습니다. 결과적으로 소형 로컬 LLM(Llama 3.2 3B 등)의 크기는 엄선된 5만 개의 위키피디아 문서와 거의 동일한 것으로 나타났습니다. 반면, 완전한 위키피디아는 가장 큰 LLM보다 훨씬 큽니다. 목적은 다르지만, 이 비교는 로컬 LLM과 오프라인 지식 기반 간의 저장 용량에서 흥미로운 대조를 보여줍니다.
더 보기
이 글에서는 빠른 소프트웨어 개발에 대한 교훈을 자세히 설명합니다. 저자는 프로젝트의 요구 사항에 따라 현실적인 품질 목표를 설정하고, 먼저 기능적인 프로토타입을 만든 다음 개선하는 "개략적인 초안" 접근 방식을 강조합니다. 전략에는 요구 사항 단순화, 산만함 방지, 작고 집중적인 코드 변경 수행이 포함됩니다. 또한 코드 읽기, 데이터 모델링, 스크립팅, 디버깅과 같은 귀중한 기술과 개발 속도를 높이기 위한 LLM의 효과적인 사용에 대해서도 강조합니다. 효율성을 높이고 고품질 소프트웨어를 제공하고자 하는 개발자에게 실용적인 가이드입니다.
더 보기
작성자는 처음에 `git`을 `g`로 줄이는 것과 같이 일반적인 명령어에 대해 쉘 별칭에 크게 의존했습니다. 하지만 몇 가지 중요한 장점 때문에 `$PATH` 내의 스크립트를 사용하는 것으로 전환했습니다. 스크립트는 쉘을 다시 시작할 필요 없이 즉시 업데이트되고, 여러 프로그래밍 언어를 지원하며, 복잡한 로직을 더 효율적으로 처리하고, 다양한 시스템 간에 더 높은 이식성을 제공합니다. 별칭은 특정 틈새 시장(예: `cd` 변경, 조건부 정의)에서 뛰어나며 성능 면에서 약간의 이점이 있지만, 작성자는 일상적인 명령어 별칭의 경우 유연성과 확장성 때문에 스크립트를 선호합니다.
더 보기
저자는 성능 향상과 스토리지 비용 절감을 위해 Zopfli 압축기를 사용하여 npm 패키지 크기를 줄이는 것을 시도했습니다. Zopfli는 gzip보다 더 작은 파일을 생성하지만 속도가 훨씬 느립니다. 저자는 자신의 프로젝트에서 이 방법을 성공적으로 검증하고 npm 관리자에게 제안을 제출했습니다. 그러나 Zopfli로 인한 배포 속도 저하와 npm lockfile과의 호환성 문제로 인해 최종적으로 제안은 거절되었습니다. 실패했지만 저자는 귀중한 경험을 얻었고 가치 있는 시도였다고 생각합니다.
더 보기