Tenstorrent: 추상화 계층 쌓기를 중단하고 AI 컴퓨팅 핵심에 집중하라

이 글은 Tenstorrent의 AI 컴퓨팅 아키텍처 설계를 강하게 비판하며, 추상화 계층(LLK)에 대한 과도한 의존이 비효율성을 초래하고 Nvidia와 같은 거대 기업과의 경쟁을 저해한다고 주장합니다. 저자는 Tenstorrent가 프런트엔드(PyTorch/ONNX 등), 컴파일러(MLIR/LLVM 등), 런타임의 세 가지 핵심 모듈에 집중할 것을 권고합니다. 런타임은 하드웨어에 독립적이어야 하며, 컴파일러는 메모리 배치, 연산 스케줄링, 커널 융합에 집중하고 ELU와 같은 불필요한 활성화 함수를 피해야 합니다. 저자는 아키텍처를 단순화하고 핵심 구성 요소의 성능을 향상시키는 것만으로 Tenstorrent가 AI 컴퓨팅 분야에서 성공할 수 있다고 강조합니다.